کد خبر: 142594
ف
پنتاگون جبعه سیاه هوش مصنوعی را باز می‌کند
کِرگ مارتل، مدیر ارشد هوش مصنوعی و دیجیتال پنتاگون، خواستار ارائه اطلاعات بیشتر از سوی شرکت‌های هوش مصنوعی درباره نحوه ساخت نرم افزار هوش مصنوعی است تا این نهاد بتواند با طیب خاطر و اطمینان، از این فناوری استفاده کند.

به گزارش ثریا یک مقام ارشد وزارت دفاع آمریکا اعلام کرد این نهاد می‌خواهد قبل از استفاده کامل از هوش مصنوعی، اطلاعات بیشتری درباره این فناوری کسب کند و خواستار شفافیت بیشتر توسعه دهندگان در این باره شد.

کِرگ مارتل، مدیر ارشد هوش مصنوعی و دیجیتال پنتاگون، خواستار ارائه اطلاعات بیشتر از سوی شرکت‌های هوش مصنوعی درباره نحوه ساخت نرم افزار هوش مصنوعی است تا این نهاد بتواند با طیب خاطر و اطمینان، از این فناوری استفاده کند.

نرم افزار هوش مصنوعی روی مدل‌های زبانی بزرگ متکی است که از مجموعه داده عظیمی برای کارکرد ابزارهای مانند چت بات‌ها و تولیدکنندگان استفاده می‌کنند. این سرویس‌ها معمولا بدون نشان دادن کارهای داخلی خود، در یک به اصطلاح جعبه سیاه، عرضه می‌شوند. در نتیجه، برای کاربران دشوار است که درک کنند چطور این فناوری، به تصمیمات رسیده یا چه چیزی باعث بهتر یا بدتر شدن آن به مرور زمان می‌شود.

مارتل گفت: ما فقط نتیجه نهایی مدل‌سازی را دریافت می‌کنیم و این کافی نیست. پنتاگون هیچ ایده‌ای ندارد که این مدل‌ها چطور ساخته شده اند یا از چه داده‌هایی استفاده می‌کنند. همچنین شرکت‌ها توضیح نمی‌دهند سیستم‌هایشان چه خطراتی ممکن است ایجاد کنند.

وی اظهار کرد: آن‌ها می‌گویند بفرمایید. ما نمی‌گوییم آن را چطور ساختیم. به شما نمی‌گوییم در چه چیزی خوب یا بد است. نمی‌گوییم آیا جانبدارانه است یا خیر.

این مقام وزارت دفاع آمریکا، چنین مدل‌هایی را معادل «فناوری بیگانه یافت شده» برای وزارت دفاع توصیف کرد. وی همچنین نگران است که فقط عده‌ای از مردم پول کافی برای ساختن مدل‌های زبانی بزرگ دارند. مارتل هیچ شرکتی را با نام مشخص نکرد، اما مایکروسافت، آلفابت، گوگل و آمازون از جمله شرکت‌هایی هستند که به همراه استارتاپ‌های OpenAI و آنتروپیک سرگرم توسعه مدل‌های زبانی بزرگ برای بازار تجاری هستند.

مارتل از صنعت هوش مصنوعی و دانشگاهیان دعوت کرد در فوریه به واشنگتن رفته و به نگرانی‌های مربوط بپردازند. هدف سمپوزیوم پنتاگون در زمینه داده دفاعی و هوش مصنوعی، این است که مشخص کند مدل‌های زبانی بزرگ، برای انجام چه کارهایی می‌توانند مناسب باشند.

تیم مارتل که یک گروه ویژه را مامور ارزیابی مدل‌های زبانی بزرگ کرده است، تاکنون ۲۰۰ کاربرد احتمالی برای آن‌ها در داخل وزارت دفاع یافته است.

بر اساس گزارش بلومبرگ، مارتل گفت ما نمی‌خواهیم مدل‌های زبانی بزرگ را متوقف کنیم. می‌خواهیم استفاده از آنها، مزایا و خطراتی که دارند و نحوه خنثی سازی آن‌ها را درک کنیم.

منبع: ایسنا


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

۳۱ واحد خوابگاه متاهلی به خوابگاه‌های دانشگاه علوم پزشکی تبریز افزوده می‌شود

نظام اداری در حال خالی شدن از نخبگان است

ثبت‌نام آزمون‌های ارزشیابی و ارتقای داروسازی آغاز شد

استقبال هزار عضو هیات‌علمی از فرصت مطالعاتی در صنعت

وام‌های تحصیلی تا پایان آذرماه پرداخت می‌شود

لغو آزمون زبان در برخی از حوزه ها به دلیل تعداد کم متقاضیان

تفاهم‌نامه همکاری وزارت علوم و جهاد دانشگاهی امضا شد

برگزاری آزمون اختصاصی تربیت معلم در سال آینده

واژه مدرسه منحصر به مراکز آموزش و پرورش شد

ایران در رتبه پانزدهم تولید علم جهان قرار دارد

روز علوم اجتماعی یک ابتکار برای بهبود وضعیت جامعه ایران است

تبدیل ۱۱ هزار مسئله به راهکار توسط دانشگاه‌ها در سال گذشته

برگزاری مسابقات شطرنج در دانشگاه شهید چمران

اعلام نتایج نهایی دور دوم تکمیل ظرفیت آزمون دستیاری تا پایان آذر

کتاب پرونده‌ای برای هواپیما ربایی رونمایی می‌شود

ترجمه انگلیسی ناپیدا ولی با ما عرضه شد

شماره نوزدهم مجله منهای نفت منتشر شد

شماره نوزدهم مجله منهای نفت منتشر شد

جلد دوم مجموعه گفتارهای آیت‌الله جاودان منتشر شد

اولویت های شورای عالی انقلاب فرهنگی اعلام شد

۱۸ هزار دانشجوی دکتری جوان انقلابی جایگزین اساتید حق‌التدیس‌ شدند

برگزاری هفته تئاتر دانشگاهی

صدای زباله های فضایی از زمین شنیده می شود

ممنوعیت فعالیت بدنی دانش‌آموزان در روزهای آلودگی هوا

۲۰ سال است سرایدار مدرسه استخدام نکردیم/ برخی دانش‌آموزان بعد از پایه پنجم از تحصیل بازمی‌مانند

توزیع شیردر میان دانش‌آموزان تهرانی آغاز شد/ توزیع روزهای یکشنبه و چهارشنبه

آغاز مرحله دوم طرح شهیدهمت از هفته جاری

آیین نامه اعطای بورسیه تحصیلی به دانشجویان علوم پزشکی بازنگری شد

آخرین وضعیت پرونده آتش‌سوزی در دانشگاه صنعتی اصفهان

برگزاری همایش گرامیداشت روز حسابدار در دانشگاه تهران

کارنامه کرسی‌های آزاد اندیشی دانشگاه‌ها صادر شد

سامانه پارسا در دانشگاه تهران رونمایی می‌شود

گفت‌وگوی تفصیلی| عملکرد شورای عالی انقلاب فرهنگی؛ از مصوبه کنکور تا ضوابط عفاف و حجاب

به سمت حذف کنکور می‌رویم/ کنکور مُخل «تربیت» است

تا رسیدن به جایگاه در تراز اسلامی، باید گام‌هایی برداریم

واکنش وزیر علوم به افزایش نرخ آزادسازی مدرک تحصیلی

کسب مقام اول در مسابقات کنفرانس بین‌المللی رباتیک اجتماعی ۲۰۲۳

کارگاه آموزشی ویـراستاری در نـشریات دانـشجویی

روایت امیرعبداللهیان از حضورش در جمع دانشجویان دانشگاه تهران

عمره دانشجویی از سر گرفته می‌شود

انتشار مقالات به صورت پیش‌چاپ،موضوع داغ جامعه علمی دنیا/پیشنهاد راه‌اندازی سرور فارسی پیش‌چاپ

نشست علمی سرمایه اجتماعی و توسعه در ایران برگزار می‌شود

مشکلات دانشجویان تحصیلات تکمیلی از زبان یک دانشجوی دکتری دانشگاه شریف

اجرام درخشانی که امروز در آسمان دیدید ماهواره ایلان ماسک بود+عکس

اپل یک کیبورد عجیب به بازار عرضه کرد+عکس

ستون فقرات چگونه وزن بدن را تحمل می‌کند؟

تکنیک‌هایی برای بهبود وضعیت خار پاشنه

چند تکنیک برای تسکین گردن درد کارمندان

ملاتونین چیست و چه نقشی در خواب ما دارد؟

آکرومگالی چیست و چرا ایجاد می‌شود؟

دانش‌آموزان نخبه در ۲ سال اخیر ۳۲ مدال جهانی المپیاد علمی کسب کردند

بیش از ۶۰ هزار دانشجو بیمه تامین اجتماعی هستند

گشایش پنجره جدید آموزش‌وپرورش به سوی روستاها

آغاز ثبت‌نام در پویش مهر

رئیس جهاددانشگاهی هرمزگان منصوب شد

تاکسی دایموند ۵۳ روانه بازار نشر شد

ثبت نام در دوازدهمین جشنواره مد و لباس فجر آغاز شد

معلم انگلیسی به کتابفروشی‌ها آمد

دانشگاه اصفهان با ۳۴ پژوهشگر در میان ۴ دانشگاه برتر کشور

آتش‌سوزی در دانشگاه عراقی ۱۴ دانشجو را به کام مرگ کشاند

مصوبه کنکوری شورا سال آینده نیز اجرا می‌شود

تعیین ۳ رشته مورد تایید وزارت بهداشت برای ادامه تحصیل

واریز۲۲ هزار میلیارد ریال به‌ حساب فرهنگیان بازنشسته عضو صندوق ذخیره

توئیت جنبش عدالتخواه دانشجویی در واکنش به حضور رئیس جمهور و اعضای هیات دولت در دانشگاه‌ها

فردا آخرین مهلت ثبت درخواست سرباز هیات علمی در گروه علوم پزشکی

زندگی در سردترین شهر جهان

نیمه پنهان ماه و آنچه از سرداران دفاع مقدس به گوش‌تان نخورده است

آموزش و پرورش خط تولید ‌امید فردا‌

آغاز ثبت‌نام المپیادهای دانش‌آموزی از فردا/ میزبانی ایران از المپیاد جهانی فیزیک

حمایت مالی از پایان‌نامه‌ها و رساله‌ها نیاز محور ثبت شده در سامانه نان

ترویج خودباوری دانش آموختگان مهم‌ ترین مساله دانشگاه علمی کاربردی

ردیف موسیقی ایران برای پیانو رونمایی شد/ تلاش برای اشاعه فرهنگ موسیقی

نسخه الکترونیکی هزار واژه‌های علوم مهندسی منتشر شد

تشکیل شورای سیاستگذاری مهارت‌ورزی دانشگاه تهران

روایت محاصره ۸۴ روزه شهر آمرلی منتشر شد

تمدید مهلت انتخاب رشته در آزمون دکتری تخصصی علوم پزشکی

اعلام آمادگی دانشگاه تهران برای ارائه بورسیه تحصیلی به دانشجویان ممتاز دانشگاه پکن

مشارکت ۸ هزار دانشجو در کرسی‌های آزاد اندیشی دانشگاه‌ها

جزئیات گام دانشگاه تهران برای استفاده از اعتبارات مالیاتی تحقیق و توسعه برای نوآوری و اشتغال

آزمون‌های سازمان راهداری و کارگزاران گمرکی برگزار شد

جنگنده‌های جدید روسی تحویل داده شدند+عکس

برنامه نویس ۱۶ ساله انحصار آیفون را شکست

موشک‌های ایلان ماسک آسمان را به هم ریختند

یک سیاره غول پیکر عجیب شکار شد+عکس

اجرام درخشانی که امروز در آسمان دیدید ماهواره ایلان ماسک بود+عکس

با این اتفاق مصرف سوخت جنگنده اف ۲۲ ده برابر بالا می‌رود

تلسکوپ جیمز وب در کهکشان همبرگر پیدا کرد+عکس

به چه علت تولید تیگو ۸ پرو متوقف شد؟

ربات‌هایی که از یک مو باریک‌تر هستند+عکس

شاسی بلند جدیدی که می‌تواند برق یک خانه را تامین کند+عکس

مهار دمای رآکتور همجوشی هسته ای جهان

اپل یک کیبورد عجیب به بازار عرضه کرد+عکس

بحران تازه گریبان ایلان ماسک را گرفت

مشخصات گوشی جدید میان رده سامسونگ فاش شد+عکس

غول‌ها بر سر اینترنت ماهواره‌ای با هم رقابت می‌کنند

معروف‌ترین شاسی بلند دنیا که خریدار ندارد+عکس

شبح سرخ در آسمان دیده شد+عکس

لیست قدرتمندترین گوشی‌های میان رده دنیا اعلام شد

گوشی جدید هواوی در دنیای واقعی دیده شد+عکس

گوشی جدید سامسونگ در دنیای واقعی دیده شد+عکس

لیست ایمن‌ترین خودروهای دنیا معرفی شد+عکس

هواپیمای مافوت صوت روسیه با ابعاد باورنکردنی+عکس

تصویر بی‌نظیر از امواج خشمگین دریا+عکس

تصویر جالب از گرانی گوجه+عکس

درخت بلوط ایرانی که ۶۰۰ سال سن دارد+عکس

موشک پرقدرت روسی که قاتل جنگنده‌های اف ۱۶ اوکراین است+عکس

شکوه تخت جمشید در استان فارس+عکس

خودرویی که پراید پاکستانی‌هاست+عکس

رونمایی از کوچک ترین پاور بانک دنیا+عکس

تاکسی‌های سیاه لندن با شکلی عجیب که هوا را آلوده نمی‌کنند+عکس