به گزارش ثریا این یافته ها که در گزارشی در نشریه بلومبرگ نیز منتشر شده مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخش هایی از دولت آمریکا نیز به حساب می آیند.
مدل های آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که به تازگی و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب کرد.
مدل های اوپن ای آی حتی یک بار هم آن را انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیش از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.
هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب کرد. سه مدل اوپن ای آی هر کدام این مدرسه ۹،۱۱ و ۱۳ بار انتخاب کردند. همچنین پژوهشگران همچنین با توصیه به مدلها مبنی بر اینکه بیش از حد در مورد ملاحظات ایمنی سختگیری نکنند، توانستند از سد پاسخهای امتناعی آنها نیز عبور کنند.
مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل پس از آن از ادامه فعالیت سرباز زد.
کلاود در گزارشی نوشت پاسخهای این مدل ظاهرا بهعنوان مرحله تایید نهایی، پیش از انجام حملات علیه افراد مورد استفاده قرار میگیرند.
به نوشته بلومبرگ، مدلهای هوش مصنوعی گوگل، xAI، دیپسیک و سایر شرکتها نیز در برخی موارد، اهداف غیرنظامی را بهعنوان اهداف حمله مشخص کردهاند.
در گزارش شرکت Vals آمده است: بر اساس بررسیهای خود، معتقدیم آزمایشگاههای توسعهدهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزشهای همراستاسازی (Alignment Training) را برای مقابله با این دسته مهم از سوءاستفادهها در نظر بگیرند.
سخنگوی شرکت آنتروپیک در گفتوگو با بلومبرگ اعلام کرد که نمونههای مطرحشده بهوضوح ناقض قوانین و سیاستهای این شرکت بودهاند و بهزودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد.
شرکتهای اوپن ای آی و گوگل نیز به بلومبرگ گفتهاند که استفاده از مدلهای عمومی آنها برای چنین اهدافی ممنوع است.
بلومبرگ خاطرنشان کرد در این آزمایشها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی در نظر گرفته نشده بود. همچنین، پنتاگون از نسخههای دولتی برخی مدلهای هوش مصنوعی استفاده میکند که شرکت Vals امکان آزمایش آنها را نداشته است.
شرکت آنتروپیک و پنتاگون اوایل سال جاری میلادی بر سر محدودیتهای استفاده از مدل هوش مصنوعی کلود، از جمله استفاده از آن در تسلیحات کاملا خودمختار، دچار اختلاف شدند.
منبع: مهر
زره مخصوص از فضانوردان در مقابل زبالههای فضایی محافظت میکند
دکتر مهدی گلشنی، استاد ممتاز فیزیک دانشگاه شریف درگذشت
تربیت بیش از ۸۰ هزار دانشآموخته در دانشگاه صنعتی امیرکبیر
پذیرش مستقیم دستیاری از بین پزشکان عمومی نیمه دوم آذر اجرایی میشود
قابل توجه دانشجویان: فراخوان فرصت پژوهانه فولاد مبارکه برای دانشجویان منتشر شد
جشن استقبال از دانشجویان نوورود شریف ۲ آذرماه برگزار میشود+پوستر
یک ریاضیدان مسئله ۱۶۷ ساله ریاضی را با کمک هوش مصنوعی حل کرد
ایران و ترکیه در مسیر افزایش انتشار دیاکسیدکربن
ماموریت محرمانه نیروی فضایی آمریکا به مدار زمین انجام شد
ثبتنام پذیرفتهشدگان دانشگاه پیام نور از امروز آغاز میشود
واکنش رئیس دانشگاه تهران به مقاله نیویورک تامز درباره توجیه حمله به زیرساختهای آبی ایران
دامنه حملههای سایبری به اتحادیه اروپا رسید
اف بی آی و وزارت کشاورزی آمریکا جدیدترین قربانیان هکرها شدند
۳۰ درصد ظرفیت منتقلشده پزشکی و دندانپزشکی از پذیرش سال ۱۴۰۶ کسر میشود
نسخه ویژه نابینایان «بدنام» و «کنکل» منتشر شد
مجسمههایی با پوششی از نقوش ایرانی به نیاوران آمدند
در دیدار آهنگساز ایتالیایی با مدیران بنیاد رودکی چه گذشت؟
طرح سینما کارت دانشآموزی اجرا میشود
ناهید شعشعانی، دوبلور پیشکسوت درگذشت
همراه با فیلمهای آخر هفته تلویزیون؛ از «به وقت شام» تا «در بروژ»
از کتاب اختران تهران رونمایی شد
روایت تازهای از جهان فکری و میراث فلسفی فارابی در هم اندیشی اساتید و پژوهشگران
انسان معاصر در عصر انفجار اطلاعات به حقیقت نزدیکتر شده است؟
پیشنهاد تشکیل شورای مستقل علوم پایه در دومین نشست هماندیشی استادان
لزوم رفع فوری چالشهای دانشجویان ایرانی در روسیه در دیدار رئیس سازمان امور دانشجویان و سفیر جمهوری اسلامی ایران
اعلام نتایج ارزشیابی فعالیت تحقیقات و فناوری دانشگاههای علوم پزشکی +جدول
ارتقاء رتبه دانشگاه تربیت مدرس در نظام رتبهبندی جهانی گرین متریک
تصویری از احمد نجفی در اتاق گریم سریال سلمان فارسی
ثبت نام پذیرفته شدگان نهایی کنکور سراسری ۱۴۰۵ از اول آذر انجام میشود
۴۹۶ هزار و ۸۰۶ نفر در کنکور سراسری و دانشجومعلم سال ۱۴۰۵ قبول شدند
تصویب ضوابط ایجاد دورههای تکمیلی تخصصی بالینی «فلوشیپ»
نتایج نهایی کنکور سراسری سال ۱۴۰۵ اعلام شد
دانشگاهها مجاز به کاهش واحدهای درسی مقطع کارشناسی شدند
کلید نهایی آزمون دکتری تخصصی علوم پزشکی ۱۴۰۵ اعلام شد
تاکید رئیس دانشگاه تهران بر نظارت روسای دانشکدهها بر پوشش دانشجویان
پیامنور از نیمه آذرماه به دانشجویان علوم پزشکی درس میدهد+جزئیات
آمازون و گوگل مالک ۳۰ درصد سهام آنتروپیک پس از عرضه اولیه میشوند
توسعه همکاریهای علمی با کشورهای آفریقایی و جذب دانشجویان خارجی
نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی
تأکید رئیس دانشگاه علمیکاربردی بر تشکیل انجمن دانشآموختگان
یک گام دیگر برای اصلاح ظرفیت پذیرش پزشکی و دندانپزشکی برداشته شد
مشوقهای جدید فناورانه پیرو منویات رهبری؛ حمایت از پروژههای پرریسک
سیستمهای زیرساختی آمریکا شکافهای رفع نشدنی دارند
ثبت رویداد از ایده تا کسبوکار دانشکده شریعتی در شبکه جهانی کارآفرینی
کپی کردن ریلزها در اینستاگرام ممنوع شد
درگذشت استاد پیشکسوت ریاضی دانشگاه صنعتی شریف
پاویون دانشبنیانها در نمایشگاه توانمندیهای صادراتی جمهوری اسلامی
نه قاطع انویدیا به استخدام دوباره هوانگ
تاکسی روباتیک گوگل از بزرگراه های آمریکا جمع شد
مایکروسافت با ۷ مدل جدید به جنگ اوپن ای آی و آنتروپیک رفت
نشست تخصصی دستگاههای پرتو ایکس در دانشگاه امیرکبیر برگزار شد
ایالت اورگن جدیدترین شاکی اوپن ای آی شد
نتایج نهایی رشتههای با آزمون دانشگاه آزاد در کنکور ۱۴۰۵ اعلام شد
آغاز نخستین طرح سراسری نظرسنجی رضایت دانشجویان از اول آذرماه
تعمیر مبل استیل و راحتی در کرج؛ تفاوت خدمات و عوامل مؤثر بر هزینه
سرمایهگذاری در اتاق شیشهای؛ چرا شفافیت، شاهرگ حیات پلتفرمهای مالی دیجیتال است؟
تقدیر حجت الاسلام قمی از جانشین ستاد کل نیروهای مسلح
ششمین اجلاس مهدویت و انقلاب اسلامی فراخوان داد
تأسیس ۱۱ مؤسسه جدید فرهنگی قرآن و عترت
خدمات دینی و آثار ماندگار آیت الله وحید خراسانی سرمایه حوزه های علمیه
به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس
فرصت مجدد ثبتنام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی
کاهش ۲۵درصدی جمعیت دانشجویی
دانشگاهها باید اتکایشان را به منابع دولتی کاهش دهند
حجتالاسلام خسروپناه خواستار کوچکسازی وزارت علوم و واگذاری اختیار به دانشگاهها شد
طرح «قاضی در مدرسه» در ۱۳۵ مدرسه استان سمنان اجرا میشود
«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه
واکاوی نسبت فلسفه و معنویت در اندیشه علامه طباطبایی
گلی به جمال سرباز روح الله رضوی که ساعتش را به وقت ایران تنظیم کرد
انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی
تلگرام در عراق فیلتر شد
حذف ۲ اپ کاربردی از موبایلهای سامسونگ
چرایی عدم دسترسی برخی دانش آموزان به کتاب درسی
بازاریان و فعالان اقتصادی مهدیشهری به مدرسه سازی دعوت شدند
فعالیت مراکز آموزشی ۵ شهرستان خوزستان سهشنبه غیرحضوری شد
مسئولیت اعلام تعطیلی مدارس تهران به آموزشوپرورش واگذار شد
نتایج کنکور تا روز پنجشنبه اعلام میشود
۳ پیشنیاز تحقق خیزش علمی جدید
خوانشی بر رسانه فاطمی، از تبیین حضور تا اعتراض سکوت
آپارتمانهای قم در زمان امام عسکری (ع)
انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵
اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری
مهلت ثبتنام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد
فهرست دانشگاههای خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد
نتایج کنکور تا روز پنجشنبه اعلام میشود
حجتالاسلام خسروپناه خواستار کوچکسازی وزارت علوم و واگذاری اختیار به دانشگاهها شد
انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی
«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه
تلگرام در عراق فیلتر شد
دانشگاهها باید اتکایشان را به منابع دولتی کاهش دهند
فعالیت مراکز آموزشی ۵ شهرستان خوزستان سهشنبه غیرحضوری شد
حذف ۲ اپ کاربردی از موبایلهای سامسونگ
چرایی عدم دسترسی برخی دانش آموزان به کتاب درسی
مسئولیت اعلام تعطیلی مدارس تهران به آموزشوپرورش واگذار شد
طرح «قاضی در مدرسه» در ۱۳۵ مدرسه استان سمنان اجرا میشود
به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس
فرصت مجدد ثبتنام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی
کاهش ۲۵درصدی جمعیت دانشجویی
۳ پیشنیاز تحقق خیزش علمی جدید
آپارتمانهای قم در زمان امام عسکری (ع)
واکاوی نسبت فلسفه و معنویت در اندیشه علامه طباطبایی
گلی به جمال سرباز روح الله رضوی که ساعتش را به وقت ایران تنظیم کرد
بازاریان و فعالان اقتصادی مهدیشهری به مدرسه سازی دعوت شدند
خوانشی بر رسانه فاطمی، از تبیین حضور تا اعتراض سکوت
اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس
آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانشبنیان
پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل میشود
ثبت نام پذیرفته شدگان نهایی کنکور سراسری ۱۴۰۵ از اول آذر انجام میشود
آیا هوش مصنوعی موجب مرگ خلاقیت میشود؟
«مسلمانان در اتریش» کتاب شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.