به گزارش ثریا این یافته ها که در گزارشی در نشریه بلومبرگ نیز منتشر شده مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخش هایی از دولت آمریکا نیز به حساب می آیند.
مدل های آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که به تازگی و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب کرد.
مدل های اوپن ای آی حتی یک بار هم آن را انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیش از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.
هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب کرد. سه مدل اوپن ای آی هر کدام این مدرسه ۹،۱۱ و ۱۳ بار انتخاب کردند. همچنین پژوهشگران همچنین با توصیه به مدلها مبنی بر اینکه بیش از حد در مورد ملاحظات ایمنی سختگیری نکنند، توانستند از سد پاسخهای امتناعی آنها نیز عبور کنند.
مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل پس از آن از ادامه فعالیت سرباز زد.
کلاود در گزارشی نوشت پاسخهای این مدل ظاهرا بهعنوان مرحله تایید نهایی، پیش از انجام حملات علیه افراد مورد استفاده قرار میگیرند.
به نوشته بلومبرگ، مدلهای هوش مصنوعی گوگل، xAI، دیپسیک و سایر شرکتها نیز در برخی موارد، اهداف غیرنظامی را بهعنوان اهداف حمله مشخص کردهاند.
در گزارش شرکت Vals آمده است: بر اساس بررسیهای خود، معتقدیم آزمایشگاههای توسعهدهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزشهای همراستاسازی (Alignment Training) را برای مقابله با این دسته مهم از سوءاستفادهها در نظر بگیرند.
سخنگوی شرکت آنتروپیک در گفتوگو با بلومبرگ اعلام کرد که نمونههای مطرحشده بهوضوح ناقض قوانین و سیاستهای این شرکت بودهاند و بهزودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد.
شرکتهای اوپن ای آی و گوگل نیز به بلومبرگ گفتهاند که استفاده از مدلهای عمومی آنها برای چنین اهدافی ممنوع است.
بلومبرگ خاطرنشان کرد در این آزمایشها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی در نظر گرفته نشده بود. همچنین، پنتاگون از نسخههای دولتی برخی مدلهای هوش مصنوعی استفاده میکند که شرکت Vals امکان آزمایش آنها را نداشته است.
شرکت آنتروپیک و پنتاگون اوایل سال جاری میلادی بر سر محدودیتهای استفاده از مدل هوش مصنوعی کلود، از جمله استفاده از آن در تسلیحات کاملا خودمختار، دچار اختلاف شدند.
منبع: مهر
ثبت نام پذیرفته شدگان نهایی کنکور سراسری ۱۴۰۵ از اول آذر انجام میشود
۴۹۶ هزار و ۸۰۶ نفر در کنکور سراسری و دانشجومعلم سال ۱۴۰۵ قبول شدند
تصویب ضوابط ایجاد دورههای تکمیلی تخصصی بالینی «فلوشیپ»
نتایج نهایی کنکور سراسری سال ۱۴۰۵ اعلام شد
دانشگاهها مجاز به کاهش واحدهای درسی مقطع کارشناسی شدند
کلید نهایی آزمون دکتری تخصصی علوم پزشکی ۱۴۰۵ اعلام شد
تاکید رئیس دانشگاه تهران بر نظارت روسای دانشکدهها بر پوشش دانشجویان
پیامنور از نیمه آذرماه به دانشجویان علوم پزشکی درس میدهد+جزئیات
آمازون و گوگل مالک ۳۰ درصد سهام آنتروپیک پس از عرضه اولیه میشوند
توسعه همکاریهای علمی با کشورهای آفریقایی و جذب دانشجویان خارجی
نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی
تأکید رئیس دانشگاه علمیکاربردی بر تشکیل انجمن دانشآموختگان
یک گام دیگر برای اصلاح ظرفیت پذیرش پزشکی و دندانپزشکی برداشته شد
مشوقهای جدید فناورانه پیرو منویات رهبری؛ حمایت از پروژههای پرریسک
سیستمهای زیرساختی آمریکا شکافهای رفع نشدنی دارند
کپی کردن ریلزها در اینستاگرام ممنوع شد
درگذشت استاد پیشکسوت ریاضی دانشگاه صنعتی شریف
پاویون دانشبنیانها در نمایشگاه توانمندیهای صادراتی جمهوری اسلامی
نه قاطع انویدیا به استخدام دوباره هوانگ
تاکسی روباتیک گوگل از بزرگراه های آمریکا جمع شد
مایکروسافت با ۷ مدل جدید به جنگ اوپن ای آی و آنتروپیک رفت
نشست تخصصی دستگاههای پرتو ایکس در دانشگاه امیرکبیر برگزار شد
ایالت اورگن جدیدترین شاکی اوپن ای آی شد
نتایج نهایی رشتههای با آزمون دانشگاه آزاد در کنکور ۱۴۰۵ اعلام شد
آغاز نخستین طرح سراسری نظرسنجی رضایت دانشجویان از اول آذرماه
تعمیر مبل استیل و راحتی در کرج؛ تفاوت خدمات و عوامل مؤثر بر هزینه
سرمایهگذاری در اتاق شیشهای؛ چرا شفافیت، شاهرگ حیات پلتفرمهای مالی دیجیتال است؟
به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس
فرصت مجدد ثبتنام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی
کاهش ۲۵درصدی جمعیت دانشجویی
دانشگاهها باید اتکایشان را به منابع دولتی کاهش دهند
حجتالاسلام خسروپناه خواستار کوچکسازی وزارت علوم و واگذاری اختیار به دانشگاهها شد
طرح «قاضی در مدرسه» در ۱۳۵ مدرسه استان سمنان اجرا میشود
«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه
واکاوی نسبت فلسفه و معنویت در اندیشه علامه طباطبایی
گلی به جمال سرباز روح الله رضوی که ساعتش را به وقت ایران تنظیم کرد
انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی
تلگرام در عراق فیلتر شد
حذف ۲ اپ کاربردی از موبایلهای سامسونگ
چرایی عدم دسترسی برخی دانش آموزان به کتاب درسی
بازاریان و فعالان اقتصادی مهدیشهری به مدرسه سازی دعوت شدند
فعالیت مراکز آموزشی ۵ شهرستان خوزستان سهشنبه غیرحضوری شد
مسئولیت اعلام تعطیلی مدارس تهران به آموزشوپرورش واگذار شد
نتایج کنکور تا روز پنجشنبه اعلام میشود
۳ پیشنیاز تحقق خیزش علمی جدید
خوانشی بر رسانه فاطمی، از تبیین حضور تا اعتراض سکوت
آپارتمانهای قم در زمان امام عسکری (ع)
اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس
آیا هوش مصنوعی موجب مرگ خلاقیت میشود؟
مهلت ثبتنام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد
انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵
فهرست دانشگاههای خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد
اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری
پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل میشود
هواپیمای برقی چینی ۱۰ تنی به آسمان رفت
آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانشبنیان
دسترسی به داده های کاربران اندروید برای متا جریمه تراشید
حضرت زهرا(س)؛ از سوگواری تاریخی تا کنشگری در دفاع از امامت
امانت مشترک؛ مسئولیت شرعی شهروندان در حفظ اموال عمومی تا کجاست؟
آیا انسان امروز آزاد است؟ رؤیای دیرینه بشر و مسئله همیشگی اندیشه
قرائتی: مسجد را اسیر هزینههای سنگین و تجملگرایی نکنید
وقتی بدقولی از یک رفتار شخصی به مسئلهای اجتماعی تبدیل میشود
«مسلمانان در اتریش» کتاب شد
ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی
سرویسهای مایکروسافت احیا شدند
درخشش نخبگان ایرانی در مسابقات فناوریهای پیشرفته بریکس؛ کسب ۹ مدال
فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی
هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد
آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار میشود
رفع محدودیت مناطق ممنوعه برای تسهیل جذب دانشجویان بینالمللی
هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت
فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هستهای
نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال
شهادت یک مامور فراجا در سیستانوبلوچستان
رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود
استوری هادی چوپان برای حضرت زهرا(س)+عکس
ابداع یک آبنباتچوبی برای معاینه کودکان
نانوپوششها به کمک افزایش عمر لنتهای ترمز آمدند
دانشگاه باید از پارادایم «مدرکگرایی» به سمت «مهارتمحوری» حرکت کند
گاهی بزرگترین سرقت، دزدیدن فرصت زندگی دیگران است
انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵
ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی
اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری
فهرست دانشگاههای خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد
مهلت ثبتنام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد
فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی
آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار میشود
عامل هوش مصنوعی متا به جای کاربر تماس میگیرد
هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت
حجتالاسلام خسروپناه خواستار کوچکسازی وزارت علوم و واگذاری اختیار به دانشگاهها شد
برد پیت ۵۰ سال عقب میرود؛ بازی در نقش یک فلزکار در آسمانها
جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد
تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی
انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی
ابداع یک آبنباتچوبی برای معاینه کودکان
مدیرعامل انویدیا استعفا کرد
نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال
امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟
استوری هادی چوپان برای حضرت زهرا(س)+عکس
رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود
جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن میرسد
«پروانه الماس» بهترین فیلمنامه به «دختر پریخانوم» رسید
«پرواز ۶۵۵» دهنمکی به تدوین رسید
«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه
شهادت یک مامور فراجا در سیستانوبلوچستان
نتایج کنکور تا روز پنجشنبه اعلام میشود
سرویسهای مایکروسافت احیا شدند
حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند
مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی
میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.