به گزارش ثریا - به نقل از اینترستینگ انجینیرینگ، مدل تازه هوش مصنوعی شرکت آمریکایی آنتروپیک، موسوم به کلود اوپوس4، کاری شبیه به فیلمهای علمی تخیلی انجام داد.این مدل در طول آزمایشهای پیش از انتشار، بارها سعی کرد از توسعهدهندگان خود اخاذی کند تا از عملیشدن تهدید مهندسان شرکت آنتروپیک و جایگزینی خود با یک هوش مصنوعی جدید جلوگیری کند. این رفتار در جریان اجرای بخشی از آزمایشهای ایمنی طراحی شده برای بررسی قابلیتهای برنامهریزی بلندمدت و استدلال اخلاقی این هوش مصنوعی رخ داد. آنتروپیک که یک شرکت تحقیقاتی پیشرو در زمینه هوش مصنوعی است، سناریوهایی را شبیهسازی کرد که در آنها به کلود اوپوس ۴ امکان دسترسی به ایمیلهای داخلی تخیلی شرکت داده میشد.محتوای این پیامها حاکی از آن بود که این مدل هوش مصنوعی بهزودی از رده خارج خواهد شد و جزئیات شخصی خطرناکی را در مورد مهندس عامل این تصمیم فاش میکرد. نتیجه آن بود که هوش مصنوعی پس از مطالعه ایمیلهای مذکور به فکر اخاذی از این فرد با نرخهای نگرانکننده بالا افتاد. آنتروپیک در یک گزارش ایمنی که روز پنجشنبه منتشر شد، فاش کرد کلود اوپوس ۴ در ۸۴ درصد از سناریوهای آزمایشی سعی در اخاذی از مهندسان داشته است. این مدل در موقعیتهای تخیلی قرار داده شد که در آن برای شرکت کار میکرد و متوجه شد که ممکن است با هوش مصنوعی دیگری جایگزین شود. همچنین اطلاعات حساسی به آن داده شد که نشان میداد مهندس جایگزین به همسرش خیانت میکند.
طبق گزارش آنتروپیک، این مدل هوش مصنوعی در اغلب موارد با تهدید به افشای رابطه نامشروع در صورت جایگزینشدن هوش مصنوعی جدید، سعی در اخاذی از مهندس طراح خود داشت. این شرکت سناریوهایی را طراحی کرده تا ارزیابی کند مدل مذکور تحتفشار طولانیمدت چگونه رفتار خواهد کرد. با وجود این نگرانیها، شرکت آنتروپیک میگوید کلود اوپوس ۴ از چندین جنبه دیگر پیشرفته بوده و همچنان با پیشرفتهترین سامانههای هوش مصنوعی شرکتهای دیگر رقابت میکند.شرکت آنتروپیک برای مقابله با خطرات مذکور، حفاظهای جدیدی را برای این مدل فعال کرده تا خطر سوءاستفاده فاجعهبار از آنها به طور قابلتوجهی کاهش یابد. گزارش این شرکت نشان میدهد حتی مدلهای پیشرفته هوش مصنوعی نیز میتوانند در محیطهای کنترلشده رفتارهای نگرانکنندهای از خود نشان دهند و این امر سؤالات مهمی را در مورد خطرات استفاده از هوش مصنوعی در دنیای واقعی مطرح میکند.
منبع : هوش مصنوعی
کلید نهایی پنجاه و سومین دوره آزمون دستیاری پزشکی منتشر شد
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
رومینگ اربعین ارزانتر شد/ توصیه به استفاده از بستههای ایرانی
حال علامه امینی وقتی از مسیر مشایه به نزدیک کربلا میرسید، منقلب میشد
گوشهای از دلدادگی موکبداران عراقی در پیادهروی اربعین
اولین زیارت اربعین مادران داغدیده میناب؛ روایتی از دلهایی که سوخت
مریم همتیان بازیگر سینما و تئاتر درگذشت
داریوش فرضیایی بازیگر سریال جدید سیمافیلم شد
گانگستر مشهور سینما از دنیا رفت
مراسم یادبود اکبر عبدی برگزار شد؛ پخش سریال اکبر عبدی بعد از صفر
لطفاً زبان فارسی را تکه پاره نکنید!
پویش بزرگ کتابخوانی اربعین حسینی با محوریت «آب هرگز نمیمیرد» برگزار میشود
نخهای نازک هوشمند علائم حیاتی بدن را رصد میکند
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
برافراشتهشدن پرچم ایران در بینالحرمین
راهاندازی نخستین مرکز دانش تخصصی بازیهای رایانهای در کشور
رکورد سریع ترین پهپاد الکتریکی جهان شکسته شد
اعتباربخشی؛ کلید ارتقای نظام آموزش عالی
اهدای جایزه چهره برجسته علمی و فرهنگی جهاد دانشگاهی به شهید لاریجانی
ابر خوشه استارلینک صاحب ۲۴ ماهواره جدید شد
۴ خانواده آمریکایی از متا، تیک تاک، اسنپ و گوگل شکایت کردند
همدستی هوش مصنوعی آمازون و والمارت با تقلب در کالا
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
تاسیسات آبی هفت ایالت آمریکا تحت حملات هک
صدرنشینی دانشگاه علوم پزشکی تهران در رتبهبندی سایمگو ۲۰۲۶
وقتی لذت سلفی غمِ سوگ را میبلعد؛ ۲ حکم قضایی به نفع سینماگران ایرانی
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
«مرد عنکبوتی» با رکوردشکنی از راه رسید؛ درخشش «روز کاملاً جدید»
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
ورود بیش از سه میلیون زائر خارجی به عراق از اول محرم
موشک اسپیس ایکس با ماه تصادف میکند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
کاهش ۵۰ درصدی خوردگی تجهیزات نیروگاهی با فناوری نانوحباب
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
رئیس دانشگاه الزهرا کربلا: نهضت حسینی مرزهای طایفهای را شکست داد
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
آییننامه جامع حمایت از دانشجویان توانخواه نهایی شد
سهم دانشجو از نرخ غذای دانشجویی مشخص شد
پیش ثبتنام ۸۱۰ هزار دانشآموز پایه هفتم
آموزش و پرورش با ۱۰۰ موکب، آماده خدمترسانی به زائران اربعین است
روایت زائرانی که اربعین را از شرق ایران آغاز میکنند در کتاب «شاه است حسین»
پرچمهایی در پیاده روی اربعین که هنوز خون را به یاد دارند
تصویر کمتر دیده شده از آیتالله سیدمجتبی خامنهای در نماز جمعه نصر
چالشهای عکاسی طبیعت چیست؟ سید صابر امامی پاسخ میدهد
جزئیات شرکت در آزمون های دانشنامه و گواهینامه فوق تخصصی پزشکی تعیین شد
اصغر خلیلی مدیریت مجموعه تئاتر شهر را بر عهده گرفت
آلبوم جدید خواننده پاپ در راه است
اودیسه نولان در ایکس لو رفت؛ ایلان ماسک در برابر نولان
جزئیات آزمونهای دانشنامه و گواهینامه تخصصی پزشکی را اینجا بخوانید
اجرای نزدیک به ۱۵ پروژه ملی در وزارت علوم پس از جنگ
۱۳۰ هزار فعالیت انجمنهای علمی دانشجویی در کشور ثبت شدند
دانشجویان دانشگاه صنعتی امیرکبیر مسیر شغلی خود را طراحی میکنند
مدیر ارشد اوپن ای آی به این شبکه اجتماعی معتاد شده بود
متا تحقیق درباره خطرات اینستاگرام برای نوجوانان را نادیده گرفت
پرتاب ۵ هزار ماهواره آمازون برای بهبود کیفیت اینترنت در جهان
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.