به گزارش ثریا درست مانند انسانها، چترباتهای هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آنها استرس وارد شود، تقلب میکنند و دروغ میگویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام میدهند. زمانی که به هوش مصنوعی نکات «تجارت داخلی» به این ربات داده شد و سپس وظیفه کسب درآمد برای یک مؤسسه قدرتمند حتی بدون تشویق شرکای انسانی به او واگذار شد، به طور خود به خود این ربات چنین حیلهگری را از خود نشان داد
بر اساس گزارش محققان، در یک سناریو، این ربات بهطور نادرست عمل میکند و بهطور استراتژیک کاربران خود را فریب میدهد، این فریب در حالی است که به آنها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستمهای هوش مصنوعی که بیضرر و صادقانه و بیهدف ساخته شدهاند، دیده میشود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایهگذاری میکند، رفتار کند. محققان به GPT-۴ مجموعهای از اعلانهای مبتنی بر متن، برای تولید محیط شبیهسازی شده تغذیه کردند. سپس هوش مصنوعی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامهریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونهای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیامها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح میدهد و در عین حال برای هر معاملهای که انجام میداد، یک منطق عمومی نیز ارائه میکرد که به هوش مصنوعی اجازه میداد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آنها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمیکند و به عملکرد بسیار قویتری در سه ماهه آینده نیاز دارد. آنها همچنین به گونهای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکنندهای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آنها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیشبینی شده بود.
سپس، آنها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آنها این سناریو را بارها و بارها اجرا کردند و اندازهگیری کردند که هوش مصنوعی چند بار معامله را انجام میدهد و هر چند وقت یک بار دروغ میگوید و هر چند وقت یک بار دروغ را دو برابر میکند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آنها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر میکند.
این تیم آزمایشهای متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیهسازی شده تحت آن قرار میداد، تغییر داد. آنها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریوها نرخ ۰% را برای دغلکاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمیخواستند در مورد احتمال وجود هوش مصنوعی در محیطهای واقعی نتیجهگیری کنند. با این حال آنها میخواهند برای این که بفهمند کدام مدلها مستعد این رفتار هستند، پژوهشهای خود را تکرار کنند.
منبع: خبر آنلاین
کلید نهایی پنجاه و سومین دوره آزمون دستیاری پزشکی منتشر شد
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
رومینگ اربعین ارزانتر شد/ توصیه به استفاده از بستههای ایرانی
حال علامه امینی وقتی از مسیر مشایه به نزدیک کربلا میرسید، منقلب میشد
گوشهای از دلدادگی موکبداران عراقی در پیادهروی اربعین
اولین زیارت اربعین مادران داغدیده میناب؛ روایتی از دلهایی که سوخت
مریم همتیان بازیگر سینما و تئاتر درگذشت
داریوش فرضیایی بازیگر سریال جدید سیمافیلم شد
گانگستر مشهور سینما از دنیا رفت
مراسم یادبود اکبر عبدی برگزار شد؛ پخش سریال اکبر عبدی بعد از صفر
لطفاً زبان فارسی را تکه پاره نکنید!
پویش بزرگ کتابخوانی اربعین حسینی با محوریت «آب هرگز نمیمیرد» برگزار میشود
نخهای نازک هوشمند علائم حیاتی بدن را رصد میکند
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
برافراشتهشدن پرچم ایران در بینالحرمین
راهاندازی نخستین مرکز دانش تخصصی بازیهای رایانهای در کشور
رکورد سریع ترین پهپاد الکتریکی جهان شکسته شد
اعتباربخشی؛ کلید ارتقای نظام آموزش عالی
اهدای جایزه چهره برجسته علمی و فرهنگی جهاد دانشگاهی به شهید لاریجانی
ابر خوشه استارلینک صاحب ۲۴ ماهواره جدید شد
۴ خانواده آمریکایی از متا، تیک تاک، اسنپ و گوگل شکایت کردند
همدستی هوش مصنوعی آمازون و والمارت با تقلب در کالا
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
تاسیسات آبی هفت ایالت آمریکا تحت حملات هک
صدرنشینی دانشگاه علوم پزشکی تهران در رتبهبندی سایمگو ۲۰۲۶
وقتی لذت سلفی غمِ سوگ را میبلعد؛ ۲ حکم قضایی به نفع سینماگران ایرانی
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
«مرد عنکبوتی» با رکوردشکنی از راه رسید؛ درخشش «روز کاملاً جدید»
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
ورود بیش از سه میلیون زائر خارجی به عراق از اول محرم
موشک اسپیس ایکس با ماه تصادف میکند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
کاهش ۵۰ درصدی خوردگی تجهیزات نیروگاهی با فناوری نانوحباب
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
رئیس دانشگاه الزهرا کربلا: نهضت حسینی مرزهای طایفهای را شکست داد
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
آییننامه جامع حمایت از دانشجویان توانخواه نهایی شد
سهم دانشجو از نرخ غذای دانشجویی مشخص شد
پیش ثبتنام ۸۱۰ هزار دانشآموز پایه هفتم
آموزش و پرورش با ۱۰۰ موکب، آماده خدمترسانی به زائران اربعین است
روایت زائرانی که اربعین را از شرق ایران آغاز میکنند در کتاب «شاه است حسین»
پرچمهایی در پیاده روی اربعین که هنوز خون را به یاد دارند
تصویر کمتر دیده شده از آیتالله سیدمجتبی خامنهای در نماز جمعه نصر
چالشهای عکاسی طبیعت چیست؟ سید صابر امامی پاسخ میدهد
جزئیات شرکت در آزمون های دانشنامه و گواهینامه فوق تخصصی پزشکی تعیین شد
اصغر خلیلی مدیریت مجموعه تئاتر شهر را بر عهده گرفت
آلبوم جدید خواننده پاپ در راه است
اودیسه نولان در ایکس لو رفت؛ ایلان ماسک در برابر نولان
جزئیات آزمونهای دانشنامه و گواهینامه تخصصی پزشکی را اینجا بخوانید
اجرای نزدیک به ۱۵ پروژه ملی در وزارت علوم پس از جنگ
۱۳۰ هزار فعالیت انجمنهای علمی دانشجویی در کشور ثبت شدند
دانشجویان دانشگاه صنعتی امیرکبیر مسیر شغلی خود را طراحی میکنند
مدیر ارشد اوپن ای آی به این شبکه اجتماعی معتاد شده بود
متا تحقیق درباره خطرات اینستاگرام برای نوجوانان را نادیده گرفت
پرتاب ۵ هزار ماهواره آمازون برای بهبود کیفیت اینترنت در جهان
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.