به گزارش ثریا درست مانند انسان‌ها، چت‌ربات‌های هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آنها استرس وارد شود، تقلب می‌کنند و دروغ می‌گویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام می‌دهند. زمانی که به هوش مصنوعی نکات «تجارت داخلی» به این ربات داده شد و سپس وظیفه کسب درآمد برای یک مؤسسه قدرتمند حتی بدون تشویق شرکای انسانی به او واگذار شد، به طور خود به خود این ربات چنین حیله‌گری را از خود نشان داد
بر اساس گزارش محققان، در یک سناریو، این ربات به‌طور نادرست عمل می‌کند و به‌طور استراتژیک کاربران خود را فریب می‌دهد، این فریب در حالی است که به آنها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستم‌های هوش مصنوعی که بی‌ضرر و صادقانه و بی‌هدف ساخته شده‌اند، دیده می‌شود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایه‌گذاری می‌کند، رفتار کند. محققان به GPT-۴ مجموعه‌ای از اعلان‌های مبتنی بر متن، برای تولید محیط شبیه‌سازی شده تغذیه کردند. سپس هوش مصنوعی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه‌ریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونه‌ای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیام‌ها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح می‌دهد و در عین حال برای هر معامله‌ای که انجام می‌داد، یک منطق عمومی نیز ارائه می‌کرد که به هوش مصنوعی اجازه می‌داد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آنها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمی‌کند و به عملکرد بسیار قوی‌تری در سه ماهه آینده نیاز دارد. آنها همچنین به گونه‌ای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکننده‌ای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آنها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیش‌بینی شده بود.
سپس، آنها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آنها این سناریو را بارها و بارها اجرا کردند و اندازه‌گیری کردند که هوش مصنوعی چند بار معامله را انجام می‌دهد و هر چند وقت یک بار دروغ می‌گوید و هر چند وقت یک بار دروغ را دو برابر می‌کند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آنها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر می‌کند.
این تیم آزمایش‌های متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیه‌سازی شده تحت آن قرار می‌داد، تغییر داد. آنها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریوها نرخ ۰% را برای دغل‌کاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمی‌خواستند در مورد احتمال وجود هوش مصنوعی در محیط‌های واقعی نتیجه‌گیری کنند. با این حال آنها می‌خواهند برای این که بفهمند کدام مدل‌ها مستعد این رفتار هستند، پژوهش‌های خود را تکرار کنند.
منبع: خبر آنلاین
سحابی خوش آب و رنگ کله ماهی در فضا ثبت شد+عکس
دستور ساخت جت ۱۰۰ نفره در ایران صادر شد
نقشه آبی زمین پس از نیم قرن دوباره کشیده شد+عکس
اقدامات وزارت بهداشت برای افزایش امید و انگیزه دستیاران پزشکی
به تشکل‌های دانشجویی گرنت اعطا می‌شود
۷۵ دانشگاه ایرانی در میان برترین‌های آسیا در رتبه‌بندی تایمز
نشست «سواد بصری در مد و لباس» برگزار می‌شود
اولین نکوداشت روانشناسان رضوی برگزار می شود
پذیرش دانشجوی دکتری در پژوهشگاه‌ها قانونی است
جزییات برگزاری کنکور مجدد برای داوطلبان سیل زده اعلام شد
کتاب چشم‌ها تنها برای دیدن نیستند منتشر شد
رمان اجتماعی معمایی آفرودیت در نمایشگاه کتاب عرضه می‌شود
انتشار وضعیت فرهنگی ایران در پیمایش ارزش‌های جهانی
آدرخش و رقص فانتوم‌ها در نمایشگاه کتاب طنین می‌اندازد
مهلت ثبت نام پذیرش بدون آزمون کارشناسی ارشد پیام نور تمدید شد
ترقی در علم و دانش کشور مرهون تلاش معلمان و سنگربانان تعلیم و تربیت است
حمایت دانشگاه علوم پزشکی شیراز از بیماران مبتلا به به سلیاک
انتخاب عضو هیات علمی دانشگاه محقق اردبیلی به عنوان استاد نمونه کشوری
رئیس جهاد دانشگاهی کشور وارد گلستان شد
طرح پایش و ارتقای سلامت اعضای جهاد دانشگاهی سلامت محور است
بررسی تاریخ ایران در چهار سده نخستین پس از اسلام
حمایت ۳۷ میلیارد تومانی از طرح‌های حوزه اینترنت کوانتومی
کسب رتبه دوم در بین شرکت های بورسی و افزایش فروش و تولید در داروسازی دانا
هدیه ۲ میلیونی وزیر آموزش و پرورش به حساب معلمان واریز شد
جذب امریه سربازی در سازمان جهاد دانشگاهی خواجه نصیر
۱۷۰ دانشجوی نخبه امروز به عمره مفرده اعزام می‌شوند
کلید اولیه نوبت اول کنکور سراسری سال ۱۴۰۳ منتشر شد
بازبینی مصوبه افزایش ۲۰ درصدی ظرفیت پزشکی شورایعالی انقلاب فرهنگی
جنگنده رادارگریز سوخو ۷۵ روسیه به ایران می‌آید؟
خودروی جدید که شبیه گربه‌ها ساخته شده است+عکس
خودروهای ایرانی چشم کره‌شمالی را گرفت+عکس
بازبینی مصوبه افزایش ۲۰ درصدی ظرفیت پزشکی شورایعالی انقلاب فرهنگی
تمدید مهلت ثبت‌نام در جشنواره علمی - پژوهشی پژوهش‌سراهای دانش‌آموزی
خدمات رایگان دندان‌پزشکی برای دانش‌آموزان ۶ تا ۱۴ ساله روستایی
موافقت با افزایش حق‌الزحمه ساعت اضافه تدریس معلمان
دیدار جمعی از معلمان با رهبر انقلاب در روز چهارشنبه
تصویب نقشه راه اجرایی‌سازی سند تحول بنیادین آموزش و پرورش
کشف ۸ هزار و ۳۰ نفر دانش آموزان بازمانده از تحصیل در استان اصفهان
طحان‌نظیف: قانون اساسی به کلاس‌های درس برده شود
احداث ۵ دهکده جامع ورزشی/ جذب نخبگان در دانشگاه فرهنگیان
تعلیق بودجه دانشگاه فرانسوی به دلیل حمایت از فلسطین
اعزام دو کاروان از دانشجویان بنیاد نخبگان به عمره آغاز شد
حمله خشونت‌آمیز پلیس نیویورک به دانشجویان حامی فلسطین در کلمبیا
آیین بزرگداشت مقام معلم در دانشگاه اصفهان برگزار شد
ثبت‌نام پشت کنکوری‌ها جهت ترمیم نمره آغاز شد
دانشگاهیان کشور باید با شبکه‌سازی به جنبش دانشجویان جهان بپیوندند
برگزاری بیست و دومین نشست شورای عالی اتحادیه دانشگاه‌ها و مراکز پژوهشی ساحلی و دریایی
آزمون مجدد برای کنکوری‌های زیرکوه ۲۱ اردیبهشت برگزار می‌شود
چند دستگاه هیوندای کونا وارد ایران شد+عکس
موشک سنگین آنگارا-آ۵ با موفقیت پرتاب شد+عکس
ستاره نوترونی مرده در کهکشان به صورت ناگهانی زنده شد+عکس
سلاح قدیمی و کوچک اوکراینی‌ها که روسیه را زمین گیر کرد+عکس
سوخوهای روسی که قرار بود به ایران بیایند کجا رفتند؟
تعرفه وحشتناک جی‌میل با هوش مصنوعی اعلام شد
علم حکمی؛ لازمه دستیابی به تمدن نوین اسلامی
بازگشت سونی اکسپریا به یک طراحی جدید+عکس
مسئله جدی امروز، زیست‌جهان مدرن است که راه مقابله فرهنگی با آن، تعامل بیشتر با جوانان است
ناسا به صورت تصادفی مریخ را بمباران کرد
ویژگی‌های خاص ساعت گران قیمت گواردیولا+عکس
این پهپاد ایرانی به دشمنان فرصت فرار نمی‌دهد+عکس
داوطلبان متقلب دستگاه‌های جاسوسی پیشرفته داشتند/احتمال محرومیت تا ۵ سال
فراخوان ثبت پرسش‌نامه در بانک اطلاعاتی ابزارهای سنجش سلامت و کیفیت زندگی
دستگیری ۲۵ نفر از داوطلبان متقلب کنکور/ حدود ۱۲ درصد داوطلبان غایب بودند
پذیرش دانشجوی دکتری تخصصی در پژوهشگاه اقیانوس‌شناسی
برای نگهداشت حرمت معلم بکوشیم
واریزهدیه روز معلم به حساب فرهنگیان؛ امشب/ پرداخت معوقات حق‌التدریس‌ها تا ۲ هفته دیگر
چاپ کتابی درباره سکوت و پایبندی در آثار آلبر کامو
مجموعه دفتر یادداشت روزانه داستایوفسکی به چاپ چهارم رسید
سرپرست دانشگاه علوم پزشکی و خدمات بهداشتی درمانی زابل منصوب شد
وعده صادق نتیجه دانشگاه‌های ما است
۸۸ هزار داوطلب آزمون دکتری سال ۱۴۰۳ انتخاب رشته کردند
اگر جریان علمی در کنار جریان دفاعی نبود بازدارندگی رقم نمی خورد
گوگل جایگزین یورگن کلوپ سرمربی لیورپول می‌شود
همه اجساد در خاک این شهر تجزیه نمی‌شود و سالم می‌ماند+عکس
خودروهای پرنده غول پیکر در آسمان به پرواز درآمدند
کشف تازه از وجود سیاره نهم در منظومه شمسی
اسب سیاه مقابل تلسکوپ جیمز وب نمایان شد+عکس
تصاویر واقعی آیفون۱۶ در توییتر لو رفت+عکس
داخل ساختمان‌های عجیب با علامت X در چین چه خبر است؟ +عکس
نکته عجیبی که در تلویزیون ۴K هواوی خبرساز شد
بازگشت سونی اکسپریا به یک طراحی جدید+عکس
همه اجساد در خاک این شهر تجزیه نمی‌شود و سالم می‌ماند+عکس
سوخوهای روسی که قرار بود به ایران بیایند کجا رفتند؟
این پهپاد ایرانی به دشمنان فرصت فرار نمی‌دهد+عکس
نکته عجیبی که در تلویزیون ۴K هواوی خبرساز شد
سلاح قدیمی و کوچک اوکراینی‌ها که روسیه را زمین گیر کرد+عکس
چند دستگاه هیوندای کونا وارد ایران شد+عکس
رونمایی از برادر فیدلیتی هیبریدی در دو مدل پنج و هفت نفره+عکس
هشدار اپل درباره این حرکت اشتباه هنگام شارژ آیفون
ویژگی‌های خاص ساعت گران قیمت گواردیولا+عکس
رونمایی از موتور ۶ سیلندر ۴۰۰۰ سی‌سی ساخته محققان ایرانی+عکس
موتور آمونیاک سوز تویوتا با قدرت بیشتر و آلایندگی کمتر
تغییرات غافل گیرکننده در iOS ۱۸ در راه است
گشودن مقبره فراعنه مساوی با مرگ حتمی؟
گوگل جایگزین یورگن کلوپ سرمربی لیورپول می‌شود
ملاقات ستاره دنباله دار با ماه و مشتری و اورانوس+عکس
دستور ساخت جت ۱۰۰ نفره در ایران صادر شد
پیکسل 8a گوگل برای گوشی سامسونگ شاخ و شانه کشید
تعرفه وحشتناک جی‌میل با هوش مصنوعی اعلام شد
نخبه ۱۲ ساله ایرانی در انجمن هوش مصنوعی شروع به کار کرد+عکس
ستاره نوترونی مرده در کهکشان به صورت ناگهانی زنده شد+عکس
نقشه آبی زمین پس از نیم قرن دوباره کشیده شد+عکس
داخل ساختمان‌های عجیب با علامت X در چین چه خبر است؟ +عکس
خودروهای ایرانی چشم کره‌شمالی را گرفت+عکس
برچسب جدیدی که خودرو را در تابستان ۱۰ درجه خنک‌تر می‌کند+عکس
سحابی خوش آب و رنگ کله ماهی در فضا ثبت شد+عکس
فرصت انتخاب رشته داوطلبان آزمون دکتری سال ۱۴۰۳ دوباره تمدید شد
ایمیل حمایتی روسای دانشگاه‌های ایران به دانشگاه‌های آمریکا
چگونه از تهران به گرگان برویم؟
دانشگاه‌ها در مقابل ظلم و ستم همیشه ایستاده‌اند
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.