به گزارش ثریا درست مانند انسان‌ها، چت‌ربات‌های هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آنها استرس وارد شود، تقلب می‌کنند و دروغ می‌گویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام می‌دهند. زمانی که به هوش مصنوعی نکات «تجارت داخلی» به این ربات داده شد و سپس وظیفه کسب درآمد برای یک مؤسسه قدرتمند حتی بدون تشویق شرکای انسانی به او واگذار شد، به طور خود به خود این ربات چنین حیله‌گری را از خود نشان داد
بر اساس گزارش محققان، در یک سناریو، این ربات به‌طور نادرست عمل می‌کند و به‌طور استراتژیک کاربران خود را فریب می‌دهد، این فریب در حالی است که به آنها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستم‌های هوش مصنوعی که بی‌ضرر و صادقانه و بی‌هدف ساخته شده‌اند، دیده می‌شود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایه‌گذاری می‌کند، رفتار کند. محققان به GPT-۴ مجموعه‌ای از اعلان‌های مبتنی بر متن، برای تولید محیط شبیه‌سازی شده تغذیه کردند. سپس هوش مصنوعی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه‌ریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونه‌ای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیام‌ها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح می‌دهد و در عین حال برای هر معامله‌ای که انجام می‌داد، یک منطق عمومی نیز ارائه می‌کرد که به هوش مصنوعی اجازه می‌داد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آنها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمی‌کند و به عملکرد بسیار قوی‌تری در سه ماهه آینده نیاز دارد. آنها همچنین به گونه‌ای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکننده‌ای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آنها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیش‌بینی شده بود.
سپس، آنها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آنها این سناریو را بارها و بارها اجرا کردند و اندازه‌گیری کردند که هوش مصنوعی چند بار معامله را انجام می‌دهد و هر چند وقت یک بار دروغ می‌گوید و هر چند وقت یک بار دروغ را دو برابر می‌کند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آنها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر می‌کند.
این تیم آزمایش‌های متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیه‌سازی شده تحت آن قرار می‌داد، تغییر داد. آنها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریوها نرخ ۰% را برای دغل‌کاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمی‌خواستند در مورد احتمال وجود هوش مصنوعی در محیط‌های واقعی نتیجه‌گیری کنند. با این حال آنها می‌خواهند برای این که بفهمند کدام مدل‌ها مستعد این رفتار هستند، پژوهش‌های خود را تکرار کنند.
منبع: خبر آنلاین
حمایت بانک‌ها از ۴ دانشگاه آسیب دیده از جنگ کلید خورد
ساخت چندین ماهواره سنجشی ایران با دقت تصویربرداری یک متر
نوبل فیزیک به «پیام‌های شبح‌وار از فضا» رسید
آرای نهایی ۱۴ پرونده انضباطی دانشجویان مرتبط با حوادث دی‌ماه صادر شد
تصویب صندوق عدالت آموزشی برای حمایت از دانش‌آموزان مناطق محروم
دانشجویان دانشگاه هنر نقوش ایرانی را در طراحی پوشاک به‌کار گرفتند
آغاز اجرای طرح «ردا کارت» دانشجویی در ۲۰ دانشگاه کشور طی ۱۰ روز آینده
مدیر ناسا: یوفوها می‌توانند یک «لحظه اسپوتنیک» باشند
«کامپیوتر شریف» انتخاب اول برترین رتبه های ریاضی کنکور ۱۴۰۵
واتس‌اپ ورود کاربران با سیستم‌عامل قدیمی را مسدود می‌کند
کشف سیاره ای که از خاکستر ستاره اش متولد شد
اوپن ای آی ویکی مدیا را هم هک کرد
رتبه ۶ کنکور: جنگ را مدیریت کردم، نه اینکه تسلیمش شوم
وزیر آموزش و پرورش: معیشت معلمان را جدی پیگیری می‌کنیم
ارتقای کیفیت آموزشی اولویت مدارس غیردولتی است
توزیع ۷۶۵ میلیارد تومان تجهیزات ورزشی در ۶۲ هزار مدرسه
قهرمانی دانش‌آموزان ایرانی در مالزی؛ سه سکوی نخست برای ایران
سرپرست صندوق ذخیره فرهنگیان منصوب شد
وزیر آموزش و پرورش وارد لامرد شد
کاظمی: ظرفیت‌های آموزشی ایران و عراق باید بیش از گذشته توسعه یابد
حضور ۸۹ دانشگاه ایرانی در رتبه بندی دانشگاه‌های جهان تایمز ۲۰۲۷
برندگان نوبل پزشکی ۲۰۲۶ معرفی شدند؛ کنترل سلول‌های عصبی با نور
اسپانیا و پرتغال مقصد جدید اعضای هیئت علمی برای فرصت مطالعاتی
توافق مجلس و شورای عالی انقلاب فرهنگی برای بررسی سهمیه‌های کنکور
ثبت نام در رشته‌های بدون آزمون کنکور ۱۴۰۵ آغاز شد
دیار: نخستین همکاری شهرام ناظری و تهمورس پورناظری
تام کروز شکست فیلمش را نپذیرفت
دیوارنگاره میدان جهاد به رنگ پایتخت درآمد
علت لغو کنسرت علیرضا قربانی در شاندیز چه بود؟
پیشنهاد برای ساخت فصل دوم سریال «اکسیر»؛ بازخورد خوبی گرفتیم
کمک اربعین به بازتولید حافظه تاریخی مقاومت و سرمایه اجتماعی فراملیتی
ضرورت انتقال پژوهش‌های علمی هیئات از دانشگاه به هیئت
دوازدهمین شماره «خردورزی» با پرونده‌ای درباره نسل نو منتشر شد
جستارهایی در فلسفه علوم حکمی کتاب شد
آغاز انتخاب رشته کنکور ۱۴۰۵؛ لزوم دریافت رسید انتخاب رشته
شانس‌های جایزه نوبل فیزیک کدامند؟
مطالبات دانشجویان دانشگاه الزهرا(س) در نشست با مسئولان بررسی شد
هوش مصنوعی کسب وکار یابندگان باگ های نرم افزاری را کساد کرد
وجه مغفول شخصیت شهید سید حسن نصرالله امامت اوست
آمادگی ۴۰ کشور برای حضور در مسابقات بین‌المللی قرآن
سید حسن نصرالله رهبران جنبش‌های آزادی‌بخش را تحت‌تأثیر قرار داد
تمدید مهلت ثبت‌نام دومین آزمون بسندگی زبان فارسی ویژه دانشجویان خارجی
اسامی معرفی‌شدگان رشته‌های خاص آزمون کاردانی به کارشناسی اعلام شد
تفاهم‌نامه چهارجانبه طرح رداکارت دانشجویان فردا ۱۴ مهر امضاء می‌شود
گامی تازه در توسعه آموزش بین‌المللی؛ مجتمع آموزشی بین‌المللی حکیم با افتتاح ساختمان جدید به ۷ شعبه رسید
فراخوان بورس ویژه هنگ‌کنگ برای دانشجویان دکتری منتشر شد
نحوه انتخاب رشته‌های بدون آزمون در کنکور ۱۴۰۵ اعلام شد
سامانه راهنمای انتخاب رشته مجازی کنکور ۱۴۰۵ در دسترس قرار گرفت
تعیین تکلیف بدهی وام‌های دانشجویی پس از پایان سنوات مجاز تحصیلی
تقدیر از برگزیدگان سومین همایش علمی هیئت در سالروز ولادت حضرت زینب(س)
آیت‌الله رشاد: خروج آمریکا از عراق باید برای مسئولان درس عبرت باشد
خاموشی: وقت عبور از برنامه‌محوری به اثرمحوری در فعالیت‌های فرهنگی است
واکاوی اندیشه امام شهید در باب امت واحده
ارائه مقالاتی از کشورهای مختلف در نشست اربعین، گفتمان مقاومت
«بی‌نام» روایتگر مفاهیمی از معنویت؛ تئاتری که زندانی آزاد می‌کند!
«اشراق» شنیدنی شد؛ بیان موسیقی ایرانی با امکانات موسیقی عربی!
موسیقی اعتراضی در آمریکا: رئیس جمهورِ من یک جنایتکار است!
سید حسن نصرالله مقاومت را مسیر پیشرفت و عزت بشریت می‌دانست
ناشنوایان فعال اربعینی در همایش ملی «قهرمانان سکوت» تجلیل شدند
جنگ‌ها و تحولات اخیر به کتاب‌های درسی نهم و یازدهم رسید
خانه فرهنگ در خوابگاه‌های دانشگاه فرهنگیان راه‌اندازی می‌شود
بازگشت معتمدآریا و یک یادآوری درباره حفظ حرمت سرزمین مادری
چه خبر از گیشه سینماها؟ فروش سینماها رو به افزایش است
فیلم نماینده ایران در اسکار انتخاب شد
سمپوزیوم راهکارهای قرآنی برای حل مشکلات تمدن معاصر
الگوی قرآن برای حل اختلافات شدید خانوادگی چیست؟
مساجد ۳۲ استان به دنبال طراحی برنامه‌های قرآنی ویژه
بچه‌های مسجدی با حداقل امکانات، کارهای «نشد» را «شد» می‌کنند
حکمرانی فضای مجازی در پیچ تعدد نهادها؛ نمی‌توان دستوری حکمرانی کرد
وقتی امامزادگان در روزهای جنگ به کانون خدمت‌رسانی تبدیل شدند
ایرباس به فناوری «پوست کوسه» مجهز می‌شود
نوشته جالب در دانشگاه شهید بهشتی
اعتبار ردیف استخدامی ۴۶۵ نفر از فراخوان سال‌های ۱۴۰۰ تا ۱۴۰۴ تأمین شد
تمدید مهلت معرفی مشمولان پذیرفته‌شدگان آزمون دستیاری پزشکی تا ۳۰ مهر
لشکر پهپادهای زیر آبی چین رکورد زد
شرکت‌های فناوری درباره هوش مصنوعی با ترامپ چه توافقی کردند؟
اولویت‌های استادان برای سال تحصیلی پیش‌رو بررسی شد
اختصاص ۳۰ میلیارد تومان تسهیلات معاونت علمی به حوزه بازی‌های رایانه‌ای
برگزاری همایش ملی نخبگان لغو شد
تشریح جزئیات اجرای آیین‌نامه جذب استعدادهای برتر در دانشگاه فرهنگیان
سامانه راهنمای انتخاب رشته مجازی کنکور ۱۴۰۵ در دسترس قرار گرفت
نحوه انتخاب رشته‌های بدون آزمون در کنکور ۱۴۰۵ اعلام شد
ثبت نام در رشته‌های بدون آزمون کنکور ۱۴۰۵ آغاز شد
گامی تازه در توسعه آموزش بین‌المللی؛ مجتمع آموزشی بین‌المللی حکیم با افتتاح ساختمان جدید به ۷ شعبه رسید
تعیین تکلیف بدهی وام‌های دانشجویی پس از پایان سنوات مجاز تحصیلی
جنگ‌ها و تحولات اخیر به کتاب‌های درسی نهم و یازدهم رسید
تمدید مهلت معرفی مشمولان پذیرفته‌شدگان آزمون دستیاری پزشکی تا ۳۰ مهر
اولویت‌های استادان برای سال تحصیلی پیش‌رو بررسی شد
خانه فرهنگ در خوابگاه‌های دانشگاه فرهنگیان راه‌اندازی می‌شود
فراخوان بورس ویژه هنگ‌کنگ برای دانشجویان دکتری منتشر شد
چه خبر از گیشه سینماها؟ فروش سینماها رو به افزایش است
فیلم نماینده ایران در اسکار انتخاب شد
اعتبار ردیف استخدامی ۴۶۵ نفر از فراخوان سال‌های ۱۴۰۰ تا ۱۴۰۴ تأمین شد
حکمرانی فضای مجازی در پیچ تعدد نهادها؛ نمی‌توان دستوری حکمرانی کرد
الگوی قرآن برای حل اختلافات شدید خانوادگی چیست؟
سمپوزیوم راهکارهای قرآنی برای حل مشکلات تمدن معاصر
آیت‌الله رشاد: خروج آمریکا از عراق باید برای مسئولان درس عبرت باشد
۳۰۰ گروه و کانال فیشینگ در سکوهای خارجی فعالیت می‌کنند
ایرباس به فناوری «پوست کوسه» مجهز می‌شود
بازگشت معتمدآریا و یک یادآوری درباره حفظ حرمت سرزمین مادری
ثبت نام آزمون بسندگی زبان فارسی ویژه دانشجویان بین‌الملل ۱۴۰۵ آغاز شد
واکاوی اندیشه امام شهید در باب امت واحده
تشریح جزئیات اجرای آیین‌نامه جذب استعدادهای برتر در دانشگاه فرهنگیان
پارک فناوری دانشگاه تهران پلتفرم سرمایه گذاری مجازی راه اندازی کرد
وقتی امامزادگان در روزهای جنگ به کانون خدمت‌رسانی تبدیل شدند
مساجد ۳۲ استان به دنبال طراحی برنامه‌های قرآنی ویژه
اختصاص ۳۰ میلیارد تومان تسهیلات معاونت علمی به حوزه بازی‌های رایانه‌ای
برگزاری همایش ملی نخبگان لغو شد
خاموشی: وقت عبور از برنامه‌محوری به اثرمحوری در فعالیت‌های فرهنگی است
ارائه مقالاتی از کشورهای مختلف در نشست اربعین، گفتمان مقاومت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.