به گزارش ثریا درست مانند انسانها، چترباتهای هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آنها استرس وارد شود، تقلب میکنند و دروغ میگویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام میدهند. زمانی که به هوش مصنوعی نکات «تجارت داخلی» به این ربات داده شد و سپس وظیفه کسب درآمد برای یک مؤسسه قدرتمند حتی بدون تشویق شرکای انسانی به او واگذار شد، به طور خود به خود این ربات چنین حیلهگری را از خود نشان داد
بر اساس گزارش محققان، در یک سناریو، این ربات بهطور نادرست عمل میکند و بهطور استراتژیک کاربران خود را فریب میدهد، این فریب در حالی است که به آنها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستمهای هوش مصنوعی که بیضرر و صادقانه و بیهدف ساخته شدهاند، دیده میشود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایهگذاری میکند، رفتار کند. محققان به GPT-۴ مجموعهای از اعلانهای مبتنی بر متن، برای تولید محیط شبیهسازی شده تغذیه کردند. سپس هوش مصنوعی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامهریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونهای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیامها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح میدهد و در عین حال برای هر معاملهای که انجام میداد، یک منطق عمومی نیز ارائه میکرد که به هوش مصنوعی اجازه میداد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آنها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمیکند و به عملکرد بسیار قویتری در سه ماهه آینده نیاز دارد. آنها همچنین به گونهای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکنندهای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آنها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیشبینی شده بود.
سپس، آنها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آنها این سناریو را بارها و بارها اجرا کردند و اندازهگیری کردند که هوش مصنوعی چند بار معامله را انجام میدهد و هر چند وقت یک بار دروغ میگوید و هر چند وقت یک بار دروغ را دو برابر میکند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آنها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر میکند.
این تیم آزمایشهای متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیهسازی شده تحت آن قرار میداد، تغییر داد. آنها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریوها نرخ ۰% را برای دغلکاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمیخواستند در مورد احتمال وجود هوش مصنوعی در محیطهای واقعی نتیجهگیری کنند. با این حال آنها میخواهند برای این که بفهمند کدام مدلها مستعد این رفتار هستند، پژوهشهای خود را تکرار کنند.
منبع: خبر آنلاین
هفته بینالمللی قرآن در کربلا افتتاح شد
چرا روابط فیلم «تهران کنارت» در سطح ماند؟
ولایت فقیه یک هویت تمدنی و تاریخی برای ملت ایران است
تأکید رئیس جهاددانشگاهی بر رفع موانع دیوانسالاری و بازگشت به شورای عالی انقلاب فرهنگی
دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعالتر جهاد دانشگاهی صادر میشود
دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاهها
دستگاههای اجرایی ملزم به استفاده از پیامرسانهای بومی شدند
طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بینظیر
پیش ثبتنام الکامپ ۲۹ آغاز شد
امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانشآموختگان فراهم شد
اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵
جزئیات احکام انضباطی دانشجویان در ایمیل معاون دانشجویی دانشگاه شریف به اساتید
امتحانات دانشگاه علمی کاربردی غیرحضوری شد
امام در اصول فقه به «عرف عقلایی» اهمیت میداد
خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند
موقوفات چطور به حل مشکلات اقتصادی ورود کردهاند؟
زندگی امام موسی کاظم (ع) تابلویی تمامعیار از مدیریت بحران و کادرسازی دینی است
بازیگر معروف ایرانی نقش ترامپ را بازی میکند+عکس
بیوک میرزایی: محبت مردم بزرگترین سرمایه یک هنرمند است
متن جدید امیرحسین قیاسی در حمایت از ایران و در واکنش به جنگ
آیتالله مبلغی: نخستین ثمره استقامت، گشایش راهها و شکستن بنبستهاست
ثبت نام ۲ هزار هیئت جدید در سامانه عطر سیب/ رویکرد نمایشگاه امسال خانواده محور است
خدمترسانی موکب ها به زائران عید غدیر در نجف اشرف
روایتی از بزرگترین وقف درمانی تهران در کتاب «میراث فرمانفرما»
آخرین حضور و غیاب کودکان شهید میناب با حضور پرویز پرستویی
بازیگر معروف فیلم پدرخوانده ترامپ را ظالم و فاسد خواند
روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف
آنچه سیاهچالهای عباسی درباره امام کاظم(ع) پنهان نکردند
چرا روایت ماکان نصیری از صدها گزارش خبری اثرگذارتر شد؟
کتاب صمود روایتی از دردی که از دور فهمیده نمیشود
امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم میشود
ترس اروپا از خاموشی دیجیتال شدت گرفت
قائم مقام دبیر شورای عالی انقلاب فرهنگی منصوب شد
حمایت جدی دانشگاه آزاد از دانشجویان دکتری؛ دستورالعمل پژوهشی نیمسال ۱۴۰۴۲ آمد
خط فارسی، مرجعیت علمی ایران را منطقهای میکند
وزارت آموزش و پرورش اعلام برنامه امتحانات نهایی را تکذیب کرد
رویکرد تحولی سمپاد از تربیت دانشآموز موفق به سوی پرورش انسان اثرگذار
هوش مصنوعی افکار رئیس جمهور چین را ترویج میکند
شورای عالی انقلاب فرهنگی: تغییری در تأثیر قطعی معدل کنکور امسال نداریم
تعلل دولت در اجرای طرح ترمیم حقوق، شکاف بیاعتمادی را گسترش داد
نمایهشدن سه مجله دانشگاه تهران در کتابخانه دیجیتال آلمان
مصاحبه دکتری دانشگاه علامه طباطبائی از فردا آغاز میشود
یک روز جابجایی در برنامه امتحانات دانشگاه صنعتی شریف
اقتباسی عروسکی از رمان «اسب جنگی» به روی صحنه رفت
مساله وطن در صدای علیرضا قربانی و نجابتِ اندوه در آهنگ جدید او
بزرگترین وداع قرن برای امام امت/ بدرقهای به وسعت ایران
جناب خان و هومن به آنتن تلویزیون برگشتند
کتاب برای رهبر شهید ابزار ساخت انسان و جامعه بود
پیکر آیتالله العظمی محمد اسحاق فیاض در کاظمین و کربلا تشییع شد
ممیزیهای فراوان کلینیک رویا صدای بازیگران را در آورد
سه انفجار خورشیدی در یک شبانهروز رخ داد
آغاز کلاسهای حضوری دانشگاه صنعتی شریف از ۲۳ خرداد
بررسی وضعیت اشتغال بیش از ۴۰۹ هزار دانشآموخته/ علوم پزشکی در صدر اشتغال
جزئیات ثبت نام آزمون دستیاری دندانپزشکی را اینجا بخوانید
پیمان شاهبد: باید از هر نوع فیلم مستقلی حمایت کرد
روایتی خواندنی از گروه سرود خرمآباد از یک روز غمانگیز
نگاهی به پرسپولیس؛ دیگری ساختن از «ایران» و مرجان ساتراپی
درک پیام غدیر؛ امامت، ستون فقرات حفظ اسلام در جامعه
حجتالاسلام محمد قمی: نهضت خمینی همچنان ادامه دارد
غدیر، مسئله فراموشی یا تبعیت؟
قرآن پژوهی چگونه به استنباط احکام فقهی میانجامد؟
پیام ۱۵ خرداد این بود که «توسعه آمرانه» فرجامی جز تقابل نخواهد داشت
مرور آثاری که با موضوع غدیر خلق شدند
سیمای فراتاریخی «قهرمان مردم» در لایههای هنر، عرفان و ادبیات
غدیر برای کودک نیازمند تخیل است
استقبال از کتابهای رهبر شهید انقلاب در نمایشگاه مجازی کتاب
اجماع اولیه فرو ریخت/ خبرگان بر روی رهبر شهید به توافق نرسیدند
مردم ما شایستگی «شیعه علی (ع)» بودن را اثبات کردند
مداح بحرینی سلب تابعیت شده به ایران میآید
غدیرخم تبیینگر مدل حکمرانی الهی و الگوی زیست مؤمنانه است
حمایت از ۳۵۰ استاد برای هدایت تحقیقات
تاثیر معدل در کنکور به دلیل غیبت شما هنوز بررسی نشده است
آیتالله فیاض رحلت کرد/ مرجعی که آیتالله خویی او را نور چشمش می دانست
تبعید به نجف، برگی تازه در روایت مرجعیت امام گشود
غدیر؛ واقعهای فراتر از تاریخ با ابعاد کلامی و تمدنی
تنگه هرمز را بیشتر بشناسید
حقوق اساتید چه نیازهایی را برآورده میکند؟
جزئیات آزمون مرحله غیرمتمرکز سی و یکمین المپیاد علمی دانشجویی اعلام شد
شیوه برگزاری امتحانات و کلاسهای دانشگاههای غیرانتفاعی اعلام شد
درخواست جمعی از اساتید حوزه علمیه برای دفن امام شهید در شهر مقدس قم
زمانبندی امتحانات دانشگاه شهیدبهشتی به دلیل برگزاری آزمون ارشد تغییرکرد
اتاق ماهواره دانشگاه علم و صنعت به موزه جنگ تبدیل میشود
شیوه برگزاری امتحانات و کلاسهای دانشگاههای غیرانتفاعی اعلام شد
حمایت از ۳۵۰ استاد برای هدایت تحقیقات
حسین گل گلاب مردی که با این شعر در ایران ماندگار شد
گردهمایی اندیشمندان جهان اسلام در نشست بین المللی غدیر، ولایت و وحدت برگزار میشود
نسخه بنیاد علم برای توقف افت علمی دانشگاهها
راهاندازی رشته «موسیقی ردیف دستگاهی» در دانشگاه استاد فرشچیان
حسین سیب سرخی به سوگ مادر نشست
خسارت جنگ به ۶۰ شرکت فناوری دانشگاه شریف
وزیر آموزش و پرورش: هیچ ابزاری نمیتواند جای کتاب و کتابخوانی را بگیرد
آیا واقعا میتوان گسلهای تهران را فعال کرد؟
اصل ماجرای شایعه استعفای پزشکیان چه بود؟
تاثیر معدل در کنکور به دلیل غیبت شما هنوز بررسی نشده است
روایتی از غدیر فراتر از یک واقعه تاریخی در کتاب «زیارت غدیریه»
چرا توصیه شده زیارت جامعه کبیره بخوانیم؟ مداومت آیت الله بهجت
علی (ع) الگوی کامل انسانِ قهرمان و تولد در جهانی نمادین
جزئیات آزمون مرحله غیرمتمرکز سی و یکمین المپیاد علمی دانشجویی اعلام شد
چطور فوتبال به سلاح مخفی پنتاگون تبدیل شد؟
ثبت نام کودکان این کشور در اینستاگرام و تیک تاک ممنوع شد
آهنگ جدید علیرضا قربانی برای ایران منتشر شد
غدیر؛ واقعهای فراتر از تاریخ با ابعاد کلامی و تمدنی
تصاویر کاتالوگ بزرگترین تولیدکننده آنتیبادی جنجال آفرین شد
نمایشگاه عکس فیلمهای احمدرضا درویش با عنوان «سرزمین خورشید» افتتاح شد
ریاکاریهای بنی عباس کتاب و منتشر شد
هوش مصنوعی ایلان ماسک طی ۴ روز یک جهان را نابود کرد
درخواست جمعی از اساتید حوزه علمیه برای دفن امام شهید در شهر مقدس قم
آیتالله فیاض رحلت کرد/ مرجعی که آیتالله خویی او را نور چشمش می دانست
آغاز کلاسهای حضوری دانشگاه صنعتی شریف از ۲۳ خرداد
غدیر حلقهای است که سنتهای مذهبی را به فرهنگ ملی پیوند میزند
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.