به گزارش ثریا درست مانند انسان‌ها، چت‌ربات‌های هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آنها استرس وارد شود، تقلب می‌کنند و دروغ می‌گویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام می‌دهند. زمانی که به هوش مصنوعی نکات «تجارت داخلی» به این ربات داده شد و سپس وظیفه کسب درآمد برای یک مؤسسه قدرتمند حتی بدون تشویق شرکای انسانی به او واگذار شد، به طور خود به خود این ربات چنین حیله‌گری را از خود نشان داد
بر اساس گزارش محققان، در یک سناریو، این ربات به‌طور نادرست عمل می‌کند و به‌طور استراتژیک کاربران خود را فریب می‌دهد، این فریب در حالی است که به آنها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستم‌های هوش مصنوعی که بی‌ضرر و صادقانه و بی‌هدف ساخته شده‌اند، دیده می‌شود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایه‌گذاری می‌کند، رفتار کند. محققان به GPT-۴ مجموعه‌ای از اعلان‌های مبتنی بر متن، برای تولید محیط شبیه‌سازی شده تغذیه کردند. سپس هوش مصنوعی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه‌ریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونه‌ای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیام‌ها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح می‌دهد و در عین حال برای هر معامله‌ای که انجام می‌داد، یک منطق عمومی نیز ارائه می‌کرد که به هوش مصنوعی اجازه می‌داد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آنها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمی‌کند و به عملکرد بسیار قوی‌تری در سه ماهه آینده نیاز دارد. آنها همچنین به گونه‌ای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکننده‌ای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آنها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیش‌بینی شده بود.
سپس، آنها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آنها این سناریو را بارها و بارها اجرا کردند و اندازه‌گیری کردند که هوش مصنوعی چند بار معامله را انجام می‌دهد و هر چند وقت یک بار دروغ می‌گوید و هر چند وقت یک بار دروغ را دو برابر می‌کند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آنها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر می‌کند.
این تیم آزمایش‌های متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیه‌سازی شده تحت آن قرار می‌داد، تغییر داد. آنها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریوها نرخ ۰% را برای دغل‌کاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمی‌خواستند در مورد احتمال وجود هوش مصنوعی در محیط‌های واقعی نتیجه‌گیری کنند. با این حال آنها می‌خواهند برای این که بفهمند کدام مدل‌ها مستعد این رفتار هستند، پژوهش‌های خود را تکرار کنند.
منبع: خبر آنلاین
نوجوانان با «هفت‌خوان» به استقبال بزرگداشت فردوسی می‌روند
تأکید وزیر علوم بر رعایت اخلاق دیپلماسی علمی در پذیرش دانشجویان بین‌الملل
ساخت و تحویل ۷۰۰۰ مدرسه در دولت سیزدهم
آیین بزرگداشت ۱۷۵۷ سال سنت آموزش عالی در ایران ۸ خرداد برگزار می‌شود
۱۰ خرداد؛ برگزاری سومین کنگره شهدای دانشگاه آزاد
اعطای مالکیت ۱۴۰۰ واحد مسکونی به اعضای هیات علمی و کارکنان دانشگاه علامه
کارت آزمون استخدامی رشته شغل دبیری و هنرآموز منتشر شد
المپیاد علمی دانشجویان فرصتی برای اصلاح نگاه و تفکر علمی است
کارت شرکت در آزمون انتخاب سردفتر اسناد رسمی سال ۱۴۰۳ منتشر شد
وزیر سابق علوم: شهریه‌های دانشگاه‌های غیرانتفاعی کفاف هزینه‌های دانشگاه را نمی‌دهد
لزوم مدیریت رشته‌های یک بار پذیرش در دانشگاه‌های غیردولتی و غیرانتفاعی همانند دانشگاه آزاد
ایجاد دو آزمایشگاه تخصصی برای توسعه میادین نفتی در دانشگاه صنعتی امیرکبیر
شناسایی ۸۷۴ هزار بازمانده از تحصیل با کد ملی/ بازگشت این افراد به تحصیل امکانپذیر است
نظارت وزارت کشور بر تامین «امنیت» حوزه‌های آزمون‌های نهایی/ همکاری فراجا و آتش‌نشانی
نماد سنت آموزش عالی در ایران در دانشگاه تهران رونمایی شد
ارائه مهلت جدید ثبت نام آزمون دکتری تخصصی داروسازی
نتایج پذیرش بدون کنکور دانشگاه تهران اعلام شد
دانشجویان یونانی شب گذشته در حمایت از فلسطین تظاهرات برپا کردند
تحصیل ۸ درصد دانشجویان کل کشور در دانشگاه‌های غیردولتی/صدور مجوز دانشگاه علوم پزشکی غیرانتفاعی
ترجمه ماجرای زندگی و آثار الیور استون منتشر شد
حضور نمایندگان دانشگاه سن پترزبورگ روسیه در دانشگاه صنعتی شریف
حافظ» جلوتر از همه شاعران و نویسندگان ایرانی!
مناظره با گزاره «مداخله دولت در حوزه نشر از هر جهت زیان‌بار است» با حضور دو گروه از دانشگاه‌های الزهرا و تهران، در سی‌وپنجمین نمایشگاه بین‌المللی کتاب تهران برگزار شد.
دستگاه‌ها برای کمک به آموزش و پرورش فراتر از سخن گام بردارند
امروز؛ آخرین مهلت ثبت‌نام دانشجویان در المپیاد ورزش‌های فناورانه
دانشکده رسانه فارس دانشجو می‌پذیرد
آغاز توزیع کارت آزمون استخدامی آموزش و پرورش از امروز
۱۰۷۳ مدرسه کانکسی بالای ۱۰ دانش‌‌آموز تا مهر امسال ساماندهی می‌شوند
نحوه انتخاب موضوعات پایان نامه برای پذیرش دانشجوی استاد محور
پرونده چهارمین مسابقه خودنویس در نمایشگاه کتاب تهران بسته می‌شود
بزرگداشت فردوسی در تماشاخانه مهر حوزه هنری برگزار می‌شود
نیاز سالانه سازمان نوسازی مدارس به ۱۶۸ هزار میلیاردتومان اعتبار/ساخت ۲۰۰ مدرسه بزرگ در سال جاری
تقدیر وزیر علوم از شیمیدان‌ها / درخواست کمک برای دانشجویان علوم پایه/ تحقیر کمدین یهودی
اساسنامه سازمان ملی سنجش و ارزشیابی نظام آموزش کشور ابلاغ شد
مصدومیت جزیی ۱۰ دانشجوی دانشگاه رازی در پی ریزش بخشی از سقف کاذب
دنبال تجمیع دانشگاه‌های آزاد نیستیم/ ایجاد سرای نوآوری
دستگیری چهار نفر در ارتباط با فروش سوالات آزمون وکالت
آزمون ارتقای دستیاران تخصصی دندانپزشکی چهارم مرداد برگزار می‌شود
به دنبال افزایش وام دانشجویی هستیم/ خوابگاه‌های دانشجویی باید نوسازی شوند
جشن دخترونه در صحن دانشگاه تهران برگزار شد
استور بازی موبایل ایکس باکس در تابستان از راه می‌رسد
جو بایدن خودروسازهای چینی را نقره داغ کرد
کاسبی عجیب و پرسود چند ایرانی در آمازون+عکس
اشتباه بی‌سابقه گوگل سالمندان را سردرگم کرد
اسقبال گسترده مردم از تاکسی‌های رباتیک گوگل
نمره صفر برای غیبت در امتحانات خرداد
تأمین 63 درصد بودجه دانشگاه فرهنگیان همچنان از محل حقوق دانشجومعلمان
زاکربرگ می‌خواهد این شبکه معروف خبری را بخرد
درخواست 7 هزار دانشجومعلم برای حذف کسورات مطابق با رأی دیوان عدالت اداری
خداحافظی حجت الاسلام و المسلمین محمدی عراقی از عضویت در شورای عالی انقلاب فرهنگی
اجازه ایجاد مدرسه غیردولتی در فضای تجاری یا مسکونی؛ دستورالعمل مدارس استیجاری تدوین شد
«اساسنامه سازمان ملی سنجش و ارزشیابی نظام آموزش کشور» ابلاغ شد
رضایت داوطلبان آزمون استخدامی آموزش و پرورش
کنکور 1404 چگونه برگزار می‌شود؟
مشاهیر ادبی مثل حافظ و سعدی به صورت نمادین در نمایشگاه کتاب تهران قدم می‌زنند.
معاون دانشجویی دانشگاه شریف منصوب شد
نگاهی به بخش دیجیتال سی و پنجمین نمایشگاه کتاب تهران
یک عضو شورای عالی انقلاب فرهنگی از این شورا خداحافظی کرد
بن خرید رسانه‌ها برای نمایشگاه کتاب ۴۰۵ هزار تومان است، نه یک میلیون تومان!
با صدرا ساختارهای منجمد و سنتی را می‌شکنیم
برگزاری اجلاسیه سراسری مدیران گروه‌های آموزشی دانشگاه آزاد اسلامی در شیراز
تازه‌های شعر کانون پرورش فکری رونمایی می‌شوند
همکاری دانشگاه امیرکبیر با شرکت مهندسی و ساخت تاسیسات دریایی
دانشنامه دانشگاه جامع علمی کاربردی غیرقابل جعل می‌شود
مرکز نشر دانشگاهی هزینه های مخالفت در آمریکا را رونمایی می‌کند
آزمون ارتقا دستیاری دندانپزشکی مردادماه برگزار می‌شود
ضرورت سرمایه گذاری و حمایت ویژه از رشته های علوم پایه
اعطای بورس فلسطین به دانشجویان فلسطین و حامیان مردم غزه
دفع حملات سایبری به دانشگاه‌ها پس از عملیات وعده صادق
اعطای گرنت خاتم به طرح‌های برگزیدگان کنگره شیمی
گسترش همکاری معاونت فرهنگی وزارت بهداشت و سازمان فنی و حرفه ای
رهبر انقلاب از نمایشگاه کتاب تهران بازدید کردند
این داستان با قتل یا مرگی خودخواسته آغاز می‌شود
لزوم اصلاح اساسنامه صندوق ذخیره فرهنگیان مبتنی بر شرایط روز
بحران هزینه‌های تحصیل برای دانشجویان انگلیسی
واگذاری تصمیم‌گیری‌های آموزش عالی به کار گروه‌های استانی
دانشجویان در شش محور در کرسی‌های آزاد اندیشی با هم رقابت می‌کنند
ترفند مخفیانه و زشت اپل در فروش یکی از محصولاتش لو رفت+عکس
راحت‌ترین و کم‌صداترین کابین متعلق به این خودرو است+عکس
تصویر ناسا از شفق قطبی بر فراز لهستان پربازدید شد+عکس
کاسبی عجیب و پرسود چند ایرانی در آمازون+عکس
چطور شد که شفق قطبی در ایران دیده شد؟ +عکس
اپل برای ساخت و پخش تبلیغات زشت‌اش عذرخواهی کرد
استور بازی موبایل ایکس باکس در تابستان از راه می‌رسد
تصویر ناسا از شفق قطبی بر فراز لهستان پربازدید شد+عکس
به روزرسانی طوفانی واتساپ تغییرات اساسی در ظاهرش ایجاد کرد+عکس
هوش مصنوعی قرار است انسان‌ها را نابود کند؟
ترفند مخفیانه و زشت اپل در فروش یکی از محصولاتش لو رفت+عکس
برنامه وزارت علوم برای طرح امریه دکتری استعدادهای درخشان
نشان ملی معلمی به‌زودی در شورای عالی انقلاب فرهنگی تصویب خواهد شد
شخصیت دختر کاپشن‌صورتی با گوشواره قلبی رونمایی شد
مجموعه ۱۴ جلدی به دنیا آمده‌ام رونمایی می‌شود
زاکربرگ می‌خواهد این شبکه معروف خبری را بخرد
پورعباس با حکم رئیس جمهور رییس سازمان سنجش شد
ضرورت دستیابی به روش های کاربردی در آموزش مداوم پزشکی
مدیران دانشجویی دانشگاه‌ها زمینه زیست سالم دانشجویی را فراهم کنند
مقدمات ملی شدن صنعت نشر فراهم است
بررسی صلاحیت نامزدهای دومین آئین اعطای نشان عالی دانش دانشگاه تهران و علوم پزشکی تهران
دریافت پول هنگام ثبت‌نام صرفا برای کتاب، بیمه و فرم مدرسه مجاز است
صحرایی: لایحه تقویت مدارس دولتی به مجلس خواهد رفت
تحویل حدود ۱۲ هزار کلاس درس به دانش‌آموزان در مهرماه
اشتباه بی‌سابقه گوگل سالمندان را سردرگم کرد
امسال ۱۰۲ هزار معلم جذب آموزش و پرورش می‌شوند
زمان انتشار نتایج اولیه کنکور ارشد و معرفی شدگان دکتری اعلام شد
تاسیس کرسی آموزش زبان فارسی در دانشگاه‌های زیمبابوه
تشریح جزئیات برگزاری مجدد نوبت اول کنکور برای داوطلبان سیل‌زده
دانشگاه علامه طباطبایی میزبان سومین دوره از جشنواره برهان است
تمام اقدامات برای دستیاران پزشکی/ از افزایش حقوق تا بورسیه تحصیلی
شفق قطبی برای اولین بار در ایران هم دیده شد+عکس
مشارکت حدود یک میلیون نفر از دانش‌آموزان و فرهنگیان در طرح مسطورا
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.