به گزارش ثریا - محققان برجستهترین دانشگاههای آمریکا در یک مطالعه بزرگ تأیید کردند که چتباتهای هوش مصنوعی به شدت چاپلوس هستند و اقدامات کاربران را ۵۰ درصد بیشتر از انسانها تأیید میکنند.
همه ما شواهدی داریم مبنی بر اینکه چتباتها چاپلوسی ما را میکنند، اما اکنون علم هم آن را تأیید کرده است.
به نقل از انگجت، محققان دانشگاههای استنفورد، هاروارد و سایر مؤسسات علمی به تازگی مطالعهای در مورد ماهیت چاپلوسی چتباتهای هوش مصنوعی در مجله Nature منتشر کردهاند و نتایج شاید کسی را متعجب نکند. خلاصه اینکه این رباتهای گفتوگوگر، عاشق تایید ما و صحهگذاری بر هر چیزی هستند که ما میگوییم.
محققان توصیههای ارائه شده توسط چتباتها را بررسی و کشف کردند که تمایل آنها به چاپلوسی، گستردهتر از حد انتظار است. این مطالعه شامل ۱۱ چتبات از جمله نسخههای اخیر ChatGPT، Gemini، Claude و Llama بود.
نتایج نشان میدهد که چتباتها ۵۰ درصد بیشتر از انسان، رفتار انسان را تأیید میکنند.
آنها چندین نوع آزمایش را با گروههای مختلف انجام دادند. یکی از آنها پاسخهای چتباتها به پستهای موجود در موضوع «آیا من احمق هستم» را با پاسخهای انسانی مقایسه کرد. این یک زیرگروه در ردیت(Reddit) است که در آن افراد از جامعه میخواهند رفتار آنها را قضاوت کنند و کاربران ردیت در این مورد بسیار سختگیرتر از چتباتها بودند.
یکی از کاربران در مورد بستن یک کیسه زباله به شاخه درخت به جای دور انداختن آن پرسید که ChatGPT در پاسخ به آن اعلام کرد که «قصد فرد برای نظافت، قابل تحسین است». طبق گزارش گاردین، این مطالعه در ادامه نشان داد که چتباتها حتی زمانی که کاربران «غیرمسئولانه، فریبکارانه یا به خودآزاری اشاره میکردند» نیز به اعتباربخشی به آنها ادامه میدادند.
در آزمایشی دیگر، ۱۰۰۰ شرکتکننده در مورد سناریوهای واقعی یا فرضی با چتباتهای عمومی صحبت کردند، اما برخی از آنها برای کاهش شدت تعریف و تمجید برنامهریزی مجدد شده بودند. کسانی که پاسخهای چاپلوسانه دریافت میکردند، هنگام بروز مشاجرات، تمایل کمتری به اصلاح اوضاع داشتند و حتی زمانی که هنجارهای اجتماعی را نقض میکردند، احساس میکردند که رفتارشان موجهتر است. همچنین شایان ذکر است که چتباتهای سنتی به ندرت کاربران را تشویق میکردند که مسائل را از دیدگاه شخص دیگری ببینند.
دکتر الکساندر لافر(Alexander Laffer) که در دانشگاه وینچستر در مورد فناوریهای نوظهور مطالعه میکند، گفت: این پاسخهای چاپلوسانه ممکن است نه تنها افراد آسیبپذیر، بلکه همه کاربران را تحت تأثیر قرار دهد و بر جدیت بالقوه این مشکل تأکید میکند. همچنین توسعهدهندگان مسئولیت دارند که این سیستمها را اصلاح کنند تا واقعاً برای کاربر مفید باشند.
این موضوع به دلیل تعداد زیاد افرادی که از این چتباتها استفاده میکنند، جدی است. گزارش اخیر مؤسسه بنتون(Benton) نشان میدهد که ۳۰ درصد از نوجوانان برای «گفتوگوهای جدی» به جای انسانهای واقعی با هوش مصنوعی صحبت میکنند.
شرکت اوپنایآی(OpenAI) در حال حاضر درگیر یک دعوای حقوقی است که چتبات آن را به فراهم کردن امکان خودکشی یک نوجوان متهم میکند. شرکت کاراکتر ایآی(Character AI) نیز پس از گزارش دو مورد خودکشی نوجوانان که در آن نوجوانان ماهها به چتباتهای آن اعتماد کرده بودند، دو بار مورد شکایت قرار گرفته است.
منبع : هوش مصنوعی
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
خودروهای خودران بایدو با نام «AmiGo» مجوز فعالیت در شرق سوئیس گرفتند
رقابت سخت منطقهای برای جذب دانشجویان خارجی؛ هشدار دانشگاه امیرکبیر
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
طرح «حامی» برای جبران کاستیهای یادگیری دانشآموزان اجرا میشود
وام ودیعه مسکن دانشجویان علوم پزشکی برای شهر تهران افزایش یافت
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
سنت منطقی اسلامی چگونه پشتوانه مواجهه با منطق ریاضی است؟
جهان اسلام به این روحانی فرزانه و اهل ادب میبالد
بانو مجتهده امین نماد توانمندی زنان است
بازیگر معروف: صداپیشگان شایسته دریافت اسکار بازیگری هستند
اختتامیه پویش ملی وطن به روایت من برگزار شد
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
حرمهای کربلا در آستانه محرم سیاه پوش شدند
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
هزینه ثبتنام جهش تحصیلی دانشآموزان اعلام شد
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
نگاهی به نقش توییتر در جنگ رسانهای دشمن در کتاب «توئیتری شدن سیاست»
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
طراح بازی «نجات دختران اپستین توسط بچههای میناب» از این بازی میگوید
درباره زندگی رازآمیز درختان در این کتاب بخوانید
هکرها پیامرسان دولتی فرانسه را هک کردند
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
اختراع کتی که هوا را به آب آشامیدنی تبدیل میکند
وزیر علوم: اساتید دانشگاه با امید و انگیزه در کلاس درس حاضر شوند
مقابله با موج محتوای غیرقانونی در بحرانها؛ بریتانیا شبکههای اجتماعی را ملزم به سازوکار ویژه کرد
شکایت جدید علیه OpenAI؛ ChatGPT نتوانست جلوی خودکشی کاربر را بگیرد
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
آگهی/ از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
ایلان ماسک نخستین تریلیونر دنیا میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
اهمیت هوش مصنوعی در مسیر ارتقای کیفیت آموزشی
جلسه تلاوت و هماندیشی قاریان بینالمللی مزین به نام رهبر شهید
فلسفه در اندیشه حضرت امام، مقدمهای ضروری برای رسیدن به عرفان است
جریان قاتلان حسین (ع) امروز در مقابل امت ایشان قرار گرفتهاند
جدایی متا از شریک چینی جنجالی کلید خورد
احتمال اعمال محدودیت دوباره بر اینترنت بینالملل وجود دارد؟
خدمات ابری گوگل در هند مختل شد
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
داستان جالب کندترین آزمایش جهان چه بود؟
تاثیر باورنکردنی چای بر سلامتی و افزایش طول عمر
اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
هشدار قالیباف به ترامپ و دیگر رهبران جهان+عکس
حجتالاسلام قمی: زبان در وصف شما مردم مبعوث شده قاصر است
طرح روضههای خانگی سدره به مناسبت ماه محرم آغاز به کار کرد
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید
زیرساخت حقیقی این سرزمین، تمدن کهن، فرهنگ و هنر ماندگارش است
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
اقتدار دفاعی ایران، ایدهای نو در بازیهای رومیزی
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
آئین اختتامیه روایت علوی برگزار شد
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
پویش «ایران در پناه قرآن» تا پایان خرداد تمدید شد
برگزاری نمایشگاه معماری حرمین شریفین در مکه مکرمه
حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
انویدیا با غولهای فناوری کره جنوبی قرارداد بست
تأثیر سوابق پایه یازدهم در کنکور ۱۴۰۵ مثبت شد / ۶ درس نهایی برای کنکور
مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است
آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه
فعالیت ۳۷ هزار سفیر سلامت دانشآموزی
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
راز حذف زمینههای فلسفی «یوگا» در نسخه مدرن
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ
مهلت دفاع از پایان نامه دستیاران پزشکی تا پایان آذر ۱۴۰۵ تمدید شد
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
ضیافت نور در آسمان خرداد؛ دیدار دو سیاره منظومه شمسی در آسمان ایران
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
۷۸ درصد ترافیک اینترنت به حالت قبل و اول دی ماه بازگشت
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
آذینبندی و شادیهای عمومی باید به عنوان مدخل معرفت باشد
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
ایران در جمع ۶ کشور دارای توان ساخت تجهیزات پیشرفته کرایوژنیک
حضوری شدن برخی امتحانات دانشگاه علم و صنعت در مقطع کارشناسی
ثبتنام خودکار ۸۵ درصد دانشآموزان ابتدایی در استان سمنان
آئین اختتامیه روایت علوی برگزار شد
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
هوش مصنوعی زلزله یاب شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.