به گزارش ثریا - محققان برجستهترین دانشگاههای آمریکا در یک مطالعه بزرگ تأیید کردند که چتباتهای هوش مصنوعی به شدت چاپلوس هستند و اقدامات کاربران را ۵۰ درصد بیشتر از انسانها تأیید میکنند.
همه ما شواهدی داریم مبنی بر اینکه چتباتها چاپلوسی ما را میکنند، اما اکنون علم هم آن را تأیید کرده است.
به نقل از انگجت، محققان دانشگاههای استنفورد، هاروارد و سایر مؤسسات علمی به تازگی مطالعهای در مورد ماهیت چاپلوسی چتباتهای هوش مصنوعی در مجله Nature منتشر کردهاند و نتایج شاید کسی را متعجب نکند. خلاصه اینکه این رباتهای گفتوگوگر، عاشق تایید ما و صحهگذاری بر هر چیزی هستند که ما میگوییم.
محققان توصیههای ارائه شده توسط چتباتها را بررسی و کشف کردند که تمایل آنها به چاپلوسی، گستردهتر از حد انتظار است. این مطالعه شامل ۱۱ چتبات از جمله نسخههای اخیر ChatGPT، Gemini، Claude و Llama بود.
نتایج نشان میدهد که چتباتها ۵۰ درصد بیشتر از انسان، رفتار انسان را تأیید میکنند.
آنها چندین نوع آزمایش را با گروههای مختلف انجام دادند. یکی از آنها پاسخهای چتباتها به پستهای موجود در موضوع «آیا من احمق هستم» را با پاسخهای انسانی مقایسه کرد. این یک زیرگروه در ردیت(Reddit) است که در آن افراد از جامعه میخواهند رفتار آنها را قضاوت کنند و کاربران ردیت در این مورد بسیار سختگیرتر از چتباتها بودند.
یکی از کاربران در مورد بستن یک کیسه زباله به شاخه درخت به جای دور انداختن آن پرسید که ChatGPT در پاسخ به آن اعلام کرد که «قصد فرد برای نظافت، قابل تحسین است». طبق گزارش گاردین، این مطالعه در ادامه نشان داد که چتباتها حتی زمانی که کاربران «غیرمسئولانه، فریبکارانه یا به خودآزاری اشاره میکردند» نیز به اعتباربخشی به آنها ادامه میدادند.
در آزمایشی دیگر، ۱۰۰۰ شرکتکننده در مورد سناریوهای واقعی یا فرضی با چتباتهای عمومی صحبت کردند، اما برخی از آنها برای کاهش شدت تعریف و تمجید برنامهریزی مجدد شده بودند. کسانی که پاسخهای چاپلوسانه دریافت میکردند، هنگام بروز مشاجرات، تمایل کمتری به اصلاح اوضاع داشتند و حتی زمانی که هنجارهای اجتماعی را نقض میکردند، احساس میکردند که رفتارشان موجهتر است. همچنین شایان ذکر است که چتباتهای سنتی به ندرت کاربران را تشویق میکردند که مسائل را از دیدگاه شخص دیگری ببینند.
دکتر الکساندر لافر(Alexander Laffer) که در دانشگاه وینچستر در مورد فناوریهای نوظهور مطالعه میکند، گفت: این پاسخهای چاپلوسانه ممکن است نه تنها افراد آسیبپذیر، بلکه همه کاربران را تحت تأثیر قرار دهد و بر جدیت بالقوه این مشکل تأکید میکند. همچنین توسعهدهندگان مسئولیت دارند که این سیستمها را اصلاح کنند تا واقعاً برای کاربر مفید باشند.
این موضوع به دلیل تعداد زیاد افرادی که از این چتباتها استفاده میکنند، جدی است. گزارش اخیر مؤسسه بنتون(Benton) نشان میدهد که ۳۰ درصد از نوجوانان برای «گفتوگوهای جدی» به جای انسانهای واقعی با هوش مصنوعی صحبت میکنند.
شرکت اوپنایآی(OpenAI) در حال حاضر درگیر یک دعوای حقوقی است که چتبات آن را به فراهم کردن امکان خودکشی یک نوجوان متهم میکند. شرکت کاراکتر ایآی(Character AI) نیز پس از گزارش دو مورد خودکشی نوجوانان که در آن نوجوانان ماهها به چتباتهای آن اعتماد کرده بودند، دو بار مورد شکایت قرار گرفته است.
منبع : هوش مصنوعی
موشک اسپیس ایکس با ماه تصادف میکند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
کاهش ۵۰ درصدی خوردگی تجهیزات نیروگاهی با فناوری نانوحباب
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
رئیس دانشگاه الزهرا کربلا: نهضت حسینی مرزهای طایفهای را شکست داد
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
آییننامه جامع حمایت از دانشجویان توانخواه نهایی شد
سهم دانشجو از نرخ غذای دانشجویی مشخص شد
پیش ثبتنام ۸۱۰ هزار دانشآموز پایه هفتم
آموزش و پرورش با ۱۰۰ موکب، آماده خدمترسانی به زائران اربعین است
روایت زائرانی که اربعین را از شرق ایران آغاز میکنند در کتاب «شاه است حسین»
پرچمهایی در پیاده روی اربعین که هنوز خون را به یاد دارند
تصویر کمتر دیده شده از آیتالله سیدمجتبی خامنهای در نماز جمعه نصر
چالشهای عکاسی طبیعت چیست؟ سید صابر امامی پاسخ میدهد
جزئیات شرکت در آزمون های دانشنامه و گواهینامه فوق تخصصی پزشکی تعیین شد
اصغر خلیلی مدیریت مجموعه تئاتر شهر را بر عهده گرفت
آلبوم جدید خواننده پاپ در راه است
اودیسه نولان در ایکس لو رفت؛ ایلان ماسک در برابر نولان
جزئیات آزمونهای دانشنامه و گواهینامه تخصصی پزشکی را اینجا بخوانید
اجرای نزدیک به ۱۵ پروژه ملی در وزارت علوم پس از جنگ
۱۳۰ هزار فعالیت انجمنهای علمی دانشجویی در کشور ثبت شدند
دانشجویان دانشگاه صنعتی امیرکبیر مسیر شغلی خود را طراحی میکنند
مدیر ارشد اوپن ای آی به این شبکه اجتماعی معتاد شده بود
متا تحقیق درباره خطرات اینستاگرام برای نوجوانان را نادیده گرفت
پرتاب ۵ هزار ماهواره آمازون برای بهبود کیفیت اینترنت در جهان
تسهیلات ویژه دانشگاه آزاد برای اربعین امسال/ استقرار مواکب در ۵ مرز کشور
ثبت نام جذب دانشآموختگان دکتری در دانشگاهها آغاز شد؛ ۲ شرط اصلی برای ورود
مشاور شورای آموزش پزشکی: ۲ متخلف آزمون دستیاری به مقامات قضایی تحویل داده شدند
«مردم نمایی» روایتی دیگر از ماجرای نیما تکیدو
حاج حسین ملک داراییهای فناپذیر را به میراثی تمدنی تبدیل کرد
پناهیان: بزرگترین تشییعهای تاریخ مربوط به امامین انقلاب است
جستجوی حقیقت در مهآلودگی ابطالپذیری پوپر/سطحینگری در علوم انسانی
جزئیات برگزاری مصاحبه مجازی متأخرین دکتری ۱۴۰۵ دانشگاه آزاد اعلام شد
قیمت سامسونگ گلکسی و زد فولد گران می شود
خبر مصوبه شورای عالی فضای مجازی برای برخورد با بلاگرها تکذیب شد
رشد استقبال از آزمون دستیاری در سالهای اخیر
تصویری از تابوت استاد مرحوم اکبر عبدی
پارادوکس در وقف، سودجویی ناشر و موزّع
فانتزی که به شاهنامه تکیه زده است/ احیای حماسه در ادبیات فانتزی ایران
رمان دینی باید افراد معاند و خاکستری را هم پای کتاب بنشاند
بعد از انفجار پیجرها، زندگی چگونه ادامه پیدا کرد؟
حافظه مکتوب ایران چگونه زنده میماند؟
بزرگداشت شیخ صفیالدین اردبیلی در فضای مجازی
صفحه رسمی سفارت آلمان در تهران شایعات تخلیه کارکنان این نمایندگی دیپلماتیک را تکذیب کرد
تصویری از برخاستن ستون دود در اربیل عراق
رهبر شهید بیش از حوزویان با نخبگان دانشگاهی دیدار داشتند
ترامپ انتقام جریمه گوگل را از اروپا می گیرد
خونخواهی رهبر شهید ادامه یک مطالبه تاریخی است؛ انتقام با بیشترین ضربه
اعلام دستمزد طراحان صحنه و لباس تئاتر در سال ۱۴۰۵
خالق فیلم معروف «ماسک» از دنیا رفت؛ جیم کری از همکاری با وی تشکر کرد
خداحافظ آقای عبدی؛ دلمان برایتان تنگ میشود
اعزام ۴۷۴ معلم برگزیده به مدارس خارج از کشور
وزیر آموزش و پرورش: کنکور به موقع برگزار میشود
کشف آنزیمی که میتواند پیری را معکوس کند
چت جی پی تی در سراسر جهان مختل شد
ثبت نام دانش آموختگان خارج از کشور در آزمون پیش کارورزی پزشکی آغاز شد
رشد استقبال از آزمون دستیاری در سالهای اخیر
ثبت نام جذب دانشآموختگان دکتری در دانشگاهها آغاز شد؛ ۲ شرط اصلی برای ورود
آییننامه جامع حمایت از دانشجویان توانخواه نهایی شد
جزئیات برگزاری مصاحبه مجازی متأخرین دکتری ۱۴۰۵ دانشگاه آزاد اعلام شد
مشاور شورای آموزش پزشکی: ۲ متخلف آزمون دستیاری به مقامات قضایی تحویل داده شدند
اصغر خلیلی مدیریت مجموعه تئاتر شهر را بر عهده گرفت
قیمت سامسونگ گلکسی و زد فولد گران می شود
تسهیلات ویژه دانشگاه آزاد برای اربعین امسال/ استقرار مواکب در ۵ مرز کشور
روایت زائرانی که اربعین را از شرق ایران آغاز میکنند در کتاب «شاه است حسین»
تصویر کمتر دیده شده از آیتالله سیدمجتبی خامنهای در نماز جمعه نصر
آموزش و پرورش با ۱۰۰ موکب، آماده خدمترسانی به زائران اربعین است
اودیسه نولان در ایکس لو رفت؛ ایلان ماسک در برابر نولان
پیش ثبتنام ۸۱۰ هزار دانشآموز پایه هفتم
خبر مصوبه شورای عالی فضای مجازی برای برخورد با بلاگرها تکذیب شد
چالشهای عکاسی طبیعت چیست؟ سید صابر امامی پاسخ میدهد
اجرای نزدیک به ۱۵ پروژه ملی در وزارت علوم پس از جنگ
۱۳۰ هزار فعالیت انجمنهای علمی دانشجویی در کشور ثبت شدند
مدیر ارشد اوپن ای آی به این شبکه اجتماعی معتاد شده بود
متا تحقیق درباره خطرات اینستاگرام برای نوجوانان را نادیده گرفت
پرتاب ۵ هزار ماهواره آمازون برای بهبود کیفیت اینترنت در جهان
جزئیات شرکت در آزمون های دانشنامه و گواهینامه فوق تخصصی پزشکی تعیین شد
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
پرچمهایی در پیاده روی اربعین که هنوز خون را به یاد دارند
جزئیات آزمونهای دانشنامه و گواهینامه تخصصی پزشکی را اینجا بخوانید
دانشجویان دانشگاه صنعتی امیرکبیر مسیر شغلی خود را طراحی میکنند
آلبوم جدید خواننده پاپ در راه است
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
سهم دانشجو از نرخ غذای دانشجویی مشخص شد
تصویری از تابوت استاد مرحوم اکبر عبدی
پناهیان: بزرگترین تشییعهای تاریخ مربوط به امامین انقلاب است
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.