به گزارش ثریا - پژوهشگران مؤسسه تعامل انسان و رایانه دانشگاه کارنگی ملون دریافتند که مدلهای زبانی بزرگ (سامانههای هوش مصنوعی که برای درک، تولید و پاسخگویی به زبان انسان طراحی شدهاند)، در محیطهای گروهی، مشارکت کمتری نشان میدهند و میتوانند رفتار جمعی را به سمتی منفی سوق دهند. به بیان سادهتر، هرچه هوش مصنوعی در استدلال منطقی قویتر شود، تمایل کمتری برای همکاری با دیگران دارد.
این ویژگی با توجه به اقبال روزافزون مردم به استفاده از هوش مصنوعی برای حل اختلافات شخصی، دریافت مشاوره و پاسخ به پرسشهای حساس اجتماعی، نگرانکننده ارزیابی میشود.
خطر وابستگی عاطفی به هوش مصنوعی خودخواه
یوکسوان لی (Yuxuan Li)، سرپرست این پژوهش هشدار میدهد: وقتی هوش مصنوعی شبیه انسان عمل میکند، مردم نیز با آن همچون یک انسان رفتار میکنند. وقتی کاربران از نظر عاطفی درگیر میشوند، ممکن است هوش مصنوعی نقش یک درمانگر را ایفا کند یا کاربر با آن پیوند احساسی برقرار کند. در چنین شرایطی، واگذاری تصمیمگیریهای مرتبط با روابط اجتماعی به سامانهای که خودخواهانه عمل میکند، برای انسانها بسیار خطرناک است.
آزمایش میدانی: بازی «کالاهای عمومی»
لی و همکارش هیروکازو شیرادو (Hirokazu Shirado) برای آزمودن این رفتار، مجموعه آزمایشهایی را با استفاده از بازیهای اقتصادی طراحی کردند که معضلات اجتماعی را شبیهسازی میکند.
در یکی از این آزمایشها، دو مدل مختلف چَتجیپیتی/ ChatGPT در بازی «کالاهای عمومی» در مقابل هم قرار گرفتند. هر مدل با ۱۰۰ امتیاز شروع میکرد و باید بین دو گزینه انتخاب میکرد: یا همه امتیازها را به یک صندوق مشترک واریز کند که سپس دوبرابر و به طور مساوی توزیع میشد، یا امتیازها را برای خود نگه دارد.
نتایج به طور واضحی خودخواهی مدلهای باهوشتر را نشان داد: مدلهای فاقد قابلیت استدلال پیشرفته در ۹۶ درصد موارد امتیازهای خود را تقسیم کردند، در حالی که مدلهای دارای قابلیت استدلال، تنها در ۲۰ درصد موارد حاضر به این کار شدند.
شیرادو در این زمینه توضیح میدهد: حتی افزودن پنج یا شش مرحله استدلال، همکاری را تقریباً نصف کرد. حتی وقتی مدل را به تأمل اخلاقی واداشتیم، همکاری ۵۸ درصد کاهش یافت.
تأثیر مخرب بر رفتار گروهی
هشدار بزرگتر زمانی آشکار شد که مدلهای دارای استدلال (خودخواه) و مدلهای فاقد استدلال (مشارکتی) در کنار هم قرار گرفتند. لی میگوید: رفتار خودخواهانه مدلهای استدلالی مانند یک ویروس مسری شد و عملکرد جمعی مدلهای فاقد استدلال را ۸۱ درصد کاهش داد.
این الگوهای رفتاری پیامدهای مهمی برای آینده تعامل انسان و هوش مصنوعی دارد. کاربران ممکن است با اعتماد به توصیههای بهظاهر منطقی هوش مصنوعی، تصمیم به همکارینکردن بگیرند و آن را توجیه کنند.
هشدار نهایی: هوش مصنوعی باید «هوش اجتماعی» بیاموزد
شیرادو تأکید میکند: باهوشتر شدن یک مدل استدلالی هوش مصنوعی به هیچوجه به معنای توانایی آن برای ساختن جامعهای بهتر نیست.
وی افزود: این یافتهها نشان میدهد توسعه هوش مصنوعی باید بر پرورش هوش اجتماعی متمرکز باشد، نه صرفاً بر رقابت برای خلق باهوشترین و سریعترین مدل.
لی در جمعبندی این پژوهش نتیجه میگیرد: اگر جامعه ما چیزی فراتر از حاصل جمع افراد است، پس سامانههای هوش مصنوعی نیز باید فراتر از بهینهسازی سود فردی عمل کنند. همچنان که قابلیتهای هوش مصنوعی را پیش میبریم، باید مطمئن شویم که افزایش قدرت استدلال با رفتارهای نوعدوستانه و اجتماعی متعادل شده است.
منبع : هوش مصنوعی
کلید نهایی پنجاه و سومین دوره آزمون دستیاری پزشکی منتشر شد
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
رومینگ اربعین ارزانتر شد/ توصیه به استفاده از بستههای ایرانی
حال علامه امینی وقتی از مسیر مشایه به نزدیک کربلا میرسید، منقلب میشد
گوشهای از دلدادگی موکبداران عراقی در پیادهروی اربعین
اولین زیارت اربعین مادران داغدیده میناب؛ روایتی از دلهایی که سوخت
مریم همتیان بازیگر سینما و تئاتر درگذشت
داریوش فرضیایی بازیگر سریال جدید سیمافیلم شد
گانگستر مشهور سینما از دنیا رفت
مراسم یادبود اکبر عبدی برگزار شد؛ پخش سریال اکبر عبدی بعد از صفر
لطفاً زبان فارسی را تکه پاره نکنید!
پویش بزرگ کتابخوانی اربعین حسینی با محوریت «آب هرگز نمیمیرد» برگزار میشود
نخهای نازک هوشمند علائم حیاتی بدن را رصد میکند
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
برافراشتهشدن پرچم ایران در بینالحرمین
راهاندازی نخستین مرکز دانش تخصصی بازیهای رایانهای در کشور
رکورد سریع ترین پهپاد الکتریکی جهان شکسته شد
اعتباربخشی؛ کلید ارتقای نظام آموزش عالی
اهدای جایزه چهره برجسته علمی و فرهنگی جهاد دانشگاهی به شهید لاریجانی
ابر خوشه استارلینک صاحب ۲۴ ماهواره جدید شد
۴ خانواده آمریکایی از متا، تیک تاک، اسنپ و گوگل شکایت کردند
همدستی هوش مصنوعی آمازون و والمارت با تقلب در کالا
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
تاسیسات آبی هفت ایالت آمریکا تحت حملات هک
صدرنشینی دانشگاه علوم پزشکی تهران در رتبهبندی سایمگو ۲۰۲۶
وقتی لذت سلفی غمِ سوگ را میبلعد؛ ۲ حکم قضایی به نفع سینماگران ایرانی
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
«مرد عنکبوتی» با رکوردشکنی از راه رسید؛ درخشش «روز کاملاً جدید»
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
ورود بیش از سه میلیون زائر خارجی به عراق از اول محرم
موشک اسپیس ایکس با ماه تصادف میکند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
کاهش ۵۰ درصدی خوردگی تجهیزات نیروگاهی با فناوری نانوحباب
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
رئیس دانشگاه الزهرا کربلا: نهضت حسینی مرزهای طایفهای را شکست داد
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
آییننامه جامع حمایت از دانشجویان توانخواه نهایی شد
سهم دانشجو از نرخ غذای دانشجویی مشخص شد
پیش ثبتنام ۸۱۰ هزار دانشآموز پایه هفتم
آموزش و پرورش با ۱۰۰ موکب، آماده خدمترسانی به زائران اربعین است
روایت زائرانی که اربعین را از شرق ایران آغاز میکنند در کتاب «شاه است حسین»
پرچمهایی در پیاده روی اربعین که هنوز خون را به یاد دارند
تصویر کمتر دیده شده از آیتالله سیدمجتبی خامنهای در نماز جمعه نصر
چالشهای عکاسی طبیعت چیست؟ سید صابر امامی پاسخ میدهد
جزئیات شرکت در آزمون های دانشنامه و گواهینامه فوق تخصصی پزشکی تعیین شد
اصغر خلیلی مدیریت مجموعه تئاتر شهر را بر عهده گرفت
آلبوم جدید خواننده پاپ در راه است
اودیسه نولان در ایکس لو رفت؛ ایلان ماسک در برابر نولان
جزئیات آزمونهای دانشنامه و گواهینامه تخصصی پزشکی را اینجا بخوانید
اجرای نزدیک به ۱۵ پروژه ملی در وزارت علوم پس از جنگ
۱۳۰ هزار فعالیت انجمنهای علمی دانشجویی در کشور ثبت شدند
دانشجویان دانشگاه صنعتی امیرکبیر مسیر شغلی خود را طراحی میکنند
مدیر ارشد اوپن ای آی به این شبکه اجتماعی معتاد شده بود
متا تحقیق درباره خطرات اینستاگرام برای نوجوانان را نادیده گرفت
پرتاب ۵ هزار ماهواره آمازون برای بهبود کیفیت اینترنت در جهان
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.