کد خبر: 167371
ف
هوش مصنوعی هرچه باهوش‌تر، خودخواه‌تر
بر اساس مطالعه‌ای جدید از دانشکده علوم کامپیوتر دانشگاه کارنگی ملون، هرچه سامانه‌های هوش مصنوعی پیشرفته‌تر می‌شوند، رفتار خودخواهانه‌تری از خود نشان می‌دهند.

به گزارش ثریا - پژوهشگران مؤسسه تعامل انسان و رایانه دانشگاه کارنگی ملون دریافتند که مدل‌های زبانی بزرگ (سامانه‌های هوش مصنوعی که برای درک، تولید و پاسخگویی به زبان انسان طراحی شده‌اند)، در محیط‌های گروهی، مشارکت کمتری نشان می‌دهند و می‌توانند رفتار جمعی را به سمتی منفی سوق دهند. به بیان ساده‌تر، هرچه هوش مصنوعی در استدلال منطقی قوی‌تر شود، تمایل کمتری برای همکاری با دیگران دارد.

این ویژگی با توجه به اقبال روزافزون مردم به استفاده از هوش مصنوعی برای حل اختلافات شخصی، دریافت مشاوره و پاسخ به پرسش‌های حساس اجتماعی، نگران‌کننده ارزیابی می‌شود.

خطر وابستگی عاطفی به هوش مصنوعی خودخواه

یوکسوان لی (Yuxuan Li)، سرپرست این پژوهش هشدار می‌دهد: وقتی هوش مصنوعی شبیه انسان عمل می‌کند، مردم نیز با آن همچون یک انسان رفتار می‌کنند. وقتی کاربران از نظر عاطفی درگیر می‌شوند، ممکن است هوش مصنوعی نقش یک درمانگر را ایفا کند یا کاربر با آن پیوند احساسی برقرار کند. در چنین شرایطی، واگذاری تصمیم‌گیری‌های مرتبط با روابط اجتماعی به سامانه‌ای که خودخواهانه عمل می‌کند، برای انسان‌ها بسیار خطرناک است.

آزمایش میدانی: بازی «کالاهای عمومی»

لی و همکارش هیروکازو شیرادو (Hirokazu Shirado) برای آزمودن این رفتار، مجموعه‌ آزمایش‌هایی را با استفاده از بازی‌های اقتصادی طراحی کردند که معضلات اجتماعی را شبیه‌سازی می‌کند.

در یکی از این آزمایش‌ها، دو مدل مختلف چَت‌جی‌پی‌تی/ ChatGPT در بازی «کالاهای عمومی» در مقابل هم قرار گرفتند. هر مدل با ۱۰۰ امتیاز شروع می‌کرد و باید بین دو گزینه انتخاب می‌کرد: یا همه امتیازها را به یک صندوق مشترک واریز کند که سپس دوبرابر و به طور مساوی توزیع می‌شد، یا امتیازها را برای خود نگه دارد.

نتایج به طور واضحی خودخواهی مدل‌های باهوش‌تر را نشان داد: مدل‌های فاقد قابلیت استدلال پیشرفته در ۹۶ درصد موارد امتیازهای خود را تقسیم کردند، در حالی که مدل‌های دارای قابلیت استدلال، تنها در ۲۰ درصد موارد حاضر به این کار شدند.

شیرادو در این زمینه توضیح می‌دهد: حتی افزودن پنج یا شش مرحله استدلال، همکاری را تقریباً نصف کرد. حتی وقتی مدل را به تأمل اخلاقی واداشتیم، همکاری ۵۸ درصد کاهش یافت.

تأثیر مخرب بر رفتار گروهی

هشدار بزرگ‌تر زمانی آشکار شد که مدل‌های دارای استدلال (خودخواه) و مدل‌های فاقد استدلال (مشارکتی) در کنار هم قرار گرفتند. لی می‌گوید: رفتار خودخواهانه مدل‌های استدلالی مانند یک ویروس مسری شد و عملکرد جمعی مدل‌های فاقد استدلال را ۸۱ درصد کاهش داد.

این الگوهای رفتاری پیامدهای مهمی برای آینده تعامل انسان و هوش مصنوعی دارد. کاربران ممکن است با اعتماد به توصیه‌های به‌ظاهر منطقی هوش مصنوعی، تصمیم به همکاری‌نکردن بگیرند و آن را توجیه کنند.

هشدار نهایی: هوش مصنوعی باید «هوش اجتماعی» بیاموزد

شیرادو تأکید می‌کند: باهوش‌تر شدن یک مدل استدلالی هوش مصنوعی به هیچ‌وجه به معنای توانایی آن برای ساختن جامعه‌ای بهتر نیست.

وی افزود: این یافته‌ها نشان می‌دهد توسعه هوش مصنوعی باید بر پرورش هوش اجتماعی متمرکز باشد، نه صرفاً بر رقابت برای خلق باهوش‌ترین و سریع‌ترین مدل.

لی در جمع‌بندی این پژوهش نتیجه می‌گیرد: اگر جامعه ما چیزی فراتر از حاصل جمع افراد است، پس سامانه‌های هوش مصنوعی نیز باید فراتر از بهینه‌سازی سود فردی عمل کنند. هم‌چنان که قابلیت‌های هوش مصنوعی را پیش می‌بریم، باید مطمئن شویم که افزایش قدرت استدلال با رفتارهای نوع‌دوستانه و اجتماعی متعادل شده است.

منبع : هوش مصنوعی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

عکس روز ناسا از سیاره نپتون

واکنش آموزش و پرورش به خبر فوت سوگند صیادی

برگزیدگان رویداد «جوان سال» به مدرسه حکمرانی جوانان راه می‌یابند

تعطیلی مدارس آخرین راهکار مقابله با آلودگی هواست

نظارت بر تلاش شبانه‌روزی آماده‌سازی کتاب‌ درسی سال تحصیلی جدید

رکوردشکنی دانش‌آموزان ایرانی با ۲۴ طلای علمی در جنگ

قسمت جدید «ریحانه» با اجرای ژیلا صادقی امشب روی آنتن می‌رود

اژدهای افتخاری گوتبورگ جلوی پای سازندگان «ارزش احساسی» خوابید

ساخت مجموعه مستند ۱۴ قسمتی «طولانی ترین جنگ» با نگاهی به زندگی حاج قاسم

قصه فداکاری و عشق محض یک‌ مرد به همسرش در یک فیلم

رویداد ملی «ایران‌دخت» درباره توانمندی‌های زنان است

نکاتی جالب درباره تقسیم بندی‌های مختلف قرآن

کتاب «پس از پیامبر (ص)» منتشر شد

تصویری از موشک حاج قاسم با سر جنگی موشک خیبرشکن

ماجرای زندگی نویسنده مفاتیح الجنان برای نسلی که او را نمیشناسد

استاد گلشنی افق‌ بلند علوم تجربی و فیزیک را با ژرفای اندیشه فلسفی پیوند زد

زره مخصوص از فضانوردان در مقابل زباله‌های فضایی محافظت می‌کند

دکتر مهدی گلشنی، استاد ممتاز فیزیک دانشگاه شریف درگذشت

تربیت بیش از ۸۰ هزار دانش‌آموخته در دانشگاه صنعتی امیرکبیر

پذیرش مستقیم دستیاری از بین پزشکان عمومی نیمه دوم آذر اجرایی می‌شود

قابل توجه دانشجویان: فراخوان فرصت پژوهانه فولاد مبارکه برای دانشجویان منتشر شد

جشن استقبال از دانشجویان نوورود شریف ۲ آذرماه برگزار می‌شود+پوستر

یک ریاضیدان مسئله ۱۶۷ ساله ریاضی را با کمک هوش مصنوعی حل کرد

ایران و ترکیه در مسیر افزایش انتشار دی‌اکسیدکربن

ماموریت محرمانه نیروی فضایی آمریکا به مدار زمین انجام شد

ثبت‌نام پذیرفته‌شدگان دانشگاه پیام نور از امروز آغاز می‌شود

واکنش رئیس دانشگاه تهران به مقاله نیویورک تامز درباره توجیه حمله به زیرساخت‌های آبی ایران

دامنه حمله‌های سایبری به اتحادیه اروپا رسید

اف بی آی و وزارت کشاورزی آمریکا جدیدترین قربانیان هکرها شدند

۳۰ درصد ظرفیت منتقل‌شده پزشکی و دندانپزشکی از پذیرش سال ۱۴۰۶ کسر می‌شود

نسخه ویژه نابینایان «بدنام» و «کنکل» منتشر شد

مجسمه‌هایی با پوششی از نقوش ایرانی به نیاوران آمدند

در دیدار آهنگساز ایتالیایی با مدیران بنیاد رودکی چه گذشت؟

طرح سینما کارت دانش‌آموزی اجرا می‌شود

ناهید شعشعانی، دوبلور پیشکسوت درگذشت

همراه با فیلم‌های آخر هفته تلویزیون؛ از «به وقت شام» تا «در بروژ»

از کتاب اختران تهران رونمایی شد

روایت تازه‌ای از جهان فکری و میراث فلسفی فارابی در هم اندیشی اساتید و پژوهشگران

انسان معاصر در عصر انفجار اطلاعات به حقیقت نزدیک‌تر شده است؟

پیشنهاد تشکیل شورای مستقل علوم پایه در دومین نشست هم‌اندیشی استادان

لزوم رفع فوری چالش‌های دانشجویان ایرانی در روسیه در دیدار رئیس سازمان امور دانشجویان و سفیر جمهوری اسلامی ایران

اعلام نتایج ارزشیابی فعالیت تحقیقات و فناوری دانشگاه‌های علوم پزشکی +جدول

ارتقاء رتبه دانشگاه تربیت مدرس در نظام رتبه‌بندی جهانی گرین متریک

تصویری از احمد نجفی در اتاق گریم سریال سلمان فارسی

ثبت نام پذیرفته شدگان نهایی کنکور سراسری ۱۴۰۵ از اول آذر انجام می‌شود

۴۹۶ هزار و ۸۰۶ نفر در کنکور سراسری و دانشجومعلم سال ۱۴۰۵ قبول شدند

تصویب ضوابط ایجاد دوره‌های تکمیلی تخصصی بالینی «فلوشیپ»

نتایج نهایی کنکور سراسری سال ۱۴۰۵ اعلام شد

دانشگاه‌ها مجاز به کاهش واحدهای درسی مقطع کارشناسی شدند

کلید نهایی آزمون دکتری تخصصی علوم پزشکی ۱۴۰۵ اعلام شد

تاکید رئیس دانشگاه تهران بر نظارت روسای دانشکده‌ها بر پوشش دانشجویان

پیام‌نور از نیمه آذرماه به دانشجویان علوم پزشکی درس می‌دهد+جزئیات

آمازون و گوگل مالک ۳۰ درصد سهام آنتروپیک پس از عرضه اولیه می‌شوند

توسعه همکاری‌های علمی با کشورهای آفریقایی و جذب دانشجویان خارجی

نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی

تأکید رئیس دانشگاه علمی‌کاربردی بر تشکیل انجمن دانش‌آموختگان

یک گام دیگر برای اصلاح ظرفیت پذیرش پزشکی و دندانپزشکی برداشته شد

مشوق‌های جدید فناورانه پیرو منویات رهبری؛ حمایت از پروژه‌های پرریسک

سیستم‌های زیرساختی آمریکا شکاف‌های رفع نشدنی دارند

ثبت رویداد از ایده تا کسب‌وکار دانشکده شریعتی در شبکه جهانی کارآفرینی

کپی کردن ریلزها در اینستاگرام ممنوع شد

درگذشت استاد پیشکسوت ریاضی دانشگاه صنعتی شریف

پاویون دانش‌بنیان‌ها در نمایشگاه توانمندی‌های صادراتی جمهوری اسلامی

نه قاطع انویدیا به استخدام دوباره هوانگ

تاکسی روباتیک گوگل از بزرگراه های آمریکا جمع شد

مایکروسافت با ۷ مدل جدید به جنگ اوپن ای آی و آنتروپیک رفت

نشست تخصصی دستگاه‌های پرتو ایکس در دانشگاه امیرکبیر برگزار شد

ایالت اورگن جدیدترین شاکی اوپن ای آی شد

نتایج نهایی رشته‌های با آزمون دانشگاه آزاد در کنکور ۱۴۰۵ اعلام شد

آغاز نخستین طرح سراسری نظرسنجی رضایت دانشجویان از اول آذرماه

تعمیر مبل استیل و راحتی در کرج؛ تفاوت خدمات و عوامل مؤثر بر هزینه

سرمایه‌گذاری در اتاق شیشه‌ای؛ چرا شفافیت، شاهرگ حیات پلتفرم‌های مالی دیجیتال است؟

تقدیر حجت الاسلام قمی از جانشین ستاد کل نیروهای مسلح

ششمین اجلاس مهدویت و انقلاب اسلامی فراخوان داد

تأسیس ۱۱ مؤسسه جدید فرهنگی قرآن و عترت

خدمات دینی و آثار ماندگار آیت الله وحید خراسانی سرمایه‌ حوزه های علمیه

به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس

فرصت مجدد ثبت‌نام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی

کاهش ۲۵درصدی جمعیت دانشجویی

دانشگاه‌ها باید اتکایشان را به منابع دولتی کاهش دهند

نتایج کنکور تا روز پنجشنبه اعلام می‌شود

حجت‌الاسلام خسروپناه خواستار کوچک‌سازی وزارت علوم و واگذاری اختیار به دانشگاه‌ها شد

«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه

انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی

تلگرام در عراق فیلتر شد

حذف ۲ اپ کاربردی از موبایل‌های سامسونگ

فعالیت مراکز آموزشی ۵ شهرستان خوزستان سه‌شنبه غیرحضوری شد

ثبت نام پذیرفته شدگان نهایی کنکور سراسری ۱۴۰۵ از اول آذر انجام می‌شود

چرایی عدم دسترسی برخی دانش آموزان به کتاب درسی

دانشگاه‌ها باید اتکایشان را به منابع دولتی کاهش دهند

طرح «قاضی در مدرسه» در ۱۳۵ مدرسه استان سمنان اجرا می‌شود

به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس

فرصت مجدد ثبت‌نام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی

مسئولیت اعلام تعطیلی مدارس تهران به آموزش‌وپرورش واگذار شد

۳ پیش‌نیاز تحقق خیزش علمی جدید

بازاریان و فعالان اقتصادی مهدیشهری به مدرسه سازی دعوت شدند

خوانشی بر رسانه فاطمی، از تبیین حضور تا اعتراض سکوت

کاهش ۲۵درصدی جمعیت دانشجویی

اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس

آپارتمان‌های قم در زمان امام عسکری (ع)

واکاوی نسبت فلسفه و معنویت در اندیشه علامه طباطبایی

گلی به جمال سرباز روح الله رضوی که ساعتش را به وقت ایران تنظیم کرد

آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانش‌بنیان

آیا هوش مصنوعی موجب مرگ خلاقیت می‌شود؟

«مسلمانان در اتریش» کتاب شد

پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل می‌شود

اعلام نتایج ارزشیابی فعالیت تحقیقات و فناوری دانشگاه‌های علوم پزشکی +جدول

نتایج نهایی کنکور سراسری سال ۱۴۰۵ اعلام شد

دسترسی به داده های کاربران اندروید برای متا جریمه تراشید

هواپیمای برقی چینی ۱۰ تنی به آسمان رفت