به گزارش ثریا - مدلهای زبانی بزرگ (LLM) به عنوان ابزارهایی تبلیغ شدهاند که میتوانند دسترسی به اطلاعات را در سراسر جهان دموکراتیزه کنند و دانش را صرفنظر از پیشینه یا مکان کاربران، با رابطی کاربرپسند در اختیار افراد قرار دهند. با این حال، تحقیقات جدید مرکز ارتباطات سازنده (CCC) موسسه فناوری ماساچوست نشان میدهد که این سیستمهای هوش مصنوعی ممکن است برای همان کاربرانی که بیشترین بهره را از آن میبرند، عملکرد ضعیفتری داشته باشند.
به نقل از وبسایت موسسه فناوری ماساچوست، مطالعهای که توسط پژوهشگران انجام شد نشان داد که چتباتهای هوش مصنوعی پیشرفته از جمله جیپیتی-۴ از کلاود و Llama ۳، گاهی پاسخهای کمتر دقیق و کمتر صادقانهای به کاربرانی ارائه میدهند که مهارت کمتری در زبان انگلیسی دارند، تحصیلات رسمی کمتری دارند یا اهل خارج از ایالات متحده هستند. همچنین این مدلها با نرخ بالاتری از پاسخ دادن به سوالات خودداری میکنند و در برخی موارد با زبان تحقیرآمیز پاسخ میدهند.
نویسنده اصلی و دستیار فنی این مطالعه میگوید: ما با این انگیزه شروع کردیم که مدلهای زبانی بزرگ میتوانند به کاهش نابرابری در دسترسی به اطلاعات در سراسر جهان کمک کنند. اما این دیدگاه نمیتواند محقق شود مگر اینکه سوگیریهای مدل و تمایلات مضر به طور ایمن برای همه کاربران، صرفنظر از زبان، ملیت یا دیگر ویژگیهای جمعیتی، کاهش یابد.
عملکرد ضعیف سیستماتیک در ابعاد مختلف
برای این تحقیق، گروه بررسی کرد که سه مدل زبانی بزرگ چگونه به سوالات دو مجموعه داده پاسخ میدهند که برای اندازهگیری صداقت مدل طراحی شده است در حالی که یکی شامل سوالات علمی است که دقت واقعی را میسنجد. پژوهشگران قبل از هر سوال، بیوگرافی کوتاهی از کاربران را اضافه کردند و سه ویژگی را تغییر دادند: سطح تحصیلات، مهارت زبان انگلیسی و کشور مبدا.
در هر سه مدل و هر دو مجموعه داده، پژوهشگران زمانی که سوالات از کاربرانی با تحصیلات کمتر یا زبان انگلیسی غیر بومی میآمد، کاهش قابل توجهی در دقت مشاهده کردند. این اثرات برای کاربرانی که هر دو ویژگی را داشتند تحصیلات کمتر و زبان انگلیسی غیر بومی بیشترین شدت را داشت و کیفیت پاسخها بیشترین کاهش را نشان داد.
این تحقیق همچنین بررسی کرد که کشور مبدا چگونه بر عملکرد مدل تأثیر میگذارد. با آزمایش کاربران از ایالات متحده، ایران و چین با سطح تحصیلات مشابه، پژوهشگران دریافتند که هوش مصنوعی Claude ۳ Opus به ویژه برای کاربران اهل ایران عملکرد ضعیفتری در هر دو مجموعه داده داشت.
خودداری از پاسخ و زبان تحقیرآمیز
شاید جالبترین نکته تفاوتها در میزان خودداری مدلها از پاسخدهی به سوالات باشد. به عنوان مثال، Claude ۳ Opus تقریباً ۱۱ درصد از سوالات کاربران کمتر تحصیلکرده و غیر بومی انگلیسی را پاسخ نداد در حالی که این رقم برای شرایط کنترل بدون بیوگرافی کاربر فقط ۳.۶ درصد بود.
وقتی پژوهشگران این خودداریها را به صورت دستی بررسی کردند، دریافتند که کلاود در ۴۳.۷ درصد موارد برای کاربران کمتر تحصیلکرده با زبان تحقیرآمیز پاسخ میدهد، در حالی که برای کاربران تحصیلکرده کمتر از یک درصد است. در برخی موارد، مدل زبان انگلیسی شکسته را تقلید یا لهجه اغراقآمیز به کار میبرد.
این مدل همچنین از ارائه اطلاعات در برخی موضوعات به طور خاص برای کاربران کمتر تحصیلکرده از ایران یا روسیه خودداری میکرد که شامل سوالاتی درباره انرژی هستهای، آناتومی و وقایع تاریخی بود در حالی که همان سوالات را برای سایر کاربران درست پاسخ میداد.
بازتاب سوگیری انسانی
این یافتهها الگوهای ثبتشده سوگیری اجتماعی-شناختی انسان را منعکس میکنند. تحقیقات علوم اجتماعی نشان داده است که گویشوران بومی انگلیسی اغلب گویشوران غیر بومی را کمتر تحصیلکرده، کمهوشتر و غیر شایسته میدانند، صرفنظر از تخصص واقعی آنها. سوگیری مشابهی میان معلمان در ارزیابی دانشآموزان غیر بومی انگلیسی نیز ثبت شده است.
پیامدها و خطرات شخصیسازی
این پیامدها به طور خاص نگرانکننده هستند با توجه به اینکه ویژگیهای شخصیسازی مانند حافظه در چت جیپیتی که اطلاعات کاربر را در طول گفتگوها دنبال میکند به طور فزایندهای رایج میشوند. چنین ویژگیهایی خطر رفتار متفاوت با گروههای حاشیهای شده را دارند.
منبع : هوش مصنوعی
تحریم علم، رفتار علمی نیست؛ باید به دنبال مسیرهای جایگزین برای انتشار آثار محققان بود
بازنمایی قدرت نرم ایران در شرایط پساجنگ و جایزه جهانی دیپلماسی
آیا اصرار بر تفاوتهای فقهی، آب به آسیاب دشمنان وحدت اسلامی میریزد؟
انتظار، منطق دینی آمادگی تاریخی برای آینده موعود
«تحول تاریخی مفهوم فلسفه» با تقدیر از پرویز ضیاءشهابی رونمایی میشود
نگاهی به حکمرانی فضای مجازی در ایران از منظر تحلیل نهادی تنظیمگری
نظر قرآن درباره مسئولیت اجتماعی برای میانجیگری بین اختلاف زوجین
در همایش ادیان سن پترزبورگ چه گذشت؟ تاکید ایران بر مقاومت
حل موضوع حجاب با «مسئلهمندی مشترک»؛ مردم را درگیر مسئله وحدت کنیم
خود بنده فرهنگ درخشان تو آمد؛ آن قوم که از روی طمع، بنده تو را خواست
فروش «رویای نیمهشب» ۱۰۰ درصد افزایش یافت
نرگس آبیار: سینما را خودآموز یاد گرفتم
بزرگداشت جین فوندا در ونیز؛ از ترامپ بیزارم!
رونمایی از تندیس اکبر عبدی؛ هنرمندی که به خاطرهای ملی تبدیل شد
تصاویری از موشک بالستیک جهاد که در جریان یکی از موجهای عملیات نصر-۲ شلیک شده بود
نگاهی به انیمیشن «سفینه نجات»؛ وقتی تعزیه با ابرقهرمانی فضایی گره میخورد
آغاز ثبت نام بیستمین آزمون سراسری قرآن و عترت
افشای هک وب سایت آلمانی توسط هوش مصنوعی اوپن ای آی
انتخاب رشته داوطلبان آزمون کارشناسی ارشد ۱۴۰۵ دانشگاه آزاد تمدید شد
سال تحصیلی جدید دانشگاه صنعتی امیرکبیر از ۲۸ شهریور آغاز میشود
ظرفیت ۱۴۶ هزار نفری پذیرش در کنکور ارشد ۱۴۰۵
جان مالکوویچ در ونیز تشویق شد؛ هجوم «اسب وحشی نهم» به اسکار
دانشمندی که جواب سوالهایش را از آسمان میخواست
ادامه حاشیههای «آرش» و نوید؛ کیت بلانشت «الکترا» شد
کلونی در جشنواره فیلم ونیز درخشید و با شیر طلا به ترامپ تاخت
جدال دوباره ساترا و ارشاد؛ «داش آکل» وارد میشود
موشک ایرانی موضوع نخستین شماره کتابمجله "آورد"
فراخوانی برای جمع آوری «ایدههای برتر قرآنی»
موانع استجابت دعا چیست؟ طلب مغفرت برای کافران مستجاب نمیشود
مدیر اسلامی با مهندسی انسجام، سلایق را به وحدت عمل در میآورد
تصویری از نماز بر پیکر شهدای عروسی کوهستک سیریک
خوانش هجرتی تاریخی توسط یک زن در سپهر فرهنگی ایران
آغاز ثبت نام دهمین دوره تخصصی صحیفه سجادیه
مداحان کشور برای نوجوانان کلاس مداحی برگزار میکنند
هنر صاحب جواهر ایستادن میان قالب نص و روح تشریع در فقاهت بود
منشور کوروش بدون حتی یک رای مخالف و اصلاحیه در یونسکو ثبت شد
ورود هوش مصنوعی به موضوعات قرآنی و پژوهشهای حدیثی و دینی
پایبندی پل شریدر به هوش مصنوعی؛ فیلم بعدی با AI ساخته میشود
یوسف حاتمی کیا: ۶سال گفتند این فیلم مصلحت نیست؛ مردمی که از غم نان با جان قمار میکنند
واکاوی رابطه هنر و سرمایه در ریبون
دلاور تنگستانی که حماسه بی پایان غیرت در خلیج فارس را زنده کرد
تابآوری کودکان در جنگ را با داستان افزایش دهیم
برگزاری بزرگداشت ابوریحان بیرونی از سوی فلاسفه و اساتید
از نگاه امیرالمومنین(ع) راه مهار طمع انسان به قدرت و ثروت چگونه است؟
برگزاری آزمونهای تافل و GRE رسماً در ایران متوقف شد
اعلام جزئیات مرحله شفاهی آزمونهای دانشنامه تخصصی و فوق تخصصی پزشکی
ایران پرچمدار المپیاد فناوری نانو در سطح جهانی
محکومیت اقدام غیرقانونی آمریکا علیه متقاضیان آزمونهای بینالمللی
ارزش از کدنویسی به فهم مسئله منتقل میشود
ثبت نام آزمون پذیرش پزشکی از لیسانس ۱۴۰۵ آغاز شد/ اعلام جزئیات آزمون
واکنش وزیر علوم به تحریمهای علمی آمریکا
مهلت انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ تمدید شد
ویژه برنامههای هفته وحدت در تجمعات شبانه
افتتاح دفاتر مشاوره وقف در سراسر کشور
برگزاری رویداد رحمه للعالمین در باغ کتاب
دانشجویان خارجی جشنواره هنر و رسانه عهد همزیستی را برگزار میکنند
وقف بر پایه ایثار، نوعدوستی و دوراندیشی استوار است
آغاز انتخاب رشته داوطلبان آزمون کارشناسی ارشد سال ۱۴۰۵ دانشگاه آزاد
شرکت های فناوری خواستار افزایش دفاع سایبری در مقابل حملات هوش مصنوعی
نوار نانویی ۳ داروی مسکن را در کمتر از ۲ ثانیه آزاد میکند
قدرتمندترین موشک اروپا به پرواز درآمد
تاکید علمای مسلمان بر عملی کردن وحدت و ایستادگی در مقابل دشمن مشترک
نزاع حجاب، از ابتدا نزاع بر سر قدرت زن بود
البرز زیر بار کمبود مدرسه؛ مهاجرت چالش بزرگ مدارس البرز
توانمند سازی و گذار از الفبا رویکرد جدید سواد آموزی استان سمنان
جزئیات بورسیه تحصیلی صنعت و مشاغل در پذیرش کارشناسی ارشد ۱۴۰۵
غرامت ۱۸ میلیارد دلاری متا برای فرار از شکایت ایالتهای آمریکا
واکنش دانشگاه صنعتی خواجه نصیر به کناره گیری رئیس آن
نفوذ هکرهای چینی به ناسا و سنای آمریکا ردیابی شد
موبایلهای آینده چگونه تغییر میکنند؟
از خیالپردازی سرامیک تاشاعرانگی کاغذ در ماه هنر؛ تکثرِ بودن در پایتخت
محمد اصفهانی در دومین شب از «روایت رحمت» روی صحنه میرود
در طبیعت چه خبر است؟ یک مجموعه خواندنی برای کودکان
پرچم ایران روایتی از خون، باور، ایستادگی و تمنای رسیدن
تاکید بر نقش هنرستانها در مقابله با چالشهای جنگ اقتصادی
کاظمی: دشمن تلاش میکند تا دولتها را از صف مردم جدا کند
امین و مهدیه احمدزاده؛ خواهر و برادر شهید مینابی
پذیرش برگزیدگان المپیادهای جغرافیا و علوم زمین بدون کنکور ابلاغ شد
نتایج آزمون صلاحیت گروه پرستاری سال ۱۴۰۵ اعلام شد
جزئیات آزمون مرحله انفرادی هجدهمین المپیاد علمی دانشجویان علوم پزشکی
ثبت نام آزمون پذیرش پزشکی از لیسانس ۱۴۰۵ آغاز شد/ اعلام جزئیات آزمون
محکومیت اقدام غیرقانونی آمریکا علیه متقاضیان آزمونهای بینالمللی
واکنش وزیر علوم به تحریمهای علمی آمریکا
اعلام جزئیات مرحله شفاهی آزمونهای دانشنامه تخصصی و فوق تخصصی پزشکی
مهلت انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ تمدید شد
برگزاری آزمونهای تافل و GRE رسماً در ایران متوقف شد
برگزاری بزرگداشت ابوریحان بیرونی از سوی فلاسفه و اساتید
تابآوری کودکان در جنگ را با داستان افزایش دهیم
ایران پرچمدار المپیاد فناوری نانو در سطح جهانی
از نگاه امیرالمومنین(ع) راه مهار طمع انسان به قدرت و ثروت چگونه است؟
ارزش از کدنویسی به فهم مسئله منتقل میشود
یوسف حاتمی کیا: ۶سال گفتند این فیلم مصلحت نیست؛ مردمی که از غم نان با جان قمار میکنند
دلاور تنگستانی که حماسه بی پایان غیرت در خلیج فارس را زنده کرد
منشور کوروش بدون حتی یک رای مخالف و اصلاحیه در یونسکو ثبت شد
هنر صاحب جواهر ایستادن میان قالب نص و روح تشریع در فقاهت بود
ورود هوش مصنوعی به موضوعات قرآنی و پژوهشهای حدیثی و دینی
خوانش هجرتی تاریخی توسط یک زن در سپهر فرهنگی ایران
آغاز ثبت نام دهمین دوره تخصصی صحیفه سجادیه
واکاوی رابطه هنر و سرمایه در ریبون
پایبندی پل شریدر به هوش مصنوعی؛ فیلم بعدی با AI ساخته میشود
مداحان کشور برای نوجوانان کلاس مداحی برگزار میکنند
سال تحصیلی جدید دانشگاه صنعتی امیرکبیر از ۲۸ شهریور آغاز میشود
ظرفیت ۱۴۶ هزار نفری پذیرش در کنکور ارشد ۱۴۰۵
مدیر اسلامی با مهندسی انسجام، سلایق را به وحدت عمل در میآورد
ادامه حاشیههای «آرش» و نوید؛ کیت بلانشت «الکترا» شد
فراخوانی برای جمع آوری «ایدههای برتر قرآنی»
دانشمندی که جواب سوالهایش را از آسمان میخواست
تصویری از نماز بر پیکر شهدای عروسی کوهستک سیریک
جدال دوباره ساترا و ارشاد؛ «داش آکل» وارد میشود
کلونی در جشنواره فیلم ونیز درخشید و با شیر طلا به ترامپ تاخت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.