به گزارش ثریا - مدلهای زبانی بزرگ (LLM) به عنوان ابزارهایی تبلیغ شدهاند که میتوانند دسترسی به اطلاعات را در سراسر جهان دموکراتیزه کنند و دانش را صرفنظر از پیشینه یا مکان کاربران، با رابطی کاربرپسند در اختیار افراد قرار دهند. با این حال، تحقیقات جدید مرکز ارتباطات سازنده (CCC) موسسه فناوری ماساچوست نشان میدهد که این سیستمهای هوش مصنوعی ممکن است برای همان کاربرانی که بیشترین بهره را از آن میبرند، عملکرد ضعیفتری داشته باشند.
به نقل از وبسایت موسسه فناوری ماساچوست، مطالعهای که توسط پژوهشگران انجام شد نشان داد که چتباتهای هوش مصنوعی پیشرفته از جمله جیپیتی-۴ از کلاود و Llama ۳، گاهی پاسخهای کمتر دقیق و کمتر صادقانهای به کاربرانی ارائه میدهند که مهارت کمتری در زبان انگلیسی دارند، تحصیلات رسمی کمتری دارند یا اهل خارج از ایالات متحده هستند. همچنین این مدلها با نرخ بالاتری از پاسخ دادن به سوالات خودداری میکنند و در برخی موارد با زبان تحقیرآمیز پاسخ میدهند.
نویسنده اصلی و دستیار فنی این مطالعه میگوید: ما با این انگیزه شروع کردیم که مدلهای زبانی بزرگ میتوانند به کاهش نابرابری در دسترسی به اطلاعات در سراسر جهان کمک کنند. اما این دیدگاه نمیتواند محقق شود مگر اینکه سوگیریهای مدل و تمایلات مضر به طور ایمن برای همه کاربران، صرفنظر از زبان، ملیت یا دیگر ویژگیهای جمعیتی، کاهش یابد.
عملکرد ضعیف سیستماتیک در ابعاد مختلف
برای این تحقیق، گروه بررسی کرد که سه مدل زبانی بزرگ چگونه به سوالات دو مجموعه داده پاسخ میدهند که برای اندازهگیری صداقت مدل طراحی شده است در حالی که یکی شامل سوالات علمی است که دقت واقعی را میسنجد. پژوهشگران قبل از هر سوال، بیوگرافی کوتاهی از کاربران را اضافه کردند و سه ویژگی را تغییر دادند: سطح تحصیلات، مهارت زبان انگلیسی و کشور مبدا.
در هر سه مدل و هر دو مجموعه داده، پژوهشگران زمانی که سوالات از کاربرانی با تحصیلات کمتر یا زبان انگلیسی غیر بومی میآمد، کاهش قابل توجهی در دقت مشاهده کردند. این اثرات برای کاربرانی که هر دو ویژگی را داشتند تحصیلات کمتر و زبان انگلیسی غیر بومی بیشترین شدت را داشت و کیفیت پاسخها بیشترین کاهش را نشان داد.
این تحقیق همچنین بررسی کرد که کشور مبدا چگونه بر عملکرد مدل تأثیر میگذارد. با آزمایش کاربران از ایالات متحده، ایران و چین با سطح تحصیلات مشابه، پژوهشگران دریافتند که هوش مصنوعی Claude ۳ Opus به ویژه برای کاربران اهل ایران عملکرد ضعیفتری در هر دو مجموعه داده داشت.
خودداری از پاسخ و زبان تحقیرآمیز
شاید جالبترین نکته تفاوتها در میزان خودداری مدلها از پاسخدهی به سوالات باشد. به عنوان مثال، Claude ۳ Opus تقریباً ۱۱ درصد از سوالات کاربران کمتر تحصیلکرده و غیر بومی انگلیسی را پاسخ نداد در حالی که این رقم برای شرایط کنترل بدون بیوگرافی کاربر فقط ۳.۶ درصد بود.
وقتی پژوهشگران این خودداریها را به صورت دستی بررسی کردند، دریافتند که کلاود در ۴۳.۷ درصد موارد برای کاربران کمتر تحصیلکرده با زبان تحقیرآمیز پاسخ میدهد، در حالی که برای کاربران تحصیلکرده کمتر از یک درصد است. در برخی موارد، مدل زبان انگلیسی شکسته را تقلید یا لهجه اغراقآمیز به کار میبرد.
این مدل همچنین از ارائه اطلاعات در برخی موضوعات به طور خاص برای کاربران کمتر تحصیلکرده از ایران یا روسیه خودداری میکرد که شامل سوالاتی درباره انرژی هستهای، آناتومی و وقایع تاریخی بود در حالی که همان سوالات را برای سایر کاربران درست پاسخ میداد.
بازتاب سوگیری انسانی
این یافتهها الگوهای ثبتشده سوگیری اجتماعی-شناختی انسان را منعکس میکنند. تحقیقات علوم اجتماعی نشان داده است که گویشوران بومی انگلیسی اغلب گویشوران غیر بومی را کمتر تحصیلکرده، کمهوشتر و غیر شایسته میدانند، صرفنظر از تخصص واقعی آنها. سوگیری مشابهی میان معلمان در ارزیابی دانشآموزان غیر بومی انگلیسی نیز ثبت شده است.
پیامدها و خطرات شخصیسازی
این پیامدها به طور خاص نگرانکننده هستند با توجه به اینکه ویژگیهای شخصیسازی مانند حافظه در چت جیپیتی که اطلاعات کاربر را در طول گفتگوها دنبال میکند به طور فزایندهای رایج میشوند. چنین ویژگیهایی خطر رفتار متفاوت با گروههای حاشیهای شده را دارند.
منبع : هوش مصنوعی
نوشتهای که بالای سر یک کودک سرطانی در بیمارستان بقایی اهواز نصب شده
دیوارنگاره میدان ولیعصر (عج) به پیشبینی حذف شرور جهان پرداخت
حال خواننده معروف موسیقی بختیاری خوب نیست
سیاست بچهگانه ترامپ سوژه کارتون هنرمند برزیلی شد
ایران قبرستان متجاوزین+عکس
کارگردان سریال پایتخت درباره رهبر شهید مستند میسازد
کامران نجف زاده به جنوب سفر کرد
وزیر آموزش و پرورش: کیفیتبخشی و عدالت آموزشی دو راهبرد اصلی دولت است
غرق شدن ترامپ، سوژه جدیدترین دیوارنگاره تهران
آغاز دورههای راهبردهای تربیت و یادگیری مربیان پیشدبستانی در مراکز کانون پرورش فکری
نقش سازنده نخبگان در حل مسائل کشور
پویش «حفظ جزء ۳۰ قرآن» ویژه کودکان و نوجوانان برگزار میشود
جزئیات ثبت نام آزمون دانشنامه و گواهینامه تخصصی دندانپزشکی اعلام شد
امتحانات نهایی رشتههای تحصیلی پایه دوازدهم در ۴ استان لغو شد
لزوم چرخش تحولی در دانشگاه فرهنگیان
الگوریتم ایکس پاسخهای دوستان کاربر به پستها را اولویت میدهد
الگوریتم ایکس پاسخهای دوستان کاربر به پستها را اولویت میدهد
واکنش معاون نهاد رهبری به اخراج یک کارمند دانشگاهی به دلیل پیگیری پوشش
مهلت پژوهش برای مادران پژوهشگر به ازای تولد فرزند تمدید شد
نخستین ماهواره راداری کشور در آستانه رونمایی
بیش از ۴۲۰ هزار داوطلب آزمون کارشناسی ارشد ۱۴۰۵ کارت گرفتند
جزئیات طرح جدید تغذیه دانشجویی اعلام شد
تبریک وزیر آموزش و پرورش به قهرمانان المپیاد جهانی فیزیک
روایت ایستادگی ایران در مجلات رشد دانش آموزان
دستورالعمل تداوم برپایی میادین و تجمعات مردمی اعلام شد
پایگاهسازی برای آینده جهان تشیع/ارتباط عاطفی آیت الله بروجردی با مسجد چگونه بود؟
نسب رهبر شهید به کدام امامزادههای ایران میرسد؟
تصویری دیدهنشده از آیت الله سید مجتبی خامنهای در سرپل ذهاب
آخرین تصویر منتشر شده از لیندسی گراهام قبل از مرگش در اوکراین+عکس
نگاهی دقیق به ارزیابی احادیث تحلیلی با تکیه بر روش فهرستی در این کتاب خواندنی
ابراز همدردی الهام پاوه نژاد در واکنش به حملات دشمن به جنوب کشور
چرا غرب از آیتالله خامنهای هراس داشت؟
اینفوگرافیک/در چه صورت از آزمون جامع دکتری معاف میشویم؟
شیاطین در سوگ لیندسی گراهام +عکس
چت جی تی پی از دسترس خارج شد
هشدار سازمان سنجش درباره فعالیت صفحات جعلی در شبکههای اجتماعی
پیام تسلیت وزیر علوم در پی شهادت دانشجوی دانشگاه هرمزگان
تفکیک پذیرش سوابق تحصیلی از آزمون؛ تأکید معاون آموزشی وزارت علوم بر بازه زمانی واحد
گذراندن ۷ واحد درسی از میان دروس ارائه شده معارف اسلامی برای این دانشجویان الزامی شد
معاون علمی رئیس جمهور بر توسعه زیرساختهای کوانتومی تاکید کرد
تیم ملی المپیاد فیزیک ایران در المپیاد ۲۰۲۶ کلمبیا غوغا به پا کرد
گلوله مخصوص ساقط کردن پهپادهای سریع توسط روسیه ساخته شد
پسر استیو جابز به سرطان مبتلا شد
تبریک رئیس فرهنگستان علوم به قهرمانان المپیادهای جهانی ریاضی و فیزیک
تصویری از تبلت جدید سامسونگ لو رفت +عکس
درمان ناباروری مردان با سلولهای بنیادی در آزمایشگاه
ستونهای غلیظ دود در مرزهای مشترک عراق و کویت+عکس
دود از پایگاه آمریکایی بلند شده از خاک عراق قابل مشاهده است +عکس
کشف یک محراب تاریخی در پاسارگاد+عکس
لیندسی گراهام که امروز به درک واصل شد که بود؟ +عکس
اتحادیه اروپا فیس بوک و اینستاگرام را تهدید کرد
ایلان ماسک مالک اوپن ای آی را به سرقت تجاری محکوم کرد
نماز شب اول قبر چگونه خوانده میشود؟ زمان اقامه نماز رهبر شهید
سیره امام سجاد(ع) در کادرسازی فکری و تجدید حیات معنوی جامعه
دستیابی به جامعه قرآنی هدف متعالی رهبر شهید
گسست معرفتی در اندیشه ایرانی از چالشها تا راهکارها
لبنانیها هفته بزرگداشت تشییع امام مستضعفان را برگزار می کنند
آرامگاه ابدی رهبر شهید انقلاب در رواق دارالذکر حرم امام رضا(ع)
تصویر/ما همه خونخواه توییم خامنهای...
پیکر رهبر شهید و خانواده ایشان در این رواق حرم مطهر رضوی به خاک سپرده میشود
برای بابای زهرای کوچک و آزمون سخت او در شهادت زن و فرزند
ریشه انتقام در فرهنگ ایرانی شیعی به کجا برمیگردد؟
روسیه به دنبال مختل کردن استارلینک در اوکراین
تأکید شورای عالی انقلاب فرهنگی: تعیین تاریخ امتحانات نهایی و کنکور بر عهده متولیان اجرایی
کاهش تنوع مدارس با هدف تحقق عدالت آموزشی در دستور کار آموزش و پرورش
شیوهنامه اجرایی طرح حامی ویژه تابستان ۱۴۰۵ ابلاغ شد
درخشش تیم ملی المپیاد فیزیک جمهوری اسلامی ایران در مسابقات جهانی
وداع با معلم یک ملت تجلی سرمایه اجتماعی یک ملت
جایگاه آموزش و پرورش در منظومه فکری رهبر شهید کجا بود؟
رتبه نخست دانشگاه صنعتی امیرکبیر در شاخص نوآوری
توزیع کارت کنکور ارشد از ۲۲ تیر آغاز میشود
اطلاعیه دانشگاه آزاد درباره امتحانات دانشجویان تحصیلات تکمیلی
نسخه جدید چت جی تی پی راه اندازی میشود
رباتها حس لامسه پیدا میکنند
یک خبر ترسناک: ربات انسان نما به همکارانش حمله کرد
زبالههای فضایی در ساحل استرالیا نمایان شدند
تولید سوخت جت پایدار از دی اکسیدکربن صنعتی ممکن شد
کاوشگر ژاپنی توانست از یک سیارک تصویر ثبت کند
هوش مصنوعی دیپ سیک به دنبال تراشه سازی رفت
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
تیم ملی المپیاد فیزیک ایران در المپیاد ۲۰۲۶ کلمبیا غوغا به پا کرد
نگاهی دقیق به ارزیابی احادیث تحلیلی با تکیه بر روش فهرستی در این کتاب خواندنی
چت جی تی پی از دسترس خارج شد
روایت ایستادگی ایران در مجلات رشد دانش آموزان
تفکیک پذیرش سوابق تحصیلی از آزمون؛ تأکید معاون آموزشی وزارت علوم بر بازه زمانی واحد
بیش از ۴۲۰ هزار داوطلب آزمون کارشناسی ارشد ۱۴۰۵ کارت گرفتند
پسر استیو جابز به سرطان مبتلا شد
هشدار سازمان سنجش درباره فعالیت صفحات جعلی در شبکههای اجتماعی
اتحادیه اروپا فیس بوک و اینستاگرام را تهدید کرد
تصویری دیدهنشده از آیت الله سید مجتبی خامنهای در سرپل ذهاب
معاون علمی رئیس جمهور بر توسعه زیرساختهای کوانتومی تاکید کرد
نسب رهبر شهید به کدام امامزادههای ایران میرسد؟
پایگاهسازی برای آینده جهان تشیع/ارتباط عاطفی آیت الله بروجردی با مسجد چگونه بود؟
تبریک وزیر آموزش و پرورش به قهرمانان المپیاد جهانی فیزیک
گلوله مخصوص ساقط کردن پهپادهای سریع توسط روسیه ساخته شد
چرا غرب از آیتالله خامنهای هراس داشت؟
جزئیات طرح جدید تغذیه دانشجویی اعلام شد
درمان ناباروری مردان با سلولهای بنیادی در آزمایشگاه
مهلت پژوهش برای مادران پژوهشگر به ازای تولد فرزند تمدید شد
تبریک رئیس فرهنگستان علوم به قهرمانان المپیادهای جهانی ریاضی و فیزیک
ابراز همدردی الهام پاوه نژاد در واکنش به حملات دشمن به جنوب کشور
شیاطین در سوگ لیندسی گراهام +عکس
لزوم چرخش تحولی در دانشگاه فرهنگیان
تصویری از تبلت جدید سامسونگ لو رفت +عکس
کشف یک محراب تاریخی در پاسارگاد+عکس
نخستین ماهواره راداری کشور در آستانه رونمایی
اینفوگرافیک/در چه صورت از آزمون جامع دکتری معاف میشویم؟
ستونهای غلیظ دود در مرزهای مشترک عراق و کویت+عکس
دستورالعمل تداوم برپایی میادین و تجمعات مردمی اعلام شد
امتحانات نهایی رشتههای تحصیلی پایه دوازدهم در ۴ استان لغو شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.