به گزارش ثریا - مدلهای زبانی بزرگ (LLM) به عنوان ابزارهایی تبلیغ شدهاند که میتوانند دسترسی به اطلاعات را در سراسر جهان دموکراتیزه کنند و دانش را صرفنظر از پیشینه یا مکان کاربران، با رابطی کاربرپسند در اختیار افراد قرار دهند. با این حال، تحقیقات جدید مرکز ارتباطات سازنده (CCC) موسسه فناوری ماساچوست نشان میدهد که این سیستمهای هوش مصنوعی ممکن است برای همان کاربرانی که بیشترین بهره را از آن میبرند، عملکرد ضعیفتری داشته باشند.
به نقل از وبسایت موسسه فناوری ماساچوست، مطالعهای که توسط پژوهشگران انجام شد نشان داد که چتباتهای هوش مصنوعی پیشرفته از جمله جیپیتی-۴ از کلاود و Llama ۳، گاهی پاسخهای کمتر دقیق و کمتر صادقانهای به کاربرانی ارائه میدهند که مهارت کمتری در زبان انگلیسی دارند، تحصیلات رسمی کمتری دارند یا اهل خارج از ایالات متحده هستند. همچنین این مدلها با نرخ بالاتری از پاسخ دادن به سوالات خودداری میکنند و در برخی موارد با زبان تحقیرآمیز پاسخ میدهند.
نویسنده اصلی و دستیار فنی این مطالعه میگوید: ما با این انگیزه شروع کردیم که مدلهای زبانی بزرگ میتوانند به کاهش نابرابری در دسترسی به اطلاعات در سراسر جهان کمک کنند. اما این دیدگاه نمیتواند محقق شود مگر اینکه سوگیریهای مدل و تمایلات مضر به طور ایمن برای همه کاربران، صرفنظر از زبان، ملیت یا دیگر ویژگیهای جمعیتی، کاهش یابد.
عملکرد ضعیف سیستماتیک در ابعاد مختلف
برای این تحقیق، گروه بررسی کرد که سه مدل زبانی بزرگ چگونه به سوالات دو مجموعه داده پاسخ میدهند که برای اندازهگیری صداقت مدل طراحی شده است در حالی که یکی شامل سوالات علمی است که دقت واقعی را میسنجد. پژوهشگران قبل از هر سوال، بیوگرافی کوتاهی از کاربران را اضافه کردند و سه ویژگی را تغییر دادند: سطح تحصیلات، مهارت زبان انگلیسی و کشور مبدا.
در هر سه مدل و هر دو مجموعه داده، پژوهشگران زمانی که سوالات از کاربرانی با تحصیلات کمتر یا زبان انگلیسی غیر بومی میآمد، کاهش قابل توجهی در دقت مشاهده کردند. این اثرات برای کاربرانی که هر دو ویژگی را داشتند تحصیلات کمتر و زبان انگلیسی غیر بومی بیشترین شدت را داشت و کیفیت پاسخها بیشترین کاهش را نشان داد.
این تحقیق همچنین بررسی کرد که کشور مبدا چگونه بر عملکرد مدل تأثیر میگذارد. با آزمایش کاربران از ایالات متحده، ایران و چین با سطح تحصیلات مشابه، پژوهشگران دریافتند که هوش مصنوعی Claude ۳ Opus به ویژه برای کاربران اهل ایران عملکرد ضعیفتری در هر دو مجموعه داده داشت.
خودداری از پاسخ و زبان تحقیرآمیز
شاید جالبترین نکته تفاوتها در میزان خودداری مدلها از پاسخدهی به سوالات باشد. به عنوان مثال، Claude ۳ Opus تقریباً ۱۱ درصد از سوالات کاربران کمتر تحصیلکرده و غیر بومی انگلیسی را پاسخ نداد در حالی که این رقم برای شرایط کنترل بدون بیوگرافی کاربر فقط ۳.۶ درصد بود.
وقتی پژوهشگران این خودداریها را به صورت دستی بررسی کردند، دریافتند که کلاود در ۴۳.۷ درصد موارد برای کاربران کمتر تحصیلکرده با زبان تحقیرآمیز پاسخ میدهد، در حالی که برای کاربران تحصیلکرده کمتر از یک درصد است. در برخی موارد، مدل زبان انگلیسی شکسته را تقلید یا لهجه اغراقآمیز به کار میبرد.
این مدل همچنین از ارائه اطلاعات در برخی موضوعات به طور خاص برای کاربران کمتر تحصیلکرده از ایران یا روسیه خودداری میکرد که شامل سوالاتی درباره انرژی هستهای، آناتومی و وقایع تاریخی بود در حالی که همان سوالات را برای سایر کاربران درست پاسخ میداد.
بازتاب سوگیری انسانی
این یافتهها الگوهای ثبتشده سوگیری اجتماعی-شناختی انسان را منعکس میکنند. تحقیقات علوم اجتماعی نشان داده است که گویشوران بومی انگلیسی اغلب گویشوران غیر بومی را کمتر تحصیلکرده، کمهوشتر و غیر شایسته میدانند، صرفنظر از تخصص واقعی آنها. سوگیری مشابهی میان معلمان در ارزیابی دانشآموزان غیر بومی انگلیسی نیز ثبت شده است.
پیامدها و خطرات شخصیسازی
این پیامدها به طور خاص نگرانکننده هستند با توجه به اینکه ویژگیهای شخصیسازی مانند حافظه در چت جیپیتی که اطلاعات کاربر را در طول گفتگوها دنبال میکند به طور فزایندهای رایج میشوند. چنین ویژگیهایی خطر رفتار متفاوت با گروههای حاشیهای شده را دارند.
منبع : هوش مصنوعی
شکوه دعای امروز عرفه در مسجد مقدس جمکران
متن تشکر سید مجید موسوی از مهدی رسولی+عکس
پیرمرد بیرجرندی در اوج طوفان پرچم ایران را بر زمین نینداخت
«تیرانداز زبردست» با استقبال کودکان و نوجوانان به چاپ دوم رسید
تارا و رؤیای داشتن یک تلفن همراه شخصی
رمان «فرار از زنگ ورزش» برای نوجوانان منتشر شد
قصه گویی یک اسباببازی ارزان اما اثرگذار برای کودکان
ارسطوی پایتخت با یک سریال جدید به شبکه یک آمد
جناب خان و الیکا عبدالرزاقی به آنتن تلویزیون برگشتند
اسلامهراسی علیه زنان محجبه در اروپای سال ۲۰۲۵ افزایش یافته است
عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟
بازتاب گسترده پیام رهبر انقلاب به مناسبت برگزاری حج در رسانههای بین المللی
شرایط تغییر مدرسه در مرداد و شهریور اعلام شد
درخواست رئیس جمهور: زمینه حضور اساتید برجسته برای انتقال آموزشهای نوین فراهم شود
آییننامه «توسعه مشارکتهای مردمی از طریق تشکیل هیئت امنا در مدارس دولتی» تصویب شد
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
این دعای عرفه را بخوانید تا ببینید چرا پدران ما قرنهاست حسین حسین (ع) میگویند
روزه گرفتن در روز عرفه چه حکمی دارد؟
توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه
از ظهر تا غروب عرفه؛ این ساعتها را از دست ندهید
آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید
جریمه چند میلیون دلاری و سنگین در انتظار گوگل در اروپا
رئیسجمهور مصوبه بازگشایی اینترنت بینالملل را ابلاغ کرد
صفحه اینترنت پرو از سایت همراه اول حذف شد+عکس
روایت وزیر ارتباطات از بازگشایی اینترنت
۵۰ برج فناوری احداث میشوند: ۳ دانشگاه پایلوت زیست بومی نوآوری میشود
«سعی صفا و مروه» در حج نماد چیست؟
افزایش پذیرش دانشجوی شهریهپرداز در دانشگاه تربیت مدرس
تائید ۱۲ رئیس دانشگاه و رئیس شهرک علمی صنعتی اصفهان
جزئیات برگزاری امتحانات و کلاسهای دانشگاه تربیت مدرس و علم و صنعت اعلام شد
کلاسهای دانشگاه شریف تا اطلاع ثانوی مجازی شد
کارمند گوگل در پی اعتراض به همکاری با رژیم صهیونیستی اخراج شد
مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد
۱۷ هزار نسخه خطی کمنظیر و در معرض خطر دیجیتال سازی شد
«آدم با صدای بلند برای فرزندانش گریست» کتاب شد
کتابهایی خواندنی برای بچههای ایران
فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟
اگر خرمشهر آزاد نشده بود چه اتفاقی میافتاد؟
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
دیگر اثری از بخارهای قمر مشتری نیست
الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس
شما بودید که شرف را معنا کردید +عکس
محسن شریفیان به مدرسه میناب رفت+عکس
«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد
راهکارهای مدیریت اضطراب دانشآموزان در روزهای امتحان چگونه است؟
امتحانات نهایی دانشآموزان مجازی میشود؟
عملیات بیتالمقدس در ۲۰ کتاب درسی ثبت میشود
امام باقر (ع) احیاگر مرجعیت علمی اهل بیت و پیشگام مبارزه با تحریف دین
یک ماهواره جاسوسی در فضا شناسایی شد
تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد
ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان
تمهیدات جدید آموزشی در دانشگاه علم و صنعت اعلام شد
جزئیات امتحانات و کلاسهای ترم دوم در چند دانشگاه کشور اعلام شد
بدرقه عاصم منیر توسط سید عباس عراقچی با یک تصویر خاص
پاسخ یحیی گلمحمدی به یاوه گویی ترامپ +عکس
اعتراف غم انگیز نویسنده برنده جایزه نوبل ادبیات درباره استفاده از هوش مصنوعی
نمایشگاه کتاب تهران تمدید شد
نگاهی به حقوق فرزندان در آینه تربیت الهی
توصیه امام باقر (ع) برای اصلاح جامعه چه بود؟
رباتی که امید را به کودکان مبتلا به ام اس بازگرداند
رباتهای انساننما در مزارع چین مشغول به کار شدند+عکس
موشک «نیو گلن» پس از سانحه دوباره مجوز پرتاب گرفت
قلمرو مهآلود یک ستاره در حال مرگ رصد شد
فرمانده اولین پرواز انسانی به مریخ یک میلیاردر است+عکس
علت زنگ نزدن طلا کشف شد
استرس خاطرات شما را نابود میکند
مهلت ثبت نام کنکور سراسری ۱۴۰۵ تمدید شد
«اردیبهشت کتاب» به دلیل استقبال گسترده مردم تا جمعه ۸ خرداد تمدید شد
بهترینهای جشنواره کن از نظر منتقدان/ فیلم اصغر فرهادی کجاست؟
چرا برنامه شهیدیفرد در میان پربازدیدهای تلویزیون نبود؟
شعار دهه امامت و ولایت اعلام شد: غدیر، میثاق امت با ولایت
آغاز ثبتنام پانزدهمین دوره ارزیابی تخصصی قاریان و مدرسان قرآن کریم
حجت الاسلام پناهیان: مردم پس از میدان سراغ میز مدیران خواهند رفت
ثبت نام یک میلیون و ۱۸۷ هزار دانش آموز کلاس اولی آغاز شد
آغاز سال تحصیلی آینده و اجرای موفق پروژه مهر دغدغه اصلی آموزش و پرورش
کلاسهای تحصیلات تکمیلی دانشگاه شریف از این تاریخ حضوری میشود
تأملی پیرامون دانشگاه آزاد در میانه تحولات اخیر کشور
ثبت نام بیش از ۵۷۰ هزار نفر در کنکور ۱۴۰۵ و آزمون دانشجومعلم
شرایط اسکان دانشجویان دانشگاه تهران چیست؟ اینجا بخوانید
فعالیت شرکت تاکسی خودران وایمو در یک شهر دیگر تعلیق شد
جزئیات امتحانات و کلاسهای ترم دوم در چند دانشگاه کشور اعلام شد
تکذیب اعلام زمان برگزاری آزمون سراسری یک هفته پیش از امتحانات نهایی تکذیب شد
ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان
ارائه راهکارهای شبکه سازی با نخبگان خارج از کشور
مهلت انتخاب رشته کاردانی مهارتی تمدید شد
تغییرات تقویم آزمونهای علوم پزشکی سال ۱۴۰۵ اعلام شد
بدرقه عاصم منیر توسط سید عباس عراقچی با یک تصویر خاص
آخرین وضعیت برگزاری کنکور سراسری و کارشناسی ارشد در سال ۱۴۰۵
بازخوانی حکمت صدرایی توسط جمعی از فلاسفه به صورت مجازی
سمعکهای جدید میتوانند سینگالهای مغز را بخوانند
حجت الاسلام پناهیان: مردم پس از میدان سراغ میز مدیران خواهند رفت
شما بودید که شرف را معنا کردید +عکس
۴۰ شرکت دانش بنیان در جنگ تحمیلی سوم به صورت کامل تخریب شد
کلاسهای تحصیلات تکمیلی دانشگاه تهران حضوری شد
تمهیدات جدید آموزشی در دانشگاه علم و صنعت اعلام شد
این بازی ویدئویی قابلیت تشخیص افسردگی شدید را دارد
دیگر اثری از بخارهای قمر مشتری نیست
آغاز ثبتنام پانزدهمین دوره ارزیابی تخصصی قاریان و مدرسان قرآن کریم
الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
آنچه در این هفته گذشت و واکنش به مجریان اسلحه به دست تلویزیون
چرا برنامه شهیدیفرد در میان پربازدیدهای تلویزیون نبود؟
یک ماهواره جاسوسی در فضا شناسایی شد
علت زنگ نزدن طلا کشف شد
ثبت نام بیش از ۵۷۰ هزار نفر در کنکور ۱۴۰۵ و آزمون دانشجومعلم
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
یک مستند از سقوط هواپیمای آمریکایی در اصفهان ساخته میشود
محسن شریفیان به مدرسه میناب رفت+عکس
نگاهی به حقوق فرزندان در آینه تربیت الهی
امتحانات نهایی دانشآموزان مجازی میشود؟
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.