به گزارش ثریا - مدلهای زبانی بزرگ (LLM) به عنوان ابزارهایی تبلیغ شدهاند که میتوانند دسترسی به اطلاعات را در سراسر جهان دموکراتیزه کنند و دانش را صرفنظر از پیشینه یا مکان کاربران، با رابطی کاربرپسند در اختیار افراد قرار دهند. با این حال، تحقیقات جدید مرکز ارتباطات سازنده (CCC) موسسه فناوری ماساچوست نشان میدهد که این سیستمهای هوش مصنوعی ممکن است برای همان کاربرانی که بیشترین بهره را از آن میبرند، عملکرد ضعیفتری داشته باشند.
به نقل از وبسایت موسسه فناوری ماساچوست، مطالعهای که توسط پژوهشگران انجام شد نشان داد که چتباتهای هوش مصنوعی پیشرفته از جمله جیپیتی-۴ از کلاود و Llama ۳، گاهی پاسخهای کمتر دقیق و کمتر صادقانهای به کاربرانی ارائه میدهند که مهارت کمتری در زبان انگلیسی دارند، تحصیلات رسمی کمتری دارند یا اهل خارج از ایالات متحده هستند. همچنین این مدلها با نرخ بالاتری از پاسخ دادن به سوالات خودداری میکنند و در برخی موارد با زبان تحقیرآمیز پاسخ میدهند.
نویسنده اصلی و دستیار فنی این مطالعه میگوید: ما با این انگیزه شروع کردیم که مدلهای زبانی بزرگ میتوانند به کاهش نابرابری در دسترسی به اطلاعات در سراسر جهان کمک کنند. اما این دیدگاه نمیتواند محقق شود مگر اینکه سوگیریهای مدل و تمایلات مضر به طور ایمن برای همه کاربران، صرفنظر از زبان، ملیت یا دیگر ویژگیهای جمعیتی، کاهش یابد.
عملکرد ضعیف سیستماتیک در ابعاد مختلف
برای این تحقیق، گروه بررسی کرد که سه مدل زبانی بزرگ چگونه به سوالات دو مجموعه داده پاسخ میدهند که برای اندازهگیری صداقت مدل طراحی شده است در حالی که یکی شامل سوالات علمی است که دقت واقعی را میسنجد. پژوهشگران قبل از هر سوال، بیوگرافی کوتاهی از کاربران را اضافه کردند و سه ویژگی را تغییر دادند: سطح تحصیلات، مهارت زبان انگلیسی و کشور مبدا.
در هر سه مدل و هر دو مجموعه داده، پژوهشگران زمانی که سوالات از کاربرانی با تحصیلات کمتر یا زبان انگلیسی غیر بومی میآمد، کاهش قابل توجهی در دقت مشاهده کردند. این اثرات برای کاربرانی که هر دو ویژگی را داشتند تحصیلات کمتر و زبان انگلیسی غیر بومی بیشترین شدت را داشت و کیفیت پاسخها بیشترین کاهش را نشان داد.
این تحقیق همچنین بررسی کرد که کشور مبدا چگونه بر عملکرد مدل تأثیر میگذارد. با آزمایش کاربران از ایالات متحده، ایران و چین با سطح تحصیلات مشابه، پژوهشگران دریافتند که هوش مصنوعی Claude ۳ Opus به ویژه برای کاربران اهل ایران عملکرد ضعیفتری در هر دو مجموعه داده داشت.
خودداری از پاسخ و زبان تحقیرآمیز
شاید جالبترین نکته تفاوتها در میزان خودداری مدلها از پاسخدهی به سوالات باشد. به عنوان مثال، Claude ۳ Opus تقریباً ۱۱ درصد از سوالات کاربران کمتر تحصیلکرده و غیر بومی انگلیسی را پاسخ نداد در حالی که این رقم برای شرایط کنترل بدون بیوگرافی کاربر فقط ۳.۶ درصد بود.
وقتی پژوهشگران این خودداریها را به صورت دستی بررسی کردند، دریافتند که کلاود در ۴۳.۷ درصد موارد برای کاربران کمتر تحصیلکرده با زبان تحقیرآمیز پاسخ میدهد، در حالی که برای کاربران تحصیلکرده کمتر از یک درصد است. در برخی موارد، مدل زبان انگلیسی شکسته را تقلید یا لهجه اغراقآمیز به کار میبرد.
این مدل همچنین از ارائه اطلاعات در برخی موضوعات به طور خاص برای کاربران کمتر تحصیلکرده از ایران یا روسیه خودداری میکرد که شامل سوالاتی درباره انرژی هستهای، آناتومی و وقایع تاریخی بود در حالی که همان سوالات را برای سایر کاربران درست پاسخ میداد.
بازتاب سوگیری انسانی
این یافتهها الگوهای ثبتشده سوگیری اجتماعی-شناختی انسان را منعکس میکنند. تحقیقات علوم اجتماعی نشان داده است که گویشوران بومی انگلیسی اغلب گویشوران غیر بومی را کمتر تحصیلکرده، کمهوشتر و غیر شایسته میدانند، صرفنظر از تخصص واقعی آنها. سوگیری مشابهی میان معلمان در ارزیابی دانشآموزان غیر بومی انگلیسی نیز ثبت شده است.
پیامدها و خطرات شخصیسازی
این پیامدها به طور خاص نگرانکننده هستند با توجه به اینکه ویژگیهای شخصیسازی مانند حافظه در چت جیپیتی که اطلاعات کاربر را در طول گفتگوها دنبال میکند به طور فزایندهای رایج میشوند. چنین ویژگیهایی خطر رفتار متفاوت با گروههای حاشیهای شده را دارند.
منبع : هوش مصنوعی
اقتدار دفاعی ایران، ایدهای نو در بازیهای رومیزی
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
آئین اختتامیه روایت علوی برگزار شد
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
پویش «ایران در پناه قرآن» تا پایان خرداد تمدید شد
برگزاری نمایشگاه معماری حرمین شریفین در مکه مکرمه
حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ
آیا در جنگ هرکاری مجاز است؟ نگاهی به اخلاق در میدان نبرد
تأثیر سوابق پایه یازدهم در کنکور ۱۴۰۵ مثبت شد / ۶ درس نهایی برای کنکور
راز حذف زمینههای فلسفی «یوگا» در نسخه مدرن
آذینبندی و شادیهای عمومی باید به عنوان مدخل معرفت باشد
فرایند محدودیت در اینترنت شفاف میشود؛ ماجرای اینترنت پرو و خط سفید چه بود؟
۷۸ درصد ترافیک اینترنت به حالت قبل و اول دی ماه بازگشت
آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه
مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است
تداوم فعالیت علمی دانشگاه شهید بهشتی با وجود آسیب در جنگ
ضیافت نور در آسمان خرداد؛ دیدار دو سیاره منظومه شمسی در آسمان ایران
نسخه جدید چتجیپیتی؛ از تولید عکس تا رزرو سفر در یک پنجره
مهلت دفاع از پایان نامه دستیاران پزشکی تا پایان آذر ۱۴۰۵ تمدید شد
حضوری شدن برخی امتحانات دانشگاه علم و صنعت در مقطع کارشناسی
ایران در جمع ۶ کشور دارای توان ساخت تجهیزات پیشرفته کرایوژنیک
چرا نقش استادان دانشگاه فراتر از کلاس درس است؟
انویدیا با غولهای فناوری کره جنوبی قرارداد بست
هوش مصنوعی زلزله یاب شد
ثبتنام خودکار ۸۵ درصد دانشآموزان ابتدایی در استان سمنان
فعالیت ۳۷ هزار سفیر سلامت دانشآموزی
هفته بینالمللی قرآن در کربلا افتتاح شد
چرا روابط فیلم «تهران کنارت» در سطح ماند؟
ولایت فقیه یک هویت تمدنی و تاریخی برای ملت ایران است
تأکید رئیس جهاددانشگاهی بر رفع موانع دیوانسالاری و بازگشت به شورای عالی انقلاب فرهنگی
دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعالتر جهاد دانشگاهی صادر میشود
دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاهها
دستگاههای اجرایی ملزم به استفاده از پیامرسانهای بومی شدند
طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بینظیر
پیش ثبتنام الکامپ ۲۹ آغاز شد
امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانشآموختگان فراهم شد
اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵
جزئیات احکام انضباطی دانشجویان در ایمیل معاون دانشجویی دانشگاه شریف به اساتید
امتحانات دانشگاه علمی کاربردی غیرحضوری شد
امام در اصول فقه به «عرف عقلایی» اهمیت میداد
خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند
موقوفات چطور به حل مشکلات اقتصادی ورود کردهاند؟
زندگی امام موسی کاظم (ع) تابلویی تمامعیار از مدیریت بحران و کادرسازی دینی است
بازیگر معروف ایرانی نقش ترامپ را بازی میکند+عکس
بیوک میرزایی: محبت مردم بزرگترین سرمایه یک هنرمند است
متن جدید امیرحسین قیاسی در حمایت از ایران و در واکنش به جنگ
آیتالله مبلغی: نخستین ثمره استقامت، گشایش راهها و شکستن بنبستهاست
ثبت نام ۲ هزار هیئت جدید در سامانه عطر سیب/ رویکرد نمایشگاه امسال خانواده محور است
خدمترسانی موکب ها به زائران عید غدیر در نجف اشرف
روایتی از بزرگترین وقف درمانی تهران در کتاب «میراث فرمانفرما»
آخرین حضور و غیاب کودکان شهید میناب با حضور پرویز پرستویی
بازیگر معروف فیلم پدرخوانده ترامپ را ظالم و فاسد خواند
روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف
آنچه سیاهچالهای عباسی درباره امام کاظم(ع) پنهان نکردند
چرا روایت ماکان نصیری از صدها گزارش خبری اثرگذارتر شد؟
کتاب صمود روایتی از دردی که از دور فهمیده نمیشود
امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم میشود
ترس اروپا از خاموشی دیجیتال شدت گرفت
قائم مقام دبیر شورای عالی انقلاب فرهنگی منصوب شد
حمایت جدی دانشگاه آزاد از دانشجویان دکتری؛ دستورالعمل پژوهشی نیمسال ۱۴۰۴۲ آمد
خط فارسی، مرجعیت علمی ایران را منطقهای میکند
وزارت آموزش و پرورش اعلام برنامه امتحانات نهایی را تکذیب کرد
رویکرد تحولی سمپاد از تربیت دانشآموز موفق به سوی پرورش انسان اثرگذار
هوش مصنوعی افکار رئیس جمهور چین را ترویج میکند
شورای عالی انقلاب فرهنگی: تغییری در تأثیر قطعی معدل کنکور امسال نداریم
تعلل دولت در اجرای طرح ترمیم حقوق، شکاف بیاعتمادی را گسترش داد
نمایهشدن سه مجله دانشگاه تهران در کتابخانه دیجیتال آلمان
مصاحبه دکتری دانشگاه علامه طباطبائی از فردا آغاز میشود
یک روز جابجایی در برنامه امتحانات دانشگاه صنعتی شریف
اقتباسی عروسکی از رمان «اسب جنگی» به روی صحنه رفت
مساله وطن در صدای علیرضا قربانی و نجابتِ اندوه در آهنگ جدید او
بزرگترین وداع قرن برای امام امت/ بدرقهای به وسعت ایران
جناب خان و هومن به آنتن تلویزیون برگشتند
کتاب برای رهبر شهید ابزار ساخت انسان و جامعه بود
پیکر آیتالله العظمی محمد اسحاق فیاض در کاظمین و کربلا تشییع شد
ممیزیهای فراوان کلینیک رویا صدای بازیگران را در آورد
حمایت از ۳۵۰ استاد برای هدایت تحقیقات
امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانشآموختگان فراهم شد
تاثیر معدل در کنکور به دلیل غیبت شما هنوز بررسی نشده است
جزئیات آزمون مرحله غیرمتمرکز سی و یکمین المپیاد علمی دانشجویی اعلام شد
آغاز کلاسهای حضوری دانشگاه صنعتی شریف از ۲۳ خرداد
جزئیات ثبت نام آزمون دستیاری دندانپزشکی را اینجا بخوانید
غدیر؛ واقعهای فراتر از تاریخ با ابعاد کلامی و تمدنی
مداح بحرینی سلب تابعیت شده به ایران میآید
بررسی وضعیت اشتغال بیش از ۴۰۹ هزار دانشآموخته/ علوم پزشکی در صدر اشتغال
آیتالله فیاض رحلت کرد/ مرجعی که آیتالله خویی او را نور چشمش می دانست
تنگه هرمز را بیشتر بشناسید
حقوق اساتید چه نیازهایی را برآورده میکند؟
حجتالاسلام محمد قمی: نهضت خمینی همچنان ادامه دارد
بیوک میرزایی: محبت مردم بزرگترین سرمایه یک هنرمند است
کتاب صمود روایتی از دردی که از دور فهمیده نمیشود
مرور آثاری که با موضوع غدیر خلق شدند
هوش مصنوعی افکار رئیس جمهور چین را ترویج میکند
سیمای فراتاریخی «قهرمان مردم» در لایههای هنر، عرفان و ادبیات
ترس اروپا از خاموشی دیجیتال شدت گرفت
شورای عالی انقلاب فرهنگی: تغییری در تأثیر قطعی معدل کنکور امسال نداریم
غدیرخم تبیینگر مدل حکمرانی الهی و الگوی زیست مؤمنانه است
اجماع اولیه فرو ریخت/ خبرگان بر روی رهبر شهید به توافق نرسیدند
غدیر برای کودک نیازمند تخیل است
امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم میشود
سه انفجار خورشیدی در یک شبانهروز رخ داد
حمایت جدی دانشگاه آزاد از دانشجویان دکتری؛ دستورالعمل پژوهشی نیمسال ۱۴۰۴۲ آمد
بزرگترین وداع قرن برای امام امت/ بدرقهای به وسعت ایران
دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاهها
دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعالتر جهاد دانشگاهی صادر میشود
درک پیام غدیر؛ امامت، ستون فقرات حفظ اسلام در جامعه
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.