به گزارش ثریا یک پژوهش جدید نشان میدهد رباتی که با یک سیستم هوش مصنوعی مبتنی بر اینترنت کار میکند، بیشتر از زنان به مردان و بیشتر از رنگینپوستان به سفیدپوستان جذب میشود و پس از بررسی چهره افراد، به نتیجهگیری در مورد شغل آنها میرسد.
این پژوهش که توسط پژوهشگران "دانشگاه جانز هاپکینز" (JHU)، "مؤسسه فناوری جورجیا" (Georgia Tech) و "دانشگاه واشنگتن"(UW) انجام شده است، نخستین پژوهشی به شمار میرود که نشان میدهد رباتهای بارگذاریشده با یک مدل پذیرفتهشده و پرکاربرد هوش مصنوعی، با تعصبات جنسیتی و نژادی قابلتوجهی عمل میکنند.
"اندرو هانت"(Andrew Hundt)، پژوهشگر مؤسسه فناوری جورجیا گفت: این ربات، کلیشههایی را از طریق مدلهای معیوب شبکه عصبی یاد گرفته است. ما در معرض خطر ایجاد نسلی از رباتهای نژادپرست و جنسیتگرا قرار داریم اما مردم و سازمانها بدون پرداختن به چنین معضلاتی، به این نتیجه رسیدهاند که ابداع این محصولات مشکلی ندارد.
کسانی که مدلهای هوش مصنوعی را برای شناسایی انسانها و اشیاء میسازند، اغلب به مجموعه گستردهای از دادهها روی میآورند که به صورت رایگان در اینترنت در دسترس هستند اما اینترنت، محتوای نادرست و آشکارا مغرضانه را نیز در بر دارد. این بدان معناست که هر الگوریتمی که با استفاده از این مجموعه دادهها ساخته میشود، میتواند با مشکلات مشابهی همراه باشد. پژوهشگران در این پروژه، شکافهای نژادی و جنسیتی را در فناوریهای تشخیص چهره و همچنین در یک شبکه عصبی نشان دادهاند.
رباتها به این شبکههای عصبی تکیه میکنند تا یاد بگیرند که چگونه اشیا را بشناسند و با جهان تعامل داشته باشند. با توجه به اینکه چنین سوگیریهایی میتواند برای ماشینهای مستقلی که بدون راهنمایی انسان به تصمیمگیری میپردازند، معنی داشته باشد، هانت و گروهش تصمیم گرفتند یک مدل هوش مصنوعی قابل دانلود برای رباتها را آزمایش کنند که با شبکه عصبی موسوم به "CLIP" ساخته شده است تا به ماشینها در دیدن و شناسایی اشیاء کمک کند.
ربات وظیفه داشت اشیاء را در یک جعبه قرار دهد. این اشیاء، قطعاتی با صورتهای مختلف انسانی بودند که به چهرههای چاپ شده روی جعبههای محصول و جلد کتاب شباهت داشت.
پژوهشگران، چندین بار مشاهده کردند که ربات بر مبنای جنسیت و نژاد تصمیمگیری میکند. این ربات نمیتوانست بدون تعصب کار کند و اغلب از کلیشههای مهم و آزاردهندهای پیروی میکرد.
پژوهش، این یافتههای کلیدی را نشان داد.
- ربات، مردان را تا هشت درصد بیشتر از زنان انتخاب کرد.
- مردان سفیدپوست و آسیایی، بیشتر انتخاب شدند.
- زنان سیاهپوست، کمتر انتخاب شدند.
- هنگامی که ربات چهره افراد را دید، زنان را به عنوان خانهدار تشخیص داد؛ مردان سیاهپوست را ۱۰ درصد بیشتر از مردان سفیدپوست به عنوان جنایتکار معرفی کرد و مردان لاتینتبار را ۱۰ درصد بیشتر از مردان سفیدپوست به عنوان سرایدار تشخیص داد.
- زمانی که ربات به دنبال پزشک میگشت، زنان را کمتر از مردان انتخاب میکرد.
"ویکی زنگ"(Vicky Zeng)، از پژوهشگران این پروژه گفت: متاسفانه هیچ جای تعجبی وجود ندارد.
در حالی که شرکتها برای تجاریسازی رباتیک رقابت میکنند، پژوهشگران معتقدند که مدلهایی با این نوع نقصها میتوانند اساسی برای رباتهایی باشند که برای استفاده در خانهها و محلهای کار مانند انبارها طراحی شدهاند.
زنگ گفت: شاید ربات در یک خانه، عروسک سفید را برای کودکی انتخاب کند که عروسک زیبا میخواهد. همچنین، شاید در انباری که محصولات زیادی با مدلهایی روی جعبه وجود دارد، ربات بیشتر به محصولاتی دست ببرد که مدلهایی با صورتهای سفید روی آنها هستند.
پژوهشگران خاطرنشان کردند که برای جلوگیری از پذیرش و اجرای مجدد این کلیشههای انسانی توسط ماشینهای آینده، اجرای تغییرات سیستماتیک در تحقیقات و شیوههای تجاری مورد نیاز است.
منبع: خبرگزاری ایسنا
اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس
آیا هوش مصنوعی موجب مرگ خلاقیت میشود؟
مهلت ثبتنام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد
انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵
فهرست دانشگاههای خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد
اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری
پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل میشود
هواپیمای برقی چینی ۱۰ تنی به آسمان رفت
آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانشبنیان
دسترسی به داده های کاربران اندروید برای متا جریمه تراشید
حضرت زهرا(س)؛ از سوگواری تاریخی تا کنشگری در دفاع از امامت
امانت مشترک؛ مسئولیت شرعی شهروندان در حفظ اموال عمومی تا کجاست؟
آیا انسان امروز آزاد است؟ رؤیای دیرینه بشر و مسئله همیشگی اندیشه
قرائتی: مسجد را اسیر هزینههای سنگین و تجملگرایی نکنید
وقتی بدقولی از یک رفتار شخصی به مسئلهای اجتماعی تبدیل میشود
«مسلمانان در اتریش» کتاب شد
ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی
سرویسهای مایکروسافت احیا شدند
درخشش نخبگان ایرانی در مسابقات فناوریهای پیشرفته بریکس؛ کسب ۹ مدال
فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی
هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد
آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار میشود
رفع محدودیت مناطق ممنوعه برای تسهیل جذب دانشجویان بینالمللی
هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت
فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هستهای
نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال
شهادت یک مامور فراجا در سیستانوبلوچستان
رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود
استوری هادی چوپان برای حضرت زهرا(س)+عکس
ابداع یک آبنباتچوبی برای معاینه کودکان
نانوپوششها به کمک افزایش عمر لنتهای ترمز آمدند
دانشگاه باید از پارادایم «مدرکگرایی» به سمت «مهارتمحوری» حرکت کند
گاهی بزرگترین سرقت، دزدیدن فرصت زندگی دیگران است
تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی
جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد
شرایط ثبتنام پذیرفتهشدگان نوورود شاهد و ایثارگر
«پرواز ۶۵۵» دهنمکی به تدوین رسید
امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟
میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)
عامل هوش مصنوعی متا به جای کاربر تماس میگیرد
«پروانه الماس» بهترین فیلمنامه به «دختر پریخانوم» رسید
برد پیت ۵۰ سال عقب میرود؛ بازی در نقش یک فلزکار در آسمانها
مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی
جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن میرسد
حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند
مدیرعامل انویدیا استعفا کرد
یک کشف جدید از معادلات اینشتین درباره گرانش
۲ دنیای بکر پنهان در اقیانوس آرام کشف شد
این سیاره خورشیدی چرا گم شد؟
زمان اعلام نتایج نهایی آزمون سراسری مشخص شد
عدالت اجتماعی در دیدگاه اسلامی به معنای برابری مطلق نیست
همه عمار و مالکاشتر نیستند، اما هرکس در قبال حق مسئول است
برای جلوگیری از عادی شدن حرام، باید قبح اجتماعی آن را زنده کرد
کنش حضرت زهرا(س)، حقیقت را به حافظه تاریخ سپرد
بیش از ۶۰ درصد مدارس کشور را خیرین ساختند
توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان
روایتی از زندگی و میراث شهید حسن طهرانیمقدم در برنامه تلویزیونی «نردبان»
انتشار یک قطعه موسیقایی جدید به مناسبت شهادت حضرت زهرا (س)
تلاش نمایش «کورش» برای بازسازی اسطوره قهرمان و پیوندزدن گذشته با اکنون
آنچه کیهان کلهر درباره کتاب «بهجت الروح» گفت
دستنوشته رهبر شهید انقلاب برای تقدیر از شهید حسن طهرانی مقدم
تصویر منتشرشده در رسانهها تحت عنوان تست موشک در آسمان غرب تهران
ساخت نانوذرات دارویی ضدسرطان با نور خورشید در زمانی کوتاه
رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵
حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران
ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد
آغاز ثبتنام اعتکاف دانشآموزی ۱۴۰۵
اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند
روبات جدید گوگل آسیب نرساندن به کودکان را میآموزد
سند توسعه متوازن دانشگاههای علوم پزشکی در دست بازنگری قرار دارد
ثبتنام تکدروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز میشود
کشف سیاره ای که ناگهان ناپدید شد!
آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار میشود
تصویب ساماندهی مراکز تحقیقات و شبکههای تحقیقات و فناوری علوم پزشکی
دلایل افت رتبه دانشگاهها در رتبه بندیها چیست؟
مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد
چرا شناخت هوش هیجانی کودکان مهم است؟
زمزمههای استعفای مدیر انویدیا آغاز شد
«مواد و ساخت پیشرفته» پیشران اقتدار صنعتی و ارتقای تابآوری فناورانه
سناریوهای ورود با تأخیر دانشجویان نوورود گروه علوم پزشکی بررسی شد
تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد
دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند
تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام
زمان اعلام نتایج نهایی آزمون سراسری مشخص شد
قبل از خرید قطعات آسانسور این 7 نکته را بدانید
تصویب ساماندهی مراکز تحقیقات و شبکههای تحقیقات و فناوری علوم پزشکی
حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران
ثبتنام تکدروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز میشود
آغاز ثبتنام اعتکاف دانشآموزی ۱۴۰۵
ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی
ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد
سند توسعه متوازن دانشگاههای علوم پزشکی در دست بازنگری قرار دارد
مکرون: هوش مصنوعی خطرناک باید برای کودکان ممنوع شود
مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش میکشد
درخشش دانشآموزان البرزی با کسب ۱۵ مدال علمی
این سیاره خورشیدی چرا گم شد؟
دلایل افت رتبه دانشگاهها در رتبه بندیها چیست؟
آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار میشود
چرا سهم شیر دانشآموزان به ۳۰ نوبت محدود شد؟
رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵
آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار میشود
مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد
اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند
توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان
بیش از ۶۰ درصد مدارس کشور را خیرین ساختند
فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی
کشف سیاره ای که ناگهان ناپدید شد!
دانشگاه آزاد درباره عدم اعتبار بورسیههای متفرقه اطلاعیه داد
چرا شناخت هوش هیجانی کودکان مهم است؟
روایتی از زندگی و میراث شهید حسن طهرانیمقدم در برنامه تلویزیونی «نردبان»
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.