به گزارش ثریا - پژوهشگران شرکت «اوپن ایآی»(OpenAI) در پژوهشی جدید اعلام کردند که دلیل رواج «توهم» مدلهای هوش مصنوعی را کشف کردهاند. این پدیدهای است که در آن سامانههایی مانند «چتجیپیتی»(ChatGPT) با اطمینان ادعاهایی را مطرح میکنند که واقعیت ندارند. آنها دریافتند که نحوه ارزیابی خروجی «مدلهای زبانی بزرگ»(LLM) مانند «چتجیپیتی»، برای خوب امتحان دادن بهینه شدهاند و حدس زدن در مواقع عدم قطعیت، عملکرد امتحان را بهبود میبخشد. به زبان ساده، سازندگان هوش مصنوعی آنها را ترغیب میکنند به جای اینکه اعتراف کنند پاسخ را نمیدانند، آن را حدس بزنند.
«توهم» یا «توهم مصنوعی» در هوش مصنوعی، یک پاسخ مطمئن توسط هوش مصنوعی است که به نظر نمیرسد با دادههای آموزشی آن توجیه شود. توهم هوش مصنوعی یک خروجی هوش مصنوعی مولد است که بیمعنی یا کاملاً نادرست است، اما اغلب اوقات کاملاً قابل قبول به نظر میرسد. برای مثال، یک چتبات در پاسخ به سؤال میزان درآمد تسلا با «توهم» و بدون اطلاع از درآمد این شرکت ممکن است یک عدد تصادفی را مانند ۱۳٫۶ میلیارد دلار انتخاب کند. چتبات این پاسخ را قابل قبول میداند و به دروغ، مکرراً اصرار میکند که درآمد تسلا ۱۳٫۶ میلیارد دلار است و هیچ نشانهای از آگاهی داخلی مبنی بر اینکه این عدد، محصول تخیل خودش است، ندارد.
به نقل از فیوچریسم، این استراتژی ممکن است یک رویکرد خوب در یک امتحان باشد، اما هنگام ارائه توصیههای مهم در مورد موضوعاتی مانند مسائل پزشکی یا قانونی، بسیار خطرناک است.
شرکت «اوپن ایآی» ادعا میکند که یک راه حل ساده برای این چالش وجود دارد. این راهحل شامل تنظیم مجدد ارزیابیهاست، به گونهای که به خطاهای مطمئن امتیازی بیشتر از خطاهای نامطمئن بدهیم و به پاسخی با عدم اطمینان، امتیاز کمی بدهیم. با این حال، یک متخصص درباره این استراتژی هشدار میدهد، زیرا این رویکرد میتواند پیامدهای تجاری ویرانگری را به همراه داشته باشد.
«وی ژینگ»(Wei Xing)، سخنران «دانشگاه شفیلد»(Sheffield) و متخصص بهینهسازی هوش مصنوعی استدلال کرد: صنعت هوش مصنوعی از نظر اقتصادی، تشویق به انجام این تغییرات نخواهد شد، زیرا انجام این کار میتواند به طرز چشمگیری هزینهها را افزایش دهد. حتی اگر «چتجیپیتی» تنها ۳۰ درصد مواقع اعتراف کند که پاسخ را نمیداند، کاربران به سرعت ناامید شده و سراغ سامانههای دیگری میروند. کاربرانی که به دریافت پاسخهای مطمئن به هر سؤالی عادت کردهاند، احتمالاً چنین سامانههایی را به سرعت رها خواهند کرد.
موضوع خطرناکتر، اعتراف مکرر هوش مصنوعی به این است که نمیتواند به یک سؤال با درجه اطمینان کافی پاسخ دهد. این موضوع میتواند کاربران را که به پاسخی با اطمینان بالا علاقه دارند، حتی اگر در نهایت پاسخ نادرست باشد، دلسرد کند. افزایش هزینهها در این مقطع میتواند بسیار زیانبار باشد. شرکتهای هوش مصنوعی سرمایهگذاریهای زیادی کردهاند و زیرساختها را برای اجرای مدلهایی که به طور فزایندهای نیازمند برق هستند، گسترش دادهاند. به عبارت دیگر، افزایش هزینههای عملیاتی سرسامآور میتواند یکی دیگر از موانع اصلی برای شرکتهایی مانند «اوپن ایآی» باشد، زیرا آنها در تلاش هستند تا به سرمایهگذاران اطمینان دهند که یک مدل تجاری عملی در بلندمدت وجود دارد.
«ژینگ» در پژوهش خود نوشت: مدلهای هوش مصنوعی در حالی که رویکردهای اثبات شدهای برای سنجش عدم قطعیت وجود دارد، ممکن است نیاز به محاسبات بسیار بیشتر داشته باشند، زیرا آنها باید چندین پاسخ ممکن را ارزیابی کرده و سطوح قطعیت را تخمین بزنند. این برای سامانهای که میلیونها پرسوجو را روزانه پردازش میکند، به معنای هزینههای عملیاتی بالاتری است. راهحلهای پیشنهادی این شرکت ممکن است برای «توهم» سامانههایی که عملیات تجاری حیاتی یا زیرساختهای اقتصادی را مدیریت میکنند کارساز باشد، زیرا هزینه «توهم» به مراتب از هزینه وادار کردن مدلها به تصمیمگیری در مورد قطعیت مطالب، فراتر میرود.
وی افزود: با این حال، برنامههای کاربردی مصرفکننده همچنان اولویتهای توسعه هوش مصنوعی را تشکیل میدهند. کاربران به سامانههایی نیاز دارند که پاسخهایی مطمئن را به هر سؤالی ارائه دهد.
رسیدن به پاسخی نامطمئن با سرعت بیشتر برای شرکتها کم هزینهتر است و میتواند انگیزه برای رویکردی دقیق و مطمئن را کاهش دهد. مشخص نیست که این روند با ادامه تغییر نیروهای بازار و یافتن راههای کارآمدتر توسط شرکتها برای اجرای مدلهای هوش مصنوعی خود، چگونه پیش خواهد رفت، اما یک مسئله بعید است که تغییر کند؛ حدس زدن همیشه یک گزینه به مراتب اقتصادیتر و مقرونبهصرفهتر برای این شرکتها خواهد بود.
«ژینگ» در پایان مطالعه خود نوشت: به طور خلاصه، پژوهش شرکت «اوپن ایآی»، ناخواسته یک حقیقت ناخوشایند را برجسته میکند؛ انگیزههای تجاری که توسعه هوش مصنوعی را هدایت میکنند، اساساً با کاهش «توهم» همسو نیستند و تا زمانی که این انگیزهها تغییر نکنند، این اختلال در سامانهها ادامه خواهد داشت.
منبع : هوش مصنوعی
کلید نهایی پنجاه و سومین دوره آزمون دستیاری پزشکی منتشر شد
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
رومینگ اربعین ارزانتر شد/ توصیه به استفاده از بستههای ایرانی
حال علامه امینی وقتی از مسیر مشایه به نزدیک کربلا میرسید، منقلب میشد
گوشهای از دلدادگی موکبداران عراقی در پیادهروی اربعین
اولین زیارت اربعین مادران داغدیده میناب؛ روایتی از دلهایی که سوخت
مریم همتیان بازیگر سینما و تئاتر درگذشت
داریوش فرضیایی بازیگر سریال جدید سیمافیلم شد
گانگستر مشهور سینما از دنیا رفت
مراسم یادبود اکبر عبدی برگزار شد؛ پخش سریال اکبر عبدی بعد از صفر
لطفاً زبان فارسی را تکه پاره نکنید!
پویش بزرگ کتابخوانی اربعین حسینی با محوریت «آب هرگز نمیمیرد» برگزار میشود
نخهای نازک هوشمند علائم حیاتی بدن را رصد میکند
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
برافراشتهشدن پرچم ایران در بینالحرمین
راهاندازی نخستین مرکز دانش تخصصی بازیهای رایانهای در کشور
رکورد سریع ترین پهپاد الکتریکی جهان شکسته شد
اعتباربخشی؛ کلید ارتقای نظام آموزش عالی
اهدای جایزه چهره برجسته علمی و فرهنگی جهاد دانشگاهی به شهید لاریجانی
ابر خوشه استارلینک صاحب ۲۴ ماهواره جدید شد
۴ خانواده آمریکایی از متا، تیک تاک، اسنپ و گوگل شکایت کردند
همدستی هوش مصنوعی آمازون و والمارت با تقلب در کالا
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
تاسیسات آبی هفت ایالت آمریکا تحت حملات هک
صدرنشینی دانشگاه علوم پزشکی تهران در رتبهبندی سایمگو ۲۰۲۶
وقتی لذت سلفی غمِ سوگ را میبلعد؛ ۲ حکم قضایی به نفع سینماگران ایرانی
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
«مرد عنکبوتی» با رکوردشکنی از راه رسید؛ درخشش «روز کاملاً جدید»
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
ورود بیش از سه میلیون زائر خارجی به عراق از اول محرم
موشک اسپیس ایکس با ماه تصادف میکند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
کاهش ۵۰ درصدی خوردگی تجهیزات نیروگاهی با فناوری نانوحباب
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
رئیس دانشگاه الزهرا کربلا: نهضت حسینی مرزهای طایفهای را شکست داد
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
آییننامه جامع حمایت از دانشجویان توانخواه نهایی شد
سهم دانشجو از نرخ غذای دانشجویی مشخص شد
پیش ثبتنام ۸۱۰ هزار دانشآموز پایه هفتم
آموزش و پرورش با ۱۰۰ موکب، آماده خدمترسانی به زائران اربعین است
روایت زائرانی که اربعین را از شرق ایران آغاز میکنند در کتاب «شاه است حسین»
پرچمهایی در پیاده روی اربعین که هنوز خون را به یاد دارند
تصویر کمتر دیده شده از آیتالله سیدمجتبی خامنهای در نماز جمعه نصر
چالشهای عکاسی طبیعت چیست؟ سید صابر امامی پاسخ میدهد
جزئیات شرکت در آزمون های دانشنامه و گواهینامه فوق تخصصی پزشکی تعیین شد
اصغر خلیلی مدیریت مجموعه تئاتر شهر را بر عهده گرفت
آلبوم جدید خواننده پاپ در راه است
اودیسه نولان در ایکس لو رفت؛ ایلان ماسک در برابر نولان
جزئیات آزمونهای دانشنامه و گواهینامه تخصصی پزشکی را اینجا بخوانید
اجرای نزدیک به ۱۵ پروژه ملی در وزارت علوم پس از جنگ
۱۳۰ هزار فعالیت انجمنهای علمی دانشجویی در کشور ثبت شدند
دانشجویان دانشگاه صنعتی امیرکبیر مسیر شغلی خود را طراحی میکنند
مدیر ارشد اوپن ای آی به این شبکه اجتماعی معتاد شده بود
متا تحقیق درباره خطرات اینستاگرام برای نوجوانان را نادیده گرفت
پرتاب ۵ هزار ماهواره آمازون برای بهبود کیفیت اینترنت در جهان
درخواست برای تفکیک زمان پذیرش رشتههای بدون آزمون
تصویری از کلاهک خیبرشکن و فتاح سوار بر بوستر حاج قاسم
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
مطالبه بزرگ امت اسلام در اربعین امسال خونخواهی قائد شهید است
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
چه افرادی بدون آنکه به کربلا بروند زائر اباعبدالله هستند؟
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
زائران با سامانه هوشمند «هم موکب» دغدغه اسکان ندارند
«خورشید اربعین» در رادیو ورزش؛ همراهی با زائران در حماسه استقامت
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
مفاهیم نهجالبلاغه را در پیادهروی اربعین ترویج کنیم
خنیاگران خیام با «مهرگان» آمدند؛ شنیدن ظرافتهای موسیقی خراسان
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
راهاندازی «بازوی طریق» سامانه هوشمند خدمات به زائران اربعین
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
مایک لی بازنشسته میشود؛ بیماری نمیگذارد فیلم بسازم
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.