به گزارش ثریا - پژوهشگران شرکت «اوپن ایآی»(OpenAI) در پژوهشی جدید اعلام کردند که دلیل رواج «توهم» مدلهای هوش مصنوعی را کشف کردهاند. این پدیدهای است که در آن سامانههایی مانند «چتجیپیتی»(ChatGPT) با اطمینان ادعاهایی را مطرح میکنند که واقعیت ندارند. آنها دریافتند که نحوه ارزیابی خروجی «مدلهای زبانی بزرگ»(LLM) مانند «چتجیپیتی»، برای خوب امتحان دادن بهینه شدهاند و حدس زدن در مواقع عدم قطعیت، عملکرد امتحان را بهبود میبخشد. به زبان ساده، سازندگان هوش مصنوعی آنها را ترغیب میکنند به جای اینکه اعتراف کنند پاسخ را نمیدانند، آن را حدس بزنند.
«توهم» یا «توهم مصنوعی» در هوش مصنوعی، یک پاسخ مطمئن توسط هوش مصنوعی است که به نظر نمیرسد با دادههای آموزشی آن توجیه شود. توهم هوش مصنوعی یک خروجی هوش مصنوعی مولد است که بیمعنی یا کاملاً نادرست است، اما اغلب اوقات کاملاً قابل قبول به نظر میرسد. برای مثال، یک چتبات در پاسخ به سؤال میزان درآمد تسلا با «توهم» و بدون اطلاع از درآمد این شرکت ممکن است یک عدد تصادفی را مانند ۱۳٫۶ میلیارد دلار انتخاب کند. چتبات این پاسخ را قابل قبول میداند و به دروغ، مکرراً اصرار میکند که درآمد تسلا ۱۳٫۶ میلیارد دلار است و هیچ نشانهای از آگاهی داخلی مبنی بر اینکه این عدد، محصول تخیل خودش است، ندارد.
به نقل از فیوچریسم، این استراتژی ممکن است یک رویکرد خوب در یک امتحان باشد، اما هنگام ارائه توصیههای مهم در مورد موضوعاتی مانند مسائل پزشکی یا قانونی، بسیار خطرناک است.
شرکت «اوپن ایآی» ادعا میکند که یک راه حل ساده برای این چالش وجود دارد. این راهحل شامل تنظیم مجدد ارزیابیهاست، به گونهای که به خطاهای مطمئن امتیازی بیشتر از خطاهای نامطمئن بدهیم و به پاسخی با عدم اطمینان، امتیاز کمی بدهیم. با این حال، یک متخصص درباره این استراتژی هشدار میدهد، زیرا این رویکرد میتواند پیامدهای تجاری ویرانگری را به همراه داشته باشد.
«وی ژینگ»(Wei Xing)، سخنران «دانشگاه شفیلد»(Sheffield) و متخصص بهینهسازی هوش مصنوعی استدلال کرد: صنعت هوش مصنوعی از نظر اقتصادی، تشویق به انجام این تغییرات نخواهد شد، زیرا انجام این کار میتواند به طرز چشمگیری هزینهها را افزایش دهد. حتی اگر «چتجیپیتی» تنها ۳۰ درصد مواقع اعتراف کند که پاسخ را نمیداند، کاربران به سرعت ناامید شده و سراغ سامانههای دیگری میروند. کاربرانی که به دریافت پاسخهای مطمئن به هر سؤالی عادت کردهاند، احتمالاً چنین سامانههایی را به سرعت رها خواهند کرد.
موضوع خطرناکتر، اعتراف مکرر هوش مصنوعی به این است که نمیتواند به یک سؤال با درجه اطمینان کافی پاسخ دهد. این موضوع میتواند کاربران را که به پاسخی با اطمینان بالا علاقه دارند، حتی اگر در نهایت پاسخ نادرست باشد، دلسرد کند. افزایش هزینهها در این مقطع میتواند بسیار زیانبار باشد. شرکتهای هوش مصنوعی سرمایهگذاریهای زیادی کردهاند و زیرساختها را برای اجرای مدلهایی که به طور فزایندهای نیازمند برق هستند، گسترش دادهاند. به عبارت دیگر، افزایش هزینههای عملیاتی سرسامآور میتواند یکی دیگر از موانع اصلی برای شرکتهایی مانند «اوپن ایآی» باشد، زیرا آنها در تلاش هستند تا به سرمایهگذاران اطمینان دهند که یک مدل تجاری عملی در بلندمدت وجود دارد.
«ژینگ» در پژوهش خود نوشت: مدلهای هوش مصنوعی در حالی که رویکردهای اثبات شدهای برای سنجش عدم قطعیت وجود دارد، ممکن است نیاز به محاسبات بسیار بیشتر داشته باشند، زیرا آنها باید چندین پاسخ ممکن را ارزیابی کرده و سطوح قطعیت را تخمین بزنند. این برای سامانهای که میلیونها پرسوجو را روزانه پردازش میکند، به معنای هزینههای عملیاتی بالاتری است. راهحلهای پیشنهادی این شرکت ممکن است برای «توهم» سامانههایی که عملیات تجاری حیاتی یا زیرساختهای اقتصادی را مدیریت میکنند کارساز باشد، زیرا هزینه «توهم» به مراتب از هزینه وادار کردن مدلها به تصمیمگیری در مورد قطعیت مطالب، فراتر میرود.
وی افزود: با این حال، برنامههای کاربردی مصرفکننده همچنان اولویتهای توسعه هوش مصنوعی را تشکیل میدهند. کاربران به سامانههایی نیاز دارند که پاسخهایی مطمئن را به هر سؤالی ارائه دهد.
رسیدن به پاسخی نامطمئن با سرعت بیشتر برای شرکتها کم هزینهتر است و میتواند انگیزه برای رویکردی دقیق و مطمئن را کاهش دهد. مشخص نیست که این روند با ادامه تغییر نیروهای بازار و یافتن راههای کارآمدتر توسط شرکتها برای اجرای مدلهای هوش مصنوعی خود، چگونه پیش خواهد رفت، اما یک مسئله بعید است که تغییر کند؛ حدس زدن همیشه یک گزینه به مراتب اقتصادیتر و مقرونبهصرفهتر برای این شرکتها خواهد بود.
«ژینگ» در پایان مطالعه خود نوشت: به طور خلاصه، پژوهش شرکت «اوپن ایآی»، ناخواسته یک حقیقت ناخوشایند را برجسته میکند؛ انگیزههای تجاری که توسعه هوش مصنوعی را هدایت میکنند، اساساً با کاهش «توهم» همسو نیستند و تا زمانی که این انگیزهها تغییر نکنند، این اختلال در سامانهها ادامه خواهد داشت.
منبع : هوش مصنوعی
محقق ایرانی پمپ مینیاتوری برای نرم روباتها ابداع کرد
اندیشمندان مسلمان از شهدای کودک میناب میگویند
خبر خوش برای فناوران علوم شناختی؛ حمایت بدون سقف از طرحهای فناوری
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
خودروهای خودران بایدو با نام «AmiGo» مجوز فعالیت در شرق سوئیس گرفتند
رقابت سخت منطقهای برای جذب دانشجویان خارجی؛ هشدار دانشگاه امیرکبیر
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
طرح «حامی» برای جبران کاستیهای یادگیری دانشآموزان اجرا میشود
وام ودیعه مسکن دانشجویان علوم پزشکی برای شهر تهران افزایش یافت
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
سنت منطقی اسلامی چگونه پشتوانه مواجهه با منطق ریاضی است؟
جهان اسلام به این روحانی فرزانه و اهل ادب میبالد
بانو مجتهده امین نماد توانمندی زنان است
بازیگر معروف: صداپیشگان شایسته دریافت اسکار بازیگری هستند
اختتامیه پویش ملی وطن به روایت من برگزار شد
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
حرمهای کربلا در آستانه محرم سیاه پوش شدند
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
هزینه ثبتنام جهش تحصیلی دانشآموزان اعلام شد
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
نگاهی به نقش توییتر در جنگ رسانهای دشمن در کتاب «توئیتری شدن سیاست»
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
طراح بازی «نجات دختران اپستین توسط بچههای میناب» از این بازی میگوید
درباره زندگی رازآمیز درختان در این کتاب بخوانید
هکرها پیامرسان دولتی فرانسه را هک کردند
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
اختراع کتی که هوا را به آب آشامیدنی تبدیل میکند
وزیر علوم: اساتید دانشگاه با امید و انگیزه در کلاس درس حاضر شوند
مقابله با موج محتوای غیرقانونی در بحرانها؛ بریتانیا شبکههای اجتماعی را ملزم به سازوکار ویژه کرد
شکایت جدید علیه OpenAI؛ ChatGPT نتوانست جلوی خودکشی کاربر را بگیرد
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
آگهی/ از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
ایلان ماسک نخستین تریلیونر دنیا میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
اهمیت هوش مصنوعی در مسیر ارتقای کیفیت آموزشی
جلسه تلاوت و هماندیشی قاریان بینالمللی مزین به نام رهبر شهید
فلسفه در اندیشه حضرت امام، مقدمهای ضروری برای رسیدن به عرفان است
جریان قاتلان حسین (ع) امروز در مقابل امت ایشان قرار گرفتهاند
جدایی متا از شریک چینی جنجالی کلید خورد
احتمال اعمال محدودیت دوباره بر اینترنت بینالملل وجود دارد؟
خدمات ابری گوگل در هند مختل شد
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
داستان جالب کندترین آزمایش جهان چه بود؟
تاثیر باورنکردنی چای بر سلامتی و افزایش طول عمر
اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
هشدار قالیباف به ترامپ و دیگر رهبران جهان+عکس
حجتالاسلام قمی: زبان در وصف شما مردم مبعوث شده قاصر است
طرح روضههای خانگی سدره به مناسبت ماه محرم آغاز به کار کرد
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید
زیرساخت حقیقی این سرزمین، تمدن کهن، فرهنگ و هنر ماندگارش است
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
اقتدار دفاعی ایران، ایدهای نو در بازیهای رومیزی
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
آئین اختتامیه روایت علوی برگزار شد
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
خدمات ابری گوگل در هند مختل شد
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
جدایی متا از شریک چینی جنجالی کلید خورد
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
آئین اختتامیه روایت علوی برگزار شد
اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟
پویش «ایران در پناه قرآن» تا پایان خرداد تمدید شد
به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید
معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
برگزاری نمایشگاه معماری حرمین شریفین در مکه مکرمه
اقتدار دفاعی ایران، ایدهای نو در بازیهای رومیزی
احتمال اعمال محدودیت دوباره بر اینترنت بینالملل وجود دارد؟
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.