به گزارش ثریا - پژوهشگران شرکت «اوپن ایآی»(OpenAI) در پژوهشی جدید اعلام کردند که دلیل رواج «توهم» مدلهای هوش مصنوعی را کشف کردهاند. این پدیدهای است که در آن سامانههایی مانند «چتجیپیتی»(ChatGPT) با اطمینان ادعاهایی را مطرح میکنند که واقعیت ندارند. آنها دریافتند که نحوه ارزیابی خروجی «مدلهای زبانی بزرگ»(LLM) مانند «چتجیپیتی»، برای خوب امتحان دادن بهینه شدهاند و حدس زدن در مواقع عدم قطعیت، عملکرد امتحان را بهبود میبخشد. به زبان ساده، سازندگان هوش مصنوعی آنها را ترغیب میکنند به جای اینکه اعتراف کنند پاسخ را نمیدانند، آن را حدس بزنند.
«توهم» یا «توهم مصنوعی» در هوش مصنوعی، یک پاسخ مطمئن توسط هوش مصنوعی است که به نظر نمیرسد با دادههای آموزشی آن توجیه شود. توهم هوش مصنوعی یک خروجی هوش مصنوعی مولد است که بیمعنی یا کاملاً نادرست است، اما اغلب اوقات کاملاً قابل قبول به نظر میرسد. برای مثال، یک چتبات در پاسخ به سؤال میزان درآمد تسلا با «توهم» و بدون اطلاع از درآمد این شرکت ممکن است یک عدد تصادفی را مانند ۱۳٫۶ میلیارد دلار انتخاب کند. چتبات این پاسخ را قابل قبول میداند و به دروغ، مکرراً اصرار میکند که درآمد تسلا ۱۳٫۶ میلیارد دلار است و هیچ نشانهای از آگاهی داخلی مبنی بر اینکه این عدد، محصول تخیل خودش است، ندارد.
به نقل از فیوچریسم، این استراتژی ممکن است یک رویکرد خوب در یک امتحان باشد، اما هنگام ارائه توصیههای مهم در مورد موضوعاتی مانند مسائل پزشکی یا قانونی، بسیار خطرناک است.
شرکت «اوپن ایآی» ادعا میکند که یک راه حل ساده برای این چالش وجود دارد. این راهحل شامل تنظیم مجدد ارزیابیهاست، به گونهای که به خطاهای مطمئن امتیازی بیشتر از خطاهای نامطمئن بدهیم و به پاسخی با عدم اطمینان، امتیاز کمی بدهیم. با این حال، یک متخصص درباره این استراتژی هشدار میدهد، زیرا این رویکرد میتواند پیامدهای تجاری ویرانگری را به همراه داشته باشد.
«وی ژینگ»(Wei Xing)، سخنران «دانشگاه شفیلد»(Sheffield) و متخصص بهینهسازی هوش مصنوعی استدلال کرد: صنعت هوش مصنوعی از نظر اقتصادی، تشویق به انجام این تغییرات نخواهد شد، زیرا انجام این کار میتواند به طرز چشمگیری هزینهها را افزایش دهد. حتی اگر «چتجیپیتی» تنها ۳۰ درصد مواقع اعتراف کند که پاسخ را نمیداند، کاربران به سرعت ناامید شده و سراغ سامانههای دیگری میروند. کاربرانی که به دریافت پاسخهای مطمئن به هر سؤالی عادت کردهاند، احتمالاً چنین سامانههایی را به سرعت رها خواهند کرد.
موضوع خطرناکتر، اعتراف مکرر هوش مصنوعی به این است که نمیتواند به یک سؤال با درجه اطمینان کافی پاسخ دهد. این موضوع میتواند کاربران را که به پاسخی با اطمینان بالا علاقه دارند، حتی اگر در نهایت پاسخ نادرست باشد، دلسرد کند. افزایش هزینهها در این مقطع میتواند بسیار زیانبار باشد. شرکتهای هوش مصنوعی سرمایهگذاریهای زیادی کردهاند و زیرساختها را برای اجرای مدلهایی که به طور فزایندهای نیازمند برق هستند، گسترش دادهاند. به عبارت دیگر، افزایش هزینههای عملیاتی سرسامآور میتواند یکی دیگر از موانع اصلی برای شرکتهایی مانند «اوپن ایآی» باشد، زیرا آنها در تلاش هستند تا به سرمایهگذاران اطمینان دهند که یک مدل تجاری عملی در بلندمدت وجود دارد.
«ژینگ» در پژوهش خود نوشت: مدلهای هوش مصنوعی در حالی که رویکردهای اثبات شدهای برای سنجش عدم قطعیت وجود دارد، ممکن است نیاز به محاسبات بسیار بیشتر داشته باشند، زیرا آنها باید چندین پاسخ ممکن را ارزیابی کرده و سطوح قطعیت را تخمین بزنند. این برای سامانهای که میلیونها پرسوجو را روزانه پردازش میکند، به معنای هزینههای عملیاتی بالاتری است. راهحلهای پیشنهادی این شرکت ممکن است برای «توهم» سامانههایی که عملیات تجاری حیاتی یا زیرساختهای اقتصادی را مدیریت میکنند کارساز باشد، زیرا هزینه «توهم» به مراتب از هزینه وادار کردن مدلها به تصمیمگیری در مورد قطعیت مطالب، فراتر میرود.
وی افزود: با این حال، برنامههای کاربردی مصرفکننده همچنان اولویتهای توسعه هوش مصنوعی را تشکیل میدهند. کاربران به سامانههایی نیاز دارند که پاسخهایی مطمئن را به هر سؤالی ارائه دهد.
رسیدن به پاسخی نامطمئن با سرعت بیشتر برای شرکتها کم هزینهتر است و میتواند انگیزه برای رویکردی دقیق و مطمئن را کاهش دهد. مشخص نیست که این روند با ادامه تغییر نیروهای بازار و یافتن راههای کارآمدتر توسط شرکتها برای اجرای مدلهای هوش مصنوعی خود، چگونه پیش خواهد رفت، اما یک مسئله بعید است که تغییر کند؛ حدس زدن همیشه یک گزینه به مراتب اقتصادیتر و مقرونبهصرفهتر برای این شرکتها خواهد بود.
«ژینگ» در پایان مطالعه خود نوشت: به طور خلاصه، پژوهش شرکت «اوپن ایآی»، ناخواسته یک حقیقت ناخوشایند را برجسته میکند؛ انگیزههای تجاری که توسعه هوش مصنوعی را هدایت میکنند، اساساً با کاهش «توهم» همسو نیستند و تا زمانی که این انگیزهها تغییر نکنند، این اختلال در سامانهها ادامه خواهد داشت.
منبع : هوش مصنوعی
اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس
آیا هوش مصنوعی موجب مرگ خلاقیت میشود؟
مهلت ثبتنام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد
انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵
فهرست دانشگاههای خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد
اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری
پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل میشود
هواپیمای برقی چینی ۱۰ تنی به آسمان رفت
آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانشبنیان
دسترسی به داده های کاربران اندروید برای متا جریمه تراشید
حضرت زهرا(س)؛ از سوگواری تاریخی تا کنشگری در دفاع از امامت
امانت مشترک؛ مسئولیت شرعی شهروندان در حفظ اموال عمومی تا کجاست؟
آیا انسان امروز آزاد است؟ رؤیای دیرینه بشر و مسئله همیشگی اندیشه
قرائتی: مسجد را اسیر هزینههای سنگین و تجملگرایی نکنید
وقتی بدقولی از یک رفتار شخصی به مسئلهای اجتماعی تبدیل میشود
«مسلمانان در اتریش» کتاب شد
ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی
سرویسهای مایکروسافت احیا شدند
درخشش نخبگان ایرانی در مسابقات فناوریهای پیشرفته بریکس؛ کسب ۹ مدال
فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی
هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد
آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار میشود
رفع محدودیت مناطق ممنوعه برای تسهیل جذب دانشجویان بینالمللی
هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت
فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هستهای
نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال
شهادت یک مامور فراجا در سیستانوبلوچستان
رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود
استوری هادی چوپان برای حضرت زهرا(س)+عکس
ابداع یک آبنباتچوبی برای معاینه کودکان
نانوپوششها به کمک افزایش عمر لنتهای ترمز آمدند
دانشگاه باید از پارادایم «مدرکگرایی» به سمت «مهارتمحوری» حرکت کند
گاهی بزرگترین سرقت، دزدیدن فرصت زندگی دیگران است
تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی
جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد
شرایط ثبتنام پذیرفتهشدگان نوورود شاهد و ایثارگر
«پرواز ۶۵۵» دهنمکی به تدوین رسید
امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟
میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)
عامل هوش مصنوعی متا به جای کاربر تماس میگیرد
«پروانه الماس» بهترین فیلمنامه به «دختر پریخانوم» رسید
برد پیت ۵۰ سال عقب میرود؛ بازی در نقش یک فلزکار در آسمانها
مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی
جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن میرسد
حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند
مدیرعامل انویدیا استعفا کرد
یک کشف جدید از معادلات اینشتین درباره گرانش
۲ دنیای بکر پنهان در اقیانوس آرام کشف شد
این سیاره خورشیدی چرا گم شد؟
زمان اعلام نتایج نهایی آزمون سراسری مشخص شد
عدالت اجتماعی در دیدگاه اسلامی به معنای برابری مطلق نیست
همه عمار و مالکاشتر نیستند، اما هرکس در قبال حق مسئول است
برای جلوگیری از عادی شدن حرام، باید قبح اجتماعی آن را زنده کرد
کنش حضرت زهرا(س)، حقیقت را به حافظه تاریخ سپرد
بیش از ۶۰ درصد مدارس کشور را خیرین ساختند
توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان
روایتی از زندگی و میراث شهید حسن طهرانیمقدم در برنامه تلویزیونی «نردبان»
انتشار یک قطعه موسیقایی جدید به مناسبت شهادت حضرت زهرا (س)
تلاش نمایش «کورش» برای بازسازی اسطوره قهرمان و پیوندزدن گذشته با اکنون
آنچه کیهان کلهر درباره کتاب «بهجت الروح» گفت
دستنوشته رهبر شهید انقلاب برای تقدیر از شهید حسن طهرانی مقدم
تصویر منتشرشده در رسانهها تحت عنوان تست موشک در آسمان غرب تهران
ساخت نانوذرات دارویی ضدسرطان با نور خورشید در زمانی کوتاه
رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵
حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران
ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد
آغاز ثبتنام اعتکاف دانشآموزی ۱۴۰۵
اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند
روبات جدید گوگل آسیب نرساندن به کودکان را میآموزد
سند توسعه متوازن دانشگاههای علوم پزشکی در دست بازنگری قرار دارد
ثبتنام تکدروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز میشود
کشف سیاره ای که ناگهان ناپدید شد!
آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار میشود
تصویب ساماندهی مراکز تحقیقات و شبکههای تحقیقات و فناوری علوم پزشکی
دلایل افت رتبه دانشگاهها در رتبه بندیها چیست؟
مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد
چرا شناخت هوش هیجانی کودکان مهم است؟
زمزمههای استعفای مدیر انویدیا آغاز شد
«مواد و ساخت پیشرفته» پیشران اقتدار صنعتی و ارتقای تابآوری فناورانه
سناریوهای ورود با تأخیر دانشجویان نوورود گروه علوم پزشکی بررسی شد
تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد
دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند
تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام
زمان اعلام نتایج نهایی آزمون سراسری مشخص شد
تصویب ساماندهی مراکز تحقیقات و شبکههای تحقیقات و فناوری علوم پزشکی
قبل از خرید قطعات آسانسور این 7 نکته را بدانید
حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران
ثبتنام تکدروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز میشود
آغاز ثبتنام اعتکاف دانشآموزی ۱۴۰۵
ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی
این سیاره خورشیدی چرا گم شد؟
ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد
درخشش دانشآموزان البرزی با کسب ۱۵ مدال علمی
مکرون: هوش مصنوعی خطرناک باید برای کودکان ممنوع شود
مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش میکشد
دلایل افت رتبه دانشگاهها در رتبه بندیها چیست؟
سند توسعه متوازن دانشگاههای علوم پزشکی در دست بازنگری قرار دارد
فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی
چرا سهم شیر دانشآموزان به ۳۰ نوبت محدود شد؟
توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان
مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد
رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵
آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار میشود
آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار میشود
بیش از ۶۰ درصد مدارس کشور را خیرین ساختند
کشف سیاره ای که ناگهان ناپدید شد!
دانشگاه آزاد درباره عدم اعتبار بورسیههای متفرقه اطلاعیه داد
روبات جدید گوگل آسیب نرساندن به کودکان را میآموزد
اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند
برای شناخت دختر پیامبر(ص)، این ۱۰ کتاب را بخوانید
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.