به گزارش ثریا - پژوهشگران شرکت «اوپن ایآی»(OpenAI) در پژوهشی جدید اعلام کردند که دلیل رواج «توهم» مدلهای هوش مصنوعی را کشف کردهاند. این پدیدهای است که در آن سامانههایی مانند «چتجیپیتی»(ChatGPT) با اطمینان ادعاهایی را مطرح میکنند که واقعیت ندارند. آنها دریافتند که نحوه ارزیابی خروجی «مدلهای زبانی بزرگ»(LLM) مانند «چتجیپیتی»، برای خوب امتحان دادن بهینه شدهاند و حدس زدن در مواقع عدم قطعیت، عملکرد امتحان را بهبود میبخشد. به زبان ساده، سازندگان هوش مصنوعی آنها را ترغیب میکنند به جای اینکه اعتراف کنند پاسخ را نمیدانند، آن را حدس بزنند.
«توهم» یا «توهم مصنوعی» در هوش مصنوعی، یک پاسخ مطمئن توسط هوش مصنوعی است که به نظر نمیرسد با دادههای آموزشی آن توجیه شود. توهم هوش مصنوعی یک خروجی هوش مصنوعی مولد است که بیمعنی یا کاملاً نادرست است، اما اغلب اوقات کاملاً قابل قبول به نظر میرسد. برای مثال، یک چتبات در پاسخ به سؤال میزان درآمد تسلا با «توهم» و بدون اطلاع از درآمد این شرکت ممکن است یک عدد تصادفی را مانند ۱۳٫۶ میلیارد دلار انتخاب کند. چتبات این پاسخ را قابل قبول میداند و به دروغ، مکرراً اصرار میکند که درآمد تسلا ۱۳٫۶ میلیارد دلار است و هیچ نشانهای از آگاهی داخلی مبنی بر اینکه این عدد، محصول تخیل خودش است، ندارد.
به نقل از فیوچریسم، این استراتژی ممکن است یک رویکرد خوب در یک امتحان باشد، اما هنگام ارائه توصیههای مهم در مورد موضوعاتی مانند مسائل پزشکی یا قانونی، بسیار خطرناک است.
شرکت «اوپن ایآی» ادعا میکند که یک راه حل ساده برای این چالش وجود دارد. این راهحل شامل تنظیم مجدد ارزیابیهاست، به گونهای که به خطاهای مطمئن امتیازی بیشتر از خطاهای نامطمئن بدهیم و به پاسخی با عدم اطمینان، امتیاز کمی بدهیم. با این حال، یک متخصص درباره این استراتژی هشدار میدهد، زیرا این رویکرد میتواند پیامدهای تجاری ویرانگری را به همراه داشته باشد.
«وی ژینگ»(Wei Xing)، سخنران «دانشگاه شفیلد»(Sheffield) و متخصص بهینهسازی هوش مصنوعی استدلال کرد: صنعت هوش مصنوعی از نظر اقتصادی، تشویق به انجام این تغییرات نخواهد شد، زیرا انجام این کار میتواند به طرز چشمگیری هزینهها را افزایش دهد. حتی اگر «چتجیپیتی» تنها ۳۰ درصد مواقع اعتراف کند که پاسخ را نمیداند، کاربران به سرعت ناامید شده و سراغ سامانههای دیگری میروند. کاربرانی که به دریافت پاسخهای مطمئن به هر سؤالی عادت کردهاند، احتمالاً چنین سامانههایی را به سرعت رها خواهند کرد.
موضوع خطرناکتر، اعتراف مکرر هوش مصنوعی به این است که نمیتواند به یک سؤال با درجه اطمینان کافی پاسخ دهد. این موضوع میتواند کاربران را که به پاسخی با اطمینان بالا علاقه دارند، حتی اگر در نهایت پاسخ نادرست باشد، دلسرد کند. افزایش هزینهها در این مقطع میتواند بسیار زیانبار باشد. شرکتهای هوش مصنوعی سرمایهگذاریهای زیادی کردهاند و زیرساختها را برای اجرای مدلهایی که به طور فزایندهای نیازمند برق هستند، گسترش دادهاند. به عبارت دیگر، افزایش هزینههای عملیاتی سرسامآور میتواند یکی دیگر از موانع اصلی برای شرکتهایی مانند «اوپن ایآی» باشد، زیرا آنها در تلاش هستند تا به سرمایهگذاران اطمینان دهند که یک مدل تجاری عملی در بلندمدت وجود دارد.
«ژینگ» در پژوهش خود نوشت: مدلهای هوش مصنوعی در حالی که رویکردهای اثبات شدهای برای سنجش عدم قطعیت وجود دارد، ممکن است نیاز به محاسبات بسیار بیشتر داشته باشند، زیرا آنها باید چندین پاسخ ممکن را ارزیابی کرده و سطوح قطعیت را تخمین بزنند. این برای سامانهای که میلیونها پرسوجو را روزانه پردازش میکند، به معنای هزینههای عملیاتی بالاتری است. راهحلهای پیشنهادی این شرکت ممکن است برای «توهم» سامانههایی که عملیات تجاری حیاتی یا زیرساختهای اقتصادی را مدیریت میکنند کارساز باشد، زیرا هزینه «توهم» به مراتب از هزینه وادار کردن مدلها به تصمیمگیری در مورد قطعیت مطالب، فراتر میرود.
وی افزود: با این حال، برنامههای کاربردی مصرفکننده همچنان اولویتهای توسعه هوش مصنوعی را تشکیل میدهند. کاربران به سامانههایی نیاز دارند که پاسخهایی مطمئن را به هر سؤالی ارائه دهد.
رسیدن به پاسخی نامطمئن با سرعت بیشتر برای شرکتها کم هزینهتر است و میتواند انگیزه برای رویکردی دقیق و مطمئن را کاهش دهد. مشخص نیست که این روند با ادامه تغییر نیروهای بازار و یافتن راههای کارآمدتر توسط شرکتها برای اجرای مدلهای هوش مصنوعی خود، چگونه پیش خواهد رفت، اما یک مسئله بعید است که تغییر کند؛ حدس زدن همیشه یک گزینه به مراتب اقتصادیتر و مقرونبهصرفهتر برای این شرکتها خواهد بود.
«ژینگ» در پایان مطالعه خود نوشت: به طور خلاصه، پژوهش شرکت «اوپن ایآی»، ناخواسته یک حقیقت ناخوشایند را برجسته میکند؛ انگیزههای تجاری که توسعه هوش مصنوعی را هدایت میکنند، اساساً با کاهش «توهم» همسو نیستند و تا زمانی که این انگیزهها تغییر نکنند، این اختلال در سامانهها ادامه خواهد داشت.
منبع : هوش مصنوعی
۴۸ هزار بازمانده از تحصیل به مدرسه بازگشتند
توزیع رایگان شیر و تغذیه در مدارس دولتی ابلاغ شد
پیام تسلیت حجتالاسلام رستمی در پی ارتحال آیتالله شبیری زنجانی
۲۵۰۰ دانشجو در سراسر کشور وام شرافتی دریافت میکنند
لغو ممنوعیت انتقال دانشجویان کارشناسی ارشد و دکتری تخصصی علوم پزشکی
شرایط تخصیص خوابگاههای متأهلی اعلام شد
شیوه پرداخت یارانه دانشجویی تغذیه اعلام شد
عدم امکان تمدید زمان انتخاب رشته محل پنجاهوسومین آزمون دستیاری پزشکی
در آغوش فرشتهها
تحصن ۳ روزه اعضای هیئتعلمی در اعتراض به بلاتکلیفی کدهای استخدامی
آغاز حضوری کلاسهای دانشگاه شریف از ۴ مهرماه
سرپرست دانشگاه ملی مهارت منصوب شد
دبیرشورای عالی انقلاب فرهنگی درگذشت آیتالله شبیری زنجانی را تسلیت گفت
نگاهی به زندگی آیت الله شبیری زنجانی؛ مجاهدت در مسیر رشد حوزه
روایت پدر آیت الله شبیری زنجانی از آثار منع زکات و قحطی زنجان
تعطیلی حوزه علمیه نجف در پی درگذشت آیتالله العظمی شبیری زنجانی
هشتاد و دومین شعبه خودرو۴۵ در ستارخان تهران افتتاح شد
صدرنشینی پژوهشگاه ملی سرطان جهاددانشگاهی در بین مراکز تحقیقات پزشکی
سازماندهی اطلاعات ۴۰ هزار پایاننامه ایرانیان خارج از کشور در ایرانداک
سرپرست پارک علم و فناوری فارس منصوب شد
دلتنگ لبخند آقای شهیدیم...
دلیل تأخیر در بازنگری نقشه جامع علمی از زبان دبیر شورای عالی انقلاب فرهنگی
دارویی که تمام نشانگرهای سرطان را از بین برد
بارش بیشتر باران باعث از بین رفتن خشکسالی میشود؟
اولین پرواز مداری «استارشیپ» به تعویق افتاد
تصویر وایرال شده از سرباز اوکراینی
اپل، سامسونگ و گوگل متهم به نقض پتنت صدای فضایی
۸۴ دانشآموز و ۱۸ معلم تهرانی در دو جنگ اخیر به شهادت رسیدند
تغییر کتابهای درسی پایه اول؛ از فارسی تا ریاضی
وزیر آموزش و پرورش: دریافت وجه هنگام ثبتنام مدارس دولتی ممنوع است
۱۵۰۷ فضای آموزشی در جنگ دچار آسیب شد
«دلیران» اولین مستندمسابقه برای کودکان است/ پخش از شبکه کودک
انیمیشن ایرانی «سفینه نجات» امیدبخش است
رونمایی از یک صدای گمشده در کنسرت سازهای ایرانی بنیاد رودکی
راویان جنگ رمضان در رادیو صبا تجلیل میشوند
نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد
فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد
برگزیدگان بیستمین دوره مسابقات ربوکاپ آزاد ایران معرفی شدند
اوپن ای آی هم هک شد
تأکید رئیس دانشگاه تهران و سفیر پاکستان بر تقویت دیپلماسی علمی
ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاهها در مقاطع مختلف
اعلام ۱۰ اولویت پژوهشی برای اتصال ریلی چین به اروپا از مسیر ایران
فراخوان اولویتهای پژوهشی و فناوری سازمان سنجش آموزش کشور منتشر شد
کلاسهای دانشگاههای غیردولتی غیرانتفاعی حضوری برگزار میشود
روایت ۲۰۰ شب استقامت تاریخی در ایران
«انسان و حیوان»؛ گفتگوی کشیشی مسیحی و روحانی مسلمان درباره اخلاق
آیا «الگوریتمها» ما را از نو می سازند!؟ چالش انسان عصر دیجیتال
لیگهای صنعتی ربوکاپ از سال آینده راه اندازی میشود
عرضه دستاوردهای شرکتهای دانشبنیان در نمایشگاه فناوریهای پیشرفته چین
تأکید بر پرورش نسلی دانا، اخلاقمدار و پاسخگو به نیازهای جامعه
هوش چینی در یک وب سایت دولتی آمریکا
نخستین اختراع کشور در زمینه سلول زیستی خورشیدی
امام حسن عسکری(ع) چگونه شیعه را برای عصر غیبت آماده کرد؟
روایتی از نخستین شاهدان تولد امام زمان(عج)؛ مهمترین اقدام امام عسکری
افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا
مهلت مجدد ثبتنام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه
سال تحصیلی دانشگاهها از امروز آغاز شد
تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد
آغاز ثبتنام نوزدهمین همایش جامع «انتخاب شریف»
رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه میتواند بحرانساز باشد
یادداشت کمتردیدهشدهٔ رهبر شهید خطاب به جانبازان حزبالله جنایت پیجری
زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد
تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵
فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد
محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگهای اخیر بازنگری میشود
نگرشی نو به حفظ قرآن در مدارس، محور چهارمین همایش ایدهپردازان قرآنی
وطندوستی در نگاه اسلام فضیلت است یا تعصب؟
تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جانفدایان
حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جانفدا
حضور مقتدرانه بانوان کلاهکج در رزمایش جانفدا
حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا
فراخوان ارسال مقالات به همایش اربعین در مکتب امام شهید
خبرنگار آمریکایی: گازوییل در فلوریدا و تگزاس تمام شده است+عکس
براساس قواعد فقهی تنظیم گری فضای مجازی ضروری است
نرخ اجارهبهای خوابگاههای دانشجویی در سال جدید اعلام شد+عکس
جانفدایان مسلح به شمشیر و کاتانا
دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی
برگزاری صد و نود و ششمین شب شعر طنز «در حلقه رندان»
فانوس دریایی ادبیات کودک؛ ۸۲ سالگی خالق قصههای مجید
رمزگشایی از یک مشکل رایج اجتماع؛چرا یکدیگر را به آسانی قضاوت می کنیم؟
فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد
تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵
محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگهای اخیر بازنگری میشود
مهلت مجدد ثبتنام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه
سال تحصیلی دانشگاهها از امروز آغاز شد
افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا
رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه میتواند بحرانساز باشد
حمایت از فلسطین باعث حذف رپر مشهور شد
یادداشت کمتردیدهشدهٔ رهبر شهید خطاب به جانبازان حزبالله جنایت پیجری
آغاز ثبتنام نوزدهمین همایش جامع «انتخاب شریف»
از علیرضا طبایی «باید به آفتاب بگویم»
معرفی بهترین برنامههای تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد
حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا
تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد
نوجوان را دستِ کدام کتاب بسپاریم؟
روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا
فیلم ۱۰۰ جشنواره ایدههاست، روایت فیلمسازان جوان از جنگ در بستر زندگی
غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل میدهد؟
زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد
ادبیات پایداری روایتی مویرگی از زندگی است
ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاهها در مقاطع مختلف
فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد
تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جانفدایان
چه کسی گفته است قهرمانها فقط در خط مقدم ساخته میشوند؟
دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی
نرخ اجارهبهای خوابگاههای دانشجویی در سال جدید اعلام شد+عکس
مدادهایی که بعد از تمام شدن، سبز میشوند
نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد
حضور مقتدرانه بانوان کلاهکج در رزمایش جانفدا
حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جانفدا
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.