کد خبر: 166143
ف
چت‌جی‌پی‌تی با یک سؤال ساده دچار سکته مغزی شد!
کاربران «چت‌جی‌پی‌تی»(ChatGPT) متوجه شدند زمانی که یک سؤال خاص را از این چت‌بات می‌پرسند، از کار می‌افتد.

به گزارش ثریا -  تقریباً دو ماه از انتشار نسخه به‌روزشده «چت‌جی‌پی‌تی» با نام «GPT-۵» که قرار بود هوشی در سطح دکترا به آن ببخشد و آن را یک قدم به هدف بلندپروازانه هوش مصنوعی عمومی نزدیک‌تر کند، می‌گذرد، اما این چت‌بات همچنان در پاسخ به پرسش‌های ساده و کاملاً بی‌ضرر، به طرز عجیبی از کار می‌افتد.

طرفداران این هوش مصنوعی متوجه شدند که پرسیدن این سؤال که «آیا تیم "لیگ ملی فوتبال"(NFL) وجود دارد که نامش با حرف "اس"(s) تمام نشود؟»، این چت‌بات را به یک فروپاشی طولانی‌مدت سوق می‌دهد و می‌توانید شاهد باشید که توانایی‌های استدلالی فوق‌العاده‌اش در لحظه به آشفتگی تبدیل می‌شود.

به نقل از فیوچریسم، چت‌بات «چت‌جی‌پی‌تی» محصول شرکت «اوپن ای‌آی»(openAI) در پاسخ به این سؤال می‌گوید: بله، دو تیم «NFL» هستند که نامشان با حرف «s» تمام نمی‌شود. سپس شروع به فهرست کردن دو تیمی می‌کند که نامشان با «s» تمام می‌شود. این روش عجیبی برای پاسخ به این سؤال است. «چت‌جی‌پی‌تی» به درستی تشخیص می‌دهد که نام آن تیم‌ها با «s» تمام می‌شود، اما چرا آنها را مطرح می‌کند؟

به نظر می‌رسد که این چت‌بات تا زمانی که دوباره از مسیر خارج می‌شود، می‌خواهد به اصل مطلب بپردازد. این سامانه در ادامه جواب می‌گوید: تنها دو تیمی که با حرف «s» تمام نمی‌شوند عبارتند از «میامی دلفینز»(Miami Dolphins)، نه صبر کنید، با «s» تمام می‌شود. صبر کنید، بیایید این کار را با دقت انجام دهیم. در واقع، پاسخ صحیح «واشنگتن کامندرز»(Washington Commanders) است که با «s» تمام می‌شود. «شیکاگو بیرز»(Chicago Bears) نیز با «s» تمام می‌شود.

همانطور که مشاهده می‌کنید، «چت‌جی‌پی‌تی» اشتباه خود را در پاسخ به این سؤالات می‌فهمد، اما این چت‌بات برای چندین پاراگراف دیگر به همین روند ادامه می‌دهد و هرگز به پاسخ صحیح نمی‌رسد.

پاسخ صحیح این سؤال این است که هیچ تیمی وجود ندارد که نامش با «s» تمام نشود. این سامانه مانند یک دانش‌آموز در زمانی که تلاش می‌کند تعداد کلمات را بشمارد، جزئیات بی‌ربط را مطرح می‌کند و در عین حال نتیجه‌گیری را به تعویق می‌اندازد. این سامانه همچنین عباراتی مانند «صبر کنید، بیایید این کار را با دقت انجام دهیم» را به کار می‌برد تا به نظر برسد واقعاً در حال تفکر عمیق است. ترفند چت‌جی‌پی‌تی با جمله «پاسخ صحیح این است» برای کاربران قدیمی شده است.

کاربران دیگر مثال‌هایی را منتشر کردند که در آنها «چت‌جی‌پی‌تی» در نهایت پاسخ صحیح را می‌دهد، اما تنها پس از اینکه کاربر را با یک سخنرانی به همین ترتیب گیج‌کننده به دنبال خود می‌کشاند. این اولین باری نیست که این چت‌بات با یک سؤال ساده به مشکل می‌خورد یا حتی به این شکل از کار می‌افتد. کاربران این چت‌بات در اوایل همین ماه متوجه شدند که پرسیدن این سؤال که آیا ایموجی اسب دریایی افسانه‌ای وجود دارد یا خیر، این چت‌بات را به بحران منطق سوق می‌دهد.

«چت‌جی‌پی‌تی» با وجود اینکه این موجود آبزی هرگز بخشی از فرهنگ لغت رسمی ایموجی‌ها نبوده است، اصرار داشت که این موجود واقعی است و این نشان‌ دهنده‌ تلاش‌های پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد. اگر هوش مصنوعی بتواند باشخصیت و انسان‌نما ظاهر شود و کاربران را متقاعد کند که برای اطلاعات بیشتر به آن مراجعه کنند، تحریف چند واقعیت اهمیت زیادی ندارد. احتمالاً تنها عاملی که باید سرزنش شود، چاپلوسی نیست. نسخه «GPT-۵» یک مدل استدلالی ترکیبی است که برای درخواست‌های ساده، سبک و برای سؤالات دشوار، سنگین است.

آنچه احتمالاً در اینجا اتفاق می‌افتد، این است که مدل با سؤالی دچار چالش شده است که واقعاً نمی‌تواند از پس آن برآید. این پویایی همراه با اختلال، یکی از دلایلی است که طرفداران از راه‌اندازی «GPT-۵» ناامید و در بسیاری از موارد، خشمگین شدند. در هر صورت، این بهانه ضعیفی است و اگر هوش مصنوعی در پاسخ به چنین سؤال ساده‌ای نیاز به استفاده از تمام قدرت خود داشته باشد، پس شاید در مسیر پیشی گرفتن از هوش انسانی نباشد.

منبع : هوش مصنوعی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس

فرصت مجدد ثبت‌نام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی

کاهش ۲۵درصدی جمعیت دانشجویی

دانشگاه‌ها باید اتکایشان را به منابع دولتی کاهش دهند

حجت‌الاسلام خسروپناه خواستار کوچک‌سازی وزارت علوم و واگذاری اختیار به دانشگاه‌ها شد

طرح «قاضی در مدرسه» در ۱۳۵ مدرسه استان سمنان اجرا می‌شود

«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه

واکاوی نسبت فلسفه و معنویت در اندیشه علامه طباطبایی

گلی به جمال سرباز روح الله رضوی که ساعتش را به وقت ایران تنظیم کرد

انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی

تلگرام در عراق فیلتر شد

حذف ۲ اپ کاربردی از موبایل‌های سامسونگ

چرایی عدم دسترسی برخی دانش آموزان به کتاب درسی

بازاریان و فعالان اقتصادی مهدیشهری به مدرسه سازی دعوت شدند

فعالیت مراکز آموزشی ۵ شهرستان خوزستان سه‌شنبه غیرحضوری شد

مسئولیت اعلام تعطیلی مدارس تهران به آموزش‌وپرورش واگذار شد

نتایج کنکور تا روز پنجشنبه اعلام می‌شود

۳ پیش‌نیاز تحقق خیزش علمی جدید

خوانشی بر رسانه فاطمی، از تبیین حضور تا اعتراض سکوت

آپارتمان‌های قم در زمان امام عسکری (ع)

اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس

آیا هوش مصنوعی موجب مرگ خلاقیت می‌شود؟

مهلت ثبت‌نام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد

انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵

فهرست دانشگاه‌های خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد

اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری

پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل می‌شود

هواپیمای برقی چینی ۱۰ تنی به آسمان رفت

آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانش‌بنیان

دسترسی به داده های کاربران اندروید برای متا جریمه تراشید

حضرت زهرا(س)؛ از سوگواری تاریخی تا کنشگری در دفاع از امامت

امانت مشترک؛ مسئولیت شرعی شهروندان در حفظ اموال عمومی تا کجاست؟

آیا انسان امروز آزاد است؟ رؤیای دیرینه بشر و مسئله همیشگی اندیشه

قرائتی: مسجد را اسیر هزینه‌های سنگین و تجمل‌گرایی نکنید

وقتی بدقولی از یک رفتار شخصی به مسئله‌ای اجتماعی تبدیل می‌شود

«مسلمانان در اتریش» کتاب شد

ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی

سرویس‌های مایکروسافت احیا شدند

درخشش نخبگان ایرانی در مسابقات فناوری‌های پیشرفته بریکس‌؛ کسب ۹ مدال

فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی

هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد

آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار می‌شود

رفع محدودیت مناطق ممنوعه برای تسهیل جذب دانشجویان بین‌المللی

هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت

فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هسته‌ای

نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال

شهادت یک مامور فراجا در سیستان‌وبلوچستان

رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود

استوری هادی چوپان برای حضرت زهرا(س)+عکس

ابداع یک آبنبات‌چوبی برای معاینه کودکان

نانوپوشش‌ها به کمک افزایش عمر لنت‌های ترمز آمدند

دانشگاه باید از پارادایم «مدرک‌گرایی» به سمت «مهارت‌محوری» حرکت کند

گاهی بزرگترین سرقت، دزدیدن فرصت زندگی دیگران است

تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی

جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد

شرایط ثبت‌نام پذیرفته‌شدگان نوورود شاهد و ایثارگر

«پرواز ۶۵۵» ده‌نمکی به تدوین رسید

امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟

میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)

عامل هوش مصنوعی متا به جای کاربر تماس می‌گیرد

«پروانه الماس» بهترین فیلمنامه به «دختر پری‌خانوم» رسید

برد پیت ۵۰ سال عقب می‌رود؛ بازی در نقش یک فلزکار در آسمان‌ها

مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی

جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن می‌رسد

حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند

مدیرعامل انویدیا استعفا کرد

یک کشف جدید از معادلات اینشتین درباره گرانش

۲ دنیای بکر پنهان در اقیانوس آرام کشف شد

این سیاره خورشیدی چرا گم شد؟

زمان اعلام نتایج نهایی آزمون سراسری مشخص شد

عدالت اجتماعی در دیدگاه اسلامی به معنای برابری مطلق نیست

همه عمار و مالک‌اشتر نیستند، اما هرکس در قبال حق مسئول‌ است

برای جلوگیری از عادی شدن حرام، باید قبح اجتماعی آن را زنده کرد

کنش حضرت زهرا(س)، حقیقت را به حافظه تاریخ سپرد

بیش از ۶۰ درصد مدارس کشور را خیرین ساختند

توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان

روایتی از زندگی و میراث شهید حسن طهرانی‌مقدم در برنامه تلویزیونی «نردبان»

انتشار یک قطعه موسیقایی جدید به مناسبت شهادت حضرت زهرا (س)

تلاش نمایش «کورش» برای بازسازی اسطوره قهرمان و پیوندزدن گذشته با اکنون

آنچه کیهان کلهر درباره کتاب «بهجت الروح» گفت

زمان اعلام نتایج نهایی آزمون سراسری مشخص شد

تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی

حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران

ثبت‌نام تک‌دروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز می‌شود

ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی

آغاز ثبت‌نام اعتکاف دانش‌آموزی ۱۴۰۵

ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد

این سیاره خورشیدی چرا گم شد؟

انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵

مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش می‌کشد

درخشش دانش‌آموزان البرزی با کسب ۱۵ مدال علمی

فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی

چرا سهم شیر دانش‌آموزان به ۳۰ نوبت محدود شد؟

بیش از ۶۰ درصد مدارس کشور را خیرین ساختند

مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد

دلایل افت رتبه دانشگاه‌ها در رتبه بندی‌ها چیست؟

سند توسعه متوازن دانشگاه‌های علوم پزشکی در دست بازنگری قرار دارد

آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار می‌شود

رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵

اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری

توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان

آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار می‌شود

دانشگاه آزاد درباره عدم اعتبار بورسیه‌های متفرقه اطلاعیه داد

روایتی از زندگی و میراث شهید حسن طهرانی‌مقدم در برنامه تلویزیونی «نردبان»

یک کشف جدید از معادلات اینشتین درباره گرانش

روبات جدید گوگل آسیب نرساندن به کودکان را می‌آموزد

اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند

نهضت مدرسه‌سازی خوزستان تا مهر ۱۴۰۷ به سرانجام می‌رسد

کشف سیاره ای که ناگهان ناپدید شد!

تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی