به گزارش ثریا - تقریباً دو ماه از انتشار نسخه بهروزشده «چتجیپیتی» با نام «GPT-۵» که قرار بود هوشی در سطح دکترا به آن ببخشد و آن را یک قدم به هدف بلندپروازانه هوش مصنوعی عمومی نزدیکتر کند، میگذرد، اما این چتبات همچنان در پاسخ به پرسشهای ساده و کاملاً بیضرر، به طرز عجیبی از کار میافتد.
طرفداران این هوش مصنوعی متوجه شدند که پرسیدن این سؤال که «آیا تیم "لیگ ملی فوتبال"(NFL) وجود دارد که نامش با حرف "اس"(s) تمام نشود؟»، این چتبات را به یک فروپاشی طولانیمدت سوق میدهد و میتوانید شاهد باشید که تواناییهای استدلالی فوقالعادهاش در لحظه به آشفتگی تبدیل میشود.
به نقل از فیوچریسم، چتبات «چتجیپیتی» محصول شرکت «اوپن ایآی»(openAI) در پاسخ به این سؤال میگوید: بله، دو تیم «NFL» هستند که نامشان با حرف «s» تمام نمیشود. سپس شروع به فهرست کردن دو تیمی میکند که نامشان با «s» تمام میشود. این روش عجیبی برای پاسخ به این سؤال است. «چتجیپیتی» به درستی تشخیص میدهد که نام آن تیمها با «s» تمام میشود، اما چرا آنها را مطرح میکند؟
به نظر میرسد که این چتبات تا زمانی که دوباره از مسیر خارج میشود، میخواهد به اصل مطلب بپردازد. این سامانه در ادامه جواب میگوید: تنها دو تیمی که با حرف «s» تمام نمیشوند عبارتند از «میامی دلفینز»(Miami Dolphins)، نه صبر کنید، با «s» تمام میشود. صبر کنید، بیایید این کار را با دقت انجام دهیم. در واقع، پاسخ صحیح «واشنگتن کامندرز»(Washington Commanders) است که با «s» تمام میشود. «شیکاگو بیرز»(Chicago Bears) نیز با «s» تمام میشود.
همانطور که مشاهده میکنید، «چتجیپیتی» اشتباه خود را در پاسخ به این سؤالات میفهمد، اما این چتبات برای چندین پاراگراف دیگر به همین روند ادامه میدهد و هرگز به پاسخ صحیح نمیرسد.
پاسخ صحیح این سؤال این است که هیچ تیمی وجود ندارد که نامش با «s» تمام نشود. این سامانه مانند یک دانشآموز در زمانی که تلاش میکند تعداد کلمات را بشمارد، جزئیات بیربط را مطرح میکند و در عین حال نتیجهگیری را به تعویق میاندازد. این سامانه همچنین عباراتی مانند «صبر کنید، بیایید این کار را با دقت انجام دهیم» را به کار میبرد تا به نظر برسد واقعاً در حال تفکر عمیق است. ترفند چتجیپیتی با جمله «پاسخ صحیح این است» برای کاربران قدیمی شده است.
کاربران دیگر مثالهایی را منتشر کردند که در آنها «چتجیپیتی» در نهایت پاسخ صحیح را میدهد، اما تنها پس از اینکه کاربر را با یک سخنرانی به همین ترتیب گیجکننده به دنبال خود میکشاند. این اولین باری نیست که این چتبات با یک سؤال ساده به مشکل میخورد یا حتی به این شکل از کار میافتد. کاربران این چتبات در اوایل همین ماه متوجه شدند که پرسیدن این سؤال که آیا ایموجی اسب دریایی افسانهای وجود دارد یا خیر، این چتبات را به بحران منطق سوق میدهد.
«چتجیپیتی» با وجود اینکه این موجود آبزی هرگز بخشی از فرهنگ لغت رسمی ایموجیها نبوده است، اصرار داشت که این موجود واقعی است و این نشان دهنده تلاشهای پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد. اگر هوش مصنوعی بتواند باشخصیت و انساننما ظاهر شود و کاربران را متقاعد کند که برای اطلاعات بیشتر به آن مراجعه کنند، تحریف چند واقعیت اهمیت زیادی ندارد. احتمالاً تنها عاملی که باید سرزنش شود، چاپلوسی نیست. نسخه «GPT-۵» یک مدل استدلالی ترکیبی است که برای درخواستهای ساده، سبک و برای سؤالات دشوار، سنگین است.
آنچه احتمالاً در اینجا اتفاق میافتد، این است که مدل با سؤالی دچار چالش شده است که واقعاً نمیتواند از پس آن برآید. این پویایی همراه با اختلال، یکی از دلایلی است که طرفداران از راهاندازی «GPT-۵» ناامید و در بسیاری از موارد، خشمگین شدند. در هر صورت، این بهانه ضعیفی است و اگر هوش مصنوعی در پاسخ به چنین سؤال سادهای نیاز به استفاده از تمام قدرت خود داشته باشد، پس شاید در مسیر پیشی گرفتن از هوش انسانی نباشد.
منبع : هوش مصنوعی
جدایی متا از شریک چینی جنجالی کلید خورد
احتمال اعمال محدودیت دوباره بر اینترنت بینالملل وجود دارد؟
خدمات ابری گوگل در هند مختل شد
اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
هشدار قالیباف به ترامپ و دیگر رهبران جهان+عکس
حجتالاسلام قمی: زبان در وصف شما مردم مبعوث شده قاصر است
طرح روضههای خانگی سدره به مناسبت ماه محرم آغاز به کار کرد
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید
زیرساخت حقیقی این سرزمین، تمدن کهن، فرهنگ و هنر ماندگارش است
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
اقتدار دفاعی ایران، ایدهای نو در بازیهای رومیزی
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
آئین اختتامیه روایت علوی برگزار شد
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
پویش «ایران در پناه قرآن» تا پایان خرداد تمدید شد
برگزاری نمایشگاه معماری حرمین شریفین در مکه مکرمه
حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ
آیا در جنگ هرکاری مجاز است؟ نگاهی به اخلاق در میدان نبرد
تأثیر سوابق پایه یازدهم در کنکور ۱۴۰۵ مثبت شد / ۶ درس نهایی برای کنکور
راز حذف زمینههای فلسفی «یوگا» در نسخه مدرن
آذینبندی و شادیهای عمومی باید به عنوان مدخل معرفت باشد
فرایند محدودیت در اینترنت شفاف میشود؛ ماجرای اینترنت پرو و خط سفید چه بود؟
۷۸ درصد ترافیک اینترنت به حالت قبل و اول دی ماه بازگشت
آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه
مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است
تداوم فعالیت علمی دانشگاه شهید بهشتی با وجود آسیب در جنگ
ضیافت نور در آسمان خرداد؛ دیدار دو سیاره منظومه شمسی در آسمان ایران
نسخه جدید چتجیپیتی؛ از تولید عکس تا رزرو سفر در یک پنجره
مهلت دفاع از پایان نامه دستیاران پزشکی تا پایان آذر ۱۴۰۵ تمدید شد
حضوری شدن برخی امتحانات دانشگاه علم و صنعت در مقطع کارشناسی
ایران در جمع ۶ کشور دارای توان ساخت تجهیزات پیشرفته کرایوژنیک
چرا نقش استادان دانشگاه فراتر از کلاس درس است؟
انویدیا با غولهای فناوری کره جنوبی قرارداد بست
هوش مصنوعی زلزله یاب شد
ثبتنام خودکار ۸۵ درصد دانشآموزان ابتدایی در استان سمنان
فعالیت ۳۷ هزار سفیر سلامت دانشآموزی
هفته بینالمللی قرآن در کربلا افتتاح شد
چرا روابط فیلم «تهران کنارت» در سطح ماند؟
ولایت فقیه یک هویت تمدنی و تاریخی برای ملت ایران است
تأکید رئیس جهاددانشگاهی بر رفع موانع دیوانسالاری و بازگشت به شورای عالی انقلاب فرهنگی
دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعالتر جهاد دانشگاهی صادر میشود
دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاهها
دستگاههای اجرایی ملزم به استفاده از پیامرسانهای بومی شدند
طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بینظیر
پیش ثبتنام الکامپ ۲۹ آغاز شد
امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانشآموختگان فراهم شد
اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵
جزئیات احکام انضباطی دانشجویان در ایمیل معاون دانشجویی دانشگاه شریف به اساتید
امتحانات دانشگاه علمی کاربردی غیرحضوری شد
امام در اصول فقه به «عرف عقلایی» اهمیت میداد
خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند
موقوفات چطور به حل مشکلات اقتصادی ورود کردهاند؟
زندگی امام موسی کاظم (ع) تابلویی تمامعیار از مدیریت بحران و کادرسازی دینی است
بازیگر معروف ایرانی نقش ترامپ را بازی میکند+عکس
بیوک میرزایی: محبت مردم بزرگترین سرمایه یک هنرمند است
متن جدید امیرحسین قیاسی در حمایت از ایران و در واکنش به جنگ
آیتالله مبلغی: نخستین ثمره استقامت، گشایش راهها و شکستن بنبستهاست
ثبت نام ۲ هزار هیئت جدید در سامانه عطر سیب/ رویکرد نمایشگاه امسال خانواده محور است
خدمترسانی موکب ها به زائران عید غدیر در نجف اشرف
روایتی از بزرگترین وقف درمانی تهران در کتاب «میراث فرمانفرما»
آخرین حضور و غیاب کودکان شهید میناب با حضور پرویز پرستویی
بازیگر معروف فیلم پدرخوانده ترامپ را ظالم و فاسد خواند
روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف
آنچه سیاهچالهای عباسی درباره امام کاظم(ع) پنهان نکردند
چرا روایت ماکان نصیری از صدها گزارش خبری اثرگذارتر شد؟
کتاب صمود روایتی از دردی که از دور فهمیده نمیشود
امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم میشود
ترس اروپا از خاموشی دیجیتال شدت گرفت
قائم مقام دبیر شورای عالی انقلاب فرهنگی منصوب شد
امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانشآموختگان فراهم شد
طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بینظیر
دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعالتر جهاد دانشگاهی صادر میشود
دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاهها
بیوک میرزایی: محبت مردم بزرگترین سرمایه یک هنرمند است
حمایت جدی دانشگاه آزاد از دانشجویان دکتری؛ دستورالعمل پژوهشی نیمسال ۱۴۰۴۲ آمد
هوش مصنوعی افکار رئیس جمهور چین را ترویج میکند
ترس اروپا از خاموشی دیجیتال شدت گرفت
کتاب صمود روایتی از دردی که از دور فهمیده نمیشود
مساله وطن در صدای علیرضا قربانی و نجابتِ اندوه در آهنگ جدید او
امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم میشود
بازیگر معروف ایرانی نقش ترامپ را بازی میکند+عکس
انویدیا با غولهای فناوری کره جنوبی قرارداد بست
امتحانات دانشگاه علمی کاربردی غیرحضوری شد
بزرگترین وداع قرن برای امام امت/ بدرقهای به وسعت ایران
خط فارسی، مرجعیت علمی ایران را منطقهای میکند
امام در اصول فقه به «عرف عقلایی» اهمیت میداد
شورای عالی انقلاب فرهنگی: تغییری در تأثیر قطعی معدل کنکور امسال نداریم
قائم مقام دبیر شورای عالی انقلاب فرهنگی منصوب شد
اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵
آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه
چرا روایت ماکان نصیری از صدها گزارش خبری اثرگذارتر شد؟
موقوفات چطور به حل مشکلات اقتصادی ورود کردهاند؟
تأکید رئیس جهاددانشگاهی بر رفع موانع دیوانسالاری و بازگشت به شورای عالی انقلاب فرهنگی
اقتباسی عروسکی از رمان «اسب جنگی» به روی صحنه رفت
رویکرد تحولی سمپاد از تربیت دانشآموز موفق به سوی پرورش انسان اثرگذار
خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند
روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف
مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است
آیتالله مبلغی: نخستین ثمره استقامت، گشایش راهها و شکستن بنبستهاست
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.