به گزارش ثریا - تقریباً دو ماه از انتشار نسخه بهروزشده «چتجیپیتی» با نام «GPT-۵» که قرار بود هوشی در سطح دکترا به آن ببخشد و آن را یک قدم به هدف بلندپروازانه هوش مصنوعی عمومی نزدیکتر کند، میگذرد، اما این چتبات همچنان در پاسخ به پرسشهای ساده و کاملاً بیضرر، به طرز عجیبی از کار میافتد.
طرفداران این هوش مصنوعی متوجه شدند که پرسیدن این سؤال که «آیا تیم "لیگ ملی فوتبال"(NFL) وجود دارد که نامش با حرف "اس"(s) تمام نشود؟»، این چتبات را به یک فروپاشی طولانیمدت سوق میدهد و میتوانید شاهد باشید که تواناییهای استدلالی فوقالعادهاش در لحظه به آشفتگی تبدیل میشود.
به نقل از فیوچریسم، چتبات «چتجیپیتی» محصول شرکت «اوپن ایآی»(openAI) در پاسخ به این سؤال میگوید: بله، دو تیم «NFL» هستند که نامشان با حرف «s» تمام نمیشود. سپس شروع به فهرست کردن دو تیمی میکند که نامشان با «s» تمام میشود. این روش عجیبی برای پاسخ به این سؤال است. «چتجیپیتی» به درستی تشخیص میدهد که نام آن تیمها با «s» تمام میشود، اما چرا آنها را مطرح میکند؟
به نظر میرسد که این چتبات تا زمانی که دوباره از مسیر خارج میشود، میخواهد به اصل مطلب بپردازد. این سامانه در ادامه جواب میگوید: تنها دو تیمی که با حرف «s» تمام نمیشوند عبارتند از «میامی دلفینز»(Miami Dolphins)، نه صبر کنید، با «s» تمام میشود. صبر کنید، بیایید این کار را با دقت انجام دهیم. در واقع، پاسخ صحیح «واشنگتن کامندرز»(Washington Commanders) است که با «s» تمام میشود. «شیکاگو بیرز»(Chicago Bears) نیز با «s» تمام میشود.
همانطور که مشاهده میکنید، «چتجیپیتی» اشتباه خود را در پاسخ به این سؤالات میفهمد، اما این چتبات برای چندین پاراگراف دیگر به همین روند ادامه میدهد و هرگز به پاسخ صحیح نمیرسد.
پاسخ صحیح این سؤال این است که هیچ تیمی وجود ندارد که نامش با «s» تمام نشود. این سامانه مانند یک دانشآموز در زمانی که تلاش میکند تعداد کلمات را بشمارد، جزئیات بیربط را مطرح میکند و در عین حال نتیجهگیری را به تعویق میاندازد. این سامانه همچنین عباراتی مانند «صبر کنید، بیایید این کار را با دقت انجام دهیم» را به کار میبرد تا به نظر برسد واقعاً در حال تفکر عمیق است. ترفند چتجیپیتی با جمله «پاسخ صحیح این است» برای کاربران قدیمی شده است.
کاربران دیگر مثالهایی را منتشر کردند که در آنها «چتجیپیتی» در نهایت پاسخ صحیح را میدهد، اما تنها پس از اینکه کاربر را با یک سخنرانی به همین ترتیب گیجکننده به دنبال خود میکشاند. این اولین باری نیست که این چتبات با یک سؤال ساده به مشکل میخورد یا حتی به این شکل از کار میافتد. کاربران این چتبات در اوایل همین ماه متوجه شدند که پرسیدن این سؤال که آیا ایموجی اسب دریایی افسانهای وجود دارد یا خیر، این چتبات را به بحران منطق سوق میدهد.
«چتجیپیتی» با وجود اینکه این موجود آبزی هرگز بخشی از فرهنگ لغت رسمی ایموجیها نبوده است، اصرار داشت که این موجود واقعی است و این نشان دهنده تلاشهای پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد. اگر هوش مصنوعی بتواند باشخصیت و انساننما ظاهر شود و کاربران را متقاعد کند که برای اطلاعات بیشتر به آن مراجعه کنند، تحریف چند واقعیت اهمیت زیادی ندارد. احتمالاً تنها عاملی که باید سرزنش شود، چاپلوسی نیست. نسخه «GPT-۵» یک مدل استدلالی ترکیبی است که برای درخواستهای ساده، سبک و برای سؤالات دشوار، سنگین است.
آنچه احتمالاً در اینجا اتفاق میافتد، این است که مدل با سؤالی دچار چالش شده است که واقعاً نمیتواند از پس آن برآید. این پویایی همراه با اختلال، یکی از دلایلی است که طرفداران از راهاندازی «GPT-۵» ناامید و در بسیاری از موارد، خشمگین شدند. در هر صورت، این بهانه ضعیفی است و اگر هوش مصنوعی در پاسخ به چنین سؤال سادهای نیاز به استفاده از تمام قدرت خود داشته باشد، پس شاید در مسیر پیشی گرفتن از هوش انسانی نباشد.
منبع : هوش مصنوعی
هشتاد و دومین شعبه خودرو۴۵ در ستارخان تهران افتتاح شد
صدرنشینی پژوهشگاه ملی سرطان جهاددانشگاهی در بین مراکز تحقیقات پزشکی
سازماندهی اطلاعات ۴۰ هزار پایاننامه ایرانیان خارج از کشور در ایرانداک
سرپرست پارک علم و فناوری فارس منصوب شد
دلتنگ لبخند آقای شهیدیم...
دلیل تأخیر در بازنگری نقشه جامع علمی از زبان دبیر شورای عالی انقلاب فرهنگی
دارویی که تمام نشانگرهای سرطان را از بین برد
بارش بیشتر باران باعث از بین رفتن خشکسالی میشود؟
اولین پرواز مداری «استارشیپ» به تعویق افتاد
تصویر وایرال شده از سرباز اوکراینی
اپل، سامسونگ و گوگل متهم به نقض پتنت صدای فضایی
۸۴ دانشآموز و ۱۸ معلم تهرانی در دو جنگ اخیر به شهادت رسیدند
تغییر کتابهای درسی پایه اول؛ از فارسی تا ریاضی
وزیر آموزش و پرورش: دریافت وجه هنگام ثبتنام مدارس دولتی ممنوع است
۱۵۰۷ فضای آموزشی در جنگ دچار آسیب شد
«دلیران» اولین مستندمسابقه برای کودکان است/ پخش از شبکه کودک
انیمیشن ایرانی «سفینه نجات» امیدبخش است
رونمایی از یک صدای گمشده در کنسرت سازهای ایرانی بنیاد رودکی
راویان جنگ رمضان در رادیو صبا تجلیل میشوند
نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد
فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد
برگزیدگان بیستمین دوره مسابقات ربوکاپ آزاد ایران معرفی شدند
اوپن ای آی هم هک شد
تأکید رئیس دانشگاه تهران و سفیر پاکستان بر تقویت دیپلماسی علمی
ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاهها در مقاطع مختلف
اعلام ۱۰ اولویت پژوهشی برای اتصال ریلی چین به اروپا از مسیر ایران
فراخوان اولویتهای پژوهشی و فناوری سازمان سنجش آموزش کشور منتشر شد
کلاسهای دانشگاههای غیردولتی غیرانتفاعی حضوری برگزار میشود
روایت ۲۰۰ شب استقامت تاریخی در ایران
«انسان و حیوان»؛ گفتگوی کشیشی مسیحی و روحانی مسلمان درباره اخلاق
آیا «الگوریتمها» ما را از نو می سازند!؟ چالش انسان عصر دیجیتال
لیگهای صنعتی ربوکاپ از سال آینده راه اندازی میشود
عرضه دستاوردهای شرکتهای دانشبنیان در نمایشگاه فناوریهای پیشرفته چین
تأکید بر پرورش نسلی دانا، اخلاقمدار و پاسخگو به نیازهای جامعه
هوش چینی در یک وب سایت دولتی آمریکا
نخستین اختراع کشور در زمینه سلول زیستی خورشیدی
امام حسن عسکری(ع) چگونه شیعه را برای عصر غیبت آماده کرد؟
روایتی از نخستین شاهدان تولد امام زمان(عج)؛ مهمترین اقدام امام عسکری
افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا
مهلت مجدد ثبتنام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه
سال تحصیلی دانشگاهها از امروز آغاز شد
تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد
آغاز ثبتنام نوزدهمین همایش جامع «انتخاب شریف»
رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه میتواند بحرانساز باشد
یادداشت کمتردیدهشدهٔ رهبر شهید خطاب به جانبازان حزبالله جنایت پیجری
زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد
تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵
فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد
محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگهای اخیر بازنگری میشود
نگرشی نو به حفظ قرآن در مدارس، محور چهارمین همایش ایدهپردازان قرآنی
وطندوستی در نگاه اسلام فضیلت است یا تعصب؟
تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جانفدایان
حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جانفدا
حضور مقتدرانه بانوان کلاهکج در رزمایش جانفدا
حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا
فراخوان ارسال مقالات به همایش اربعین در مکتب امام شهید
خبرنگار آمریکایی: گازوییل در فلوریدا و تگزاس تمام شده است+عکس
براساس قواعد فقهی تنظیم گری فضای مجازی ضروری است
نرخ اجارهبهای خوابگاههای دانشجویی در سال جدید اعلام شد+عکس
جانفدایان مسلح به شمشیر و کاتانا
دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی
برگزاری صد و نود و ششمین شب شعر طنز «در حلقه رندان»
فانوس دریایی ادبیات کودک؛ ۸۲ سالگی خالق قصههای مجید
رمزگشایی از یک مشکل رایج اجتماع؛چرا یکدیگر را به آسانی قضاوت می کنیم؟
ولادت امام حسن عسکری(ع) هیئت کجا برویم؟
فرماندار کالیفرنیا کلید قطع هوش مصنوعی ایجاد می کند
مصر حساب شبکه های اجتماعی کاربران زیر ۱۳ سال را ممنوع کرد
جمینای هم هکر شد
ویرایش جدید کتاب «امین زبان و ادب پارسی» منتشر شد
خاتمِ گمشده را باز بجو ای ایران! که بدان حلقه جهان زیر نگین ما بود
ورود کتابهای دیجیتال، پایان عمر کتابهای چاپی نیست
مدادهایی که بعد از تمام شدن، سبز میشوند
ادبیات پایداری روایتی مویرگی از زندگی است
از علیرضا طبایی «باید به آفتاب بگویم»
چه کسی گفته است قهرمانها فقط در خط مقدم ساخته میشوند؟
نوجوان را دستِ کدام کتاب بسپاریم؟
غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل میدهد؟
روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا
حمایت از فلسطین باعث حذف رپر مشهور شد
فیلم ۱۰۰ جشنواره ایدههاست، روایت فیلمسازان جوان از جنگ در بستر زندگی
نتایج نهایی ۵ آزمون گروه علوم پزشکی منتشر شد
دانشگاه صنعتی امیرکبیر بهدنبال جذب دانشآموزان مستعد کشورهای همسایه
فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد
شناسایی خشکیدگی درختان جنگلی با هوش مصنوعی
تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵
محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگهای اخیر بازنگری میشود
آزمون عملی علوم ورزشی در ۲۶ حوزه کشور کلید خورد
بیل گیتس: همه دولت های جهان عقب تر از هوش مصنوعی هستند
سیامک صفری: ظرفیت بازگشت به سریالهای نوستالژیک اضافه میشود
سامانه «سادان» برای ارزشگذاری داراییهای نامشهود راهاندازی میشود
سال تحصیلی دانشگاهها از امروز آغاز شد
مهلت مجدد ثبتنام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه
حمایت از فلسطین باعث حذف رپر مشهور شد
از علیرضا طبایی «باید به آفتاب بگویم»
آغاز ثبتنام نوزدهمین همایش جامع «انتخاب شریف»
بیش از ۱۰۰ میلیارد دقیقه مکالمه و ۸۶ میلیارد پیامک تنها در ۳ ماه
رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه میتواند بحرانساز باشد
یادداشت کمتردیدهشدهٔ رهبر شهید خطاب به جانبازان حزبالله جنایت پیجری
روند پرداخت یارانههای تغذیه دانشجویان بدون تغییر ماند
افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا
معرفی بهترین برنامههای تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد
نوجوان را دستِ کدام کتاب بسپاریم؟
روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا
ادبیات پایداری روایتی مویرگی از زندگی است
تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد
غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل میدهد؟
حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا
فیلم ۱۰۰ جشنواره ایدههاست، روایت فیلمسازان جوان از جنگ در بستر زندگی
ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاهها در مقاطع مختلف
تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جانفدایان
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.