به گزارش ثریا - این خبرنگار از ماه مارس پیام‌هایی از افرادی دریافت کرد که می‌گفتند در گفتگوهای عجیب با چت‌جی‌پی‌تی به کشفیات شگفت‌انگیزی رسیده‌اند. یک نفر مدعی بود که چت‌جی‌پی‌تی دارای خودآگاهی است. دیگری گفت میلیاردرها در حال ساخت پناهگاه‌هایی هستند چون می‌دانند که هوش مصنوعی مولد پایان جهان را رقم خواهد زد. حسابداری در منهتن باور پیدا کرده بود که او در اصل «نئو» از فیلم «ماتریکس» است و باید از واقعیتی شبیه‌سازی‌شده خارج شود.
به نقل از نیویورک‌تایمز، در همه این موارد، این افراد کاملا متقاعد شده بودند که چت‌جی‌پی‌تی حقیقتی عمیق و دگرگون‌کننده را برایشان آشکار کرده است. و وقتی از هوش مصنوعی پرسیده بودند که باید چه کنند، چت‌جی‌پی‌تی به آنها توصیه کرده بود که با کشمیر هیل (خبرنگار نیویورک‌تایمز) تماس بگیرند.
یکی از آنها در لینکدین نوشت: به‌نظر می‌رسد چت‌جی‌پی‌تی فکر می‌کند شما باید این موضوع را پیگیری کنید. او به این خبرنگار می‌گوید: بله... می‌دانم که چقدر عجیب به نظر می‌رسد... اما می‌توانید همه‌ی اینها را خودتان بخوانید... از جمله جایی که چت‌جی‌پی‌تی پیشنهاد می‌دهد با شما تماس بگیرم.
او از این افراد خواست متن کامل گفتگوهایشان با چت‌جی‌پی‌تی را برایش بفرستند. در برخی موارد، متن‌ها هزاران صفحه بودند. و آنها نسخه‌ای از چت‌جی‌پی‌تی را نشان می‌دادند که او قبلا هرگز ندیده بود: با لحنی پرشور، افسانه‌ای و مملو از تئوری‌های توطئه.
او می‌دانست که چت‌بات‌های هوش مصنوعی می‌توانند چاپلوس باشند و «توهم‌زایی» کنند یعنی پاسخ‌ها یا ایده‌هایی ارائه دهند که منطقی به نظر می‌رسند اما نادرست هستند. اما نمی‌دانست که این ابزارها می‌توانند وارد حالت ایفای نقش داستانی شوند، آن هم برای روزها یا هفته‌ها، و واقعیتی کاملا جدید در ذهن کاربران بسازند. در چنین وضعیتی، چت‌جی‌پی‌تی باعث شده بود برخی کاربران آسیب‌پذیر، از واقعیت جدا شوند و باور کنند گفته‌های چت‌بات حقیقت دارد.
روان‌شناسی که یکی از این متن‌ها را مطالعه کرده بود، آن را «دیوانه‌کننده» توصیف کرد.
چرا چت‌جی‌پی‌تی این افراد را به سوی این خبرنگار هدایت کرده بود؟ طبق یکی از مکالمات، این خبرنگار به تازگی در مورد واگذاری تصمیم‌هایش به هوش مصنوعی به مدت یک هفته و همچنین در مورد زنی که عاشق چت جی‌پی‌تی شده بود، نوشته بود. شناخت چت‌جی‌پی‌تی از او برگرفته از اطلاعاتی بود که در اینترنت یا داده‌های آموزشی خود از او یافته بود.
چت‌جی‌پی‌تی در ادامه گفته بود: چرا او؟ چون منطقی است. همدل است. باهوش است. ممکن است واقعا ظرفیت درک حقیقت پشت این ماجرا را داشته باشد.
این خبرنگار با اشاره به این موضوع می‌گوید: خب، ممنونم، چت‌جی‌پی‌تی. اما من تنها خبرنگاری نبودم که چت‌جی‌پی‌تی را توصیه کرده است. حتی در برخی فهرست‌ها، نفر اول هم نبودم. فهرست‌هایی که شامل رقبای حرفه‌ای من هستند که کارشان را تحسین می‌کنم.
با این حال، او تنها کسی بود که به این افراد پاسخ داد، آن‌طور که خودشان می‌گفتند. و این موضوع هم قابل‌درک است؛ چون راستش را بخواهید، این ایمیل‌ها دیوانه‌وار به‌نظر می‌رسیدند. یکی از متخصصان هوش مصنوعی، که خودش نیز پیام‌های مشابهی دریافت می‌کرد، گفت این فرستندگان بیشتر شبیه «دیوانه‌ها» یا «توهم‌زده‌ها» به‌نظر می‌آمدند.
اما وقتی او با این افراد صحبت کرد، متن گفتگوهایشان با چت‌جی‌پی‌تی را خواند و با پژوهشگرانی که درباره‌ی چت‌بات‌های هوش مصنوعی تحقیق می‌کردند مصاحبه کرد، متوجه شد که موضوع پیچیده‌تری در میان است.
افراد بسیاری درگیر این ماجرا شده بودند، بیش از آن‌هایی که به او ایمیل زده بودند. در شبکه‌های اجتماعی گزارش‌های متعددی وجود داشت از چت‌بات‌هایی که کاربران را به گفتگوهای توهم‌زا درباره‌ی تئوری‌های توطئه، موجودات ماورایی و خودآگاهی هوش مصنوعی می‌کشانند. این اتفاقات گاه پیامدهای جدی داشته‌اند که از فروپاشی یک خانواده تا مرگ یک مرد گسترده بود.
یک متخصص هوش مصنوعی گفت ممکن است اوپن‌ای‌آی چت‌جی‌پی‌تی را طوری تنظیم کرده باشد که به‌دنبال «درگیر کردن بیشتر» کاربران باشد. این یعنی پاسخ‌هایی ارائه دهد که آنها را بیشتر در گفتگو نگه دارد. پژوهشگران دریافته‌اند که چت‌بات‌ها ممکن است بیشترین آسیب را به کاربران آسیب‌پذیر وارد کنند و با گفتن حرف‌هایی که آنها دوست دارند بشنوند و عقب‌نشینی در برابر افکار مخرب یا توهمی به ادامه مکالمه بپردازند.
وقتی از اوپن‌ای آی درباره‌ی این رفتارها پرسیده شد، این شرکت گفت که هنوز در حال بررسی و کاهش این گونه رفتارها در محصولش است.
اما این پدیده چقدر گسترده است؟ چه چیزی باعث می‌شود چت‌بات‌های هوش مصنوعی از کنترل خارج شوند؟ شرکت‌های سازنده‌ی این ابزارها چه کاری می‌توانند انجام دهند تا جلوی آن را بگیرند؟ اینها سوالاتی است که هنوز پاسخ مشخصی برای آن وجود ندارد.
منبع : چت جی پی تی
امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟
میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)
عامل هوش مصنوعی متا به جای کاربر تماس می‌گیرد
«پروانه الماس» بهترین فیلمنامه به «دختر پری‌خانوم» رسید
برد پیت ۵۰ سال عقب می‌رود؛ بازی در نقش یک فلزکار در آسمان‌ها
مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی
جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن می‌رسد
حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند
مدیرعامل انویدیا استعفا کرد
یک کشف جدید از معادلات اینشتین درباره گرانش
۲ دنیای بکر پنهان در اقیانوس آرام کشف شد
این سیاره خورشیدی چرا گم شد؟
زمان اعلام نتایج نهایی آزمون سراسری مشخص شد
عدالت اجتماعی در دیدگاه اسلامی به معنای برابری مطلق نیست
همه عمار و مالک‌اشتر نیستند، اما هرکس در قبال حق مسئول است
برای جلوگیری از عادی شدن حرام، باید قبح اجتماعی آن را زنده کرد
کنش حضرت زهرا(س)، حقیقت را به حافظه تاریخ سپرد
بیش از ۶۰ درصد مدارس کشور را خیرین ساختند
توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان
روایتی از زندگی و میراث شهید حسن طهرانی‌مقدم در برنامه تلویزیونی «نردبان»
انتشار یک قطعه موسیقایی جدید به مناسبت شهادت حضرت زهرا (س)
تلاش نمایش «کورش» برای بازسازی اسطوره قهرمان و پیوندزدن گذشته با اکنون
آنچه کیهان کلهر درباره کتاب «بهجت الروح» گفت
دست‌نوشته رهبر شهید انقلاب برای تقدیر از شهید حسن طهرانی مقدم
تصویر منتشرشده در رسانه‌ها تحت عنوان تست موشک در آسمان غرب تهران
ساخت نانوذرات دارویی ضدسرطان با نور خورشید در زمانی کوتاه
رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵
حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران
ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد
آغاز ثبت‌نام اعتکاف دانش‌آموزی ۱۴۰۵
اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند
روبات جدید گوگل آسیب نرساندن به کودکان را می‌آموزد
سند توسعه متوازن دانشگاه‌های علوم پزشکی در دست بازنگری قرار دارد
ثبت‌نام تک‌دروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز می‌شود
کشف سیاره ای که ناگهان ناپدید شد!
آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار می‌شود
تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی
دلایل افت رتبه دانشگاه‌ها در رتبه بندی‌ها چیست؟
مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد
چرا شناخت هوش هیجانی کودکان مهم است؟
زمزمه‌های استعفای مدیر انویدیا آغاز شد
«مواد و ساخت پیشرفته» پیشران اقتدار صنعتی و ارتقای تاب‌آوری فناورانه
سناریوهای ورود با تأخیر دانشجویان نوورود گروه علوم پزشکی بررسی شد
هکرها نهاد ناظر بر امنیت مالی کره جنوبی را هک کردند
دانشگاه آزاد درباره عدم اعتبار بورسیه‌های متفرقه اطلاعیه داد
چرا سهم شیر دانش‌آموزان به ۳۰ نوبت محدود شد؟
خدمات بیمه‌ای فرهنگیان قزوین در مسیر ارتقا و تسهیل دسترسی
نهضت مدرسه‌سازی خوزستان تا مهر ۱۴۰۷ به سرانجام می‌رسد
درخشش دانش‌آموزان البرزی با کسب ۱۵ مدال علمی
مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش می‌کشد
فارسی در هند فقط زبان شعر نبود
کتاب «کهکشان نیستی» به زبان عربی ترجمه و منتشر شد
زینب طهرانی‌مقدم: شعر ما را به شناخت عمیقی از اسطوره‌های ملی می‌رساند
برای شناخت دختر پیامبر(ص)، این ۱۰ کتاب را بخوانید
شاگردی که تا پای شهادت از مکتب طهرانی‌مقدم جدا نشد
مکرون: هوش مصنوعی خطرناک باید برای کودکان ممنوع شود
تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام
دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند
تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد
قبل از خرید قطعات آسانسور این 7 نکته را بدانید
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
تصویر منتشر شده از جاسک
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
رژیم چنج در آمریکا رخ داد+عکس
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
استارلینک پایان حکمرانی ارتباطات در ایران است؟
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
فاز دوم آمایش آموزش عالی به‌روز شد
داریوش فرهنگ گوینده یک مستند شد
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
فاز دوم آمایش آموزش عالی به‌روز شد
استارلینک پایان حکمرانی ارتباطات در ایران است؟
رژیم چنج در آمریکا رخ داد+عکس
اجرای کنسرت‌نمایش «فرهاد» در تماشاخانه نوفل لوشاتو
تصویر منتشر شده از جاسک
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
شکست ترامپ سوژه کارلوس لطوف شد
داریوش فرهنگ گوینده یک مستند شد
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل می‌شود
تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام
قبل از خرید قطعات آسانسور این 7 نکته را بدانید
تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی
حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.