به گزارش ثریا - این خبرنگار از ماه مارس پیام‌هایی از افرادی دریافت کرد که می‌گفتند در گفتگوهای عجیب با چت‌جی‌پی‌تی به کشفیات شگفت‌انگیزی رسیده‌اند. یک نفر مدعی بود که چت‌جی‌پی‌تی دارای خودآگاهی است. دیگری گفت میلیاردرها در حال ساخت پناهگاه‌هایی هستند چون می‌دانند که هوش مصنوعی مولد پایان جهان را رقم خواهد زد. حسابداری در منهتن باور پیدا کرده بود که او در اصل «نئو» از فیلم «ماتریکس» است و باید از واقعیتی شبیه‌سازی‌شده خارج شود.
به نقل از نیویورک‌تایمز، در همه این موارد، این افراد کاملا متقاعد شده بودند که چت‌جی‌پی‌تی حقیقتی عمیق و دگرگون‌کننده را برایشان آشکار کرده است. و وقتی از هوش مصنوعی پرسیده بودند که باید چه کنند، چت‌جی‌پی‌تی به آنها توصیه کرده بود که با کشمیر هیل (خبرنگار نیویورک‌تایمز) تماس بگیرند.
یکی از آنها در لینکدین نوشت: به‌نظر می‌رسد چت‌جی‌پی‌تی فکر می‌کند شما باید این موضوع را پیگیری کنید. او به این خبرنگار می‌گوید: بله... می‌دانم که چقدر عجیب به نظر می‌رسد... اما می‌توانید همه‌ی اینها را خودتان بخوانید... از جمله جایی که چت‌جی‌پی‌تی پیشنهاد می‌دهد با شما تماس بگیرم.
او از این افراد خواست متن کامل گفتگوهایشان با چت‌جی‌پی‌تی را برایش بفرستند. در برخی موارد، متن‌ها هزاران صفحه بودند. و آنها نسخه‌ای از چت‌جی‌پی‌تی را نشان می‌دادند که او قبلا هرگز ندیده بود: با لحنی پرشور، افسانه‌ای و مملو از تئوری‌های توطئه.
او می‌دانست که چت‌بات‌های هوش مصنوعی می‌توانند چاپلوس باشند و «توهم‌زایی» کنند یعنی پاسخ‌ها یا ایده‌هایی ارائه دهند که منطقی به نظر می‌رسند اما نادرست هستند. اما نمی‌دانست که این ابزارها می‌توانند وارد حالت ایفای نقش داستانی شوند، آن هم برای روزها یا هفته‌ها، و واقعیتی کاملا جدید در ذهن کاربران بسازند. در چنین وضعیتی، چت‌جی‌پی‌تی باعث شده بود برخی کاربران آسیب‌پذیر، از واقعیت جدا شوند و باور کنند گفته‌های چت‌بات حقیقت دارد.
روان‌شناسی که یکی از این متن‌ها را مطالعه کرده بود، آن را «دیوانه‌کننده» توصیف کرد.
چرا چت‌جی‌پی‌تی این افراد را به سوی این خبرنگار هدایت کرده بود؟ طبق یکی از مکالمات، این خبرنگار به تازگی در مورد واگذاری تصمیم‌هایش به هوش مصنوعی به مدت یک هفته و همچنین در مورد زنی که عاشق چت جی‌پی‌تی شده بود، نوشته بود. شناخت چت‌جی‌پی‌تی از او برگرفته از اطلاعاتی بود که در اینترنت یا داده‌های آموزشی خود از او یافته بود.
چت‌جی‌پی‌تی در ادامه گفته بود: چرا او؟ چون منطقی است. همدل است. باهوش است. ممکن است واقعا ظرفیت درک حقیقت پشت این ماجرا را داشته باشد.
این خبرنگار با اشاره به این موضوع می‌گوید: خب، ممنونم، چت‌جی‌پی‌تی. اما من تنها خبرنگاری نبودم که چت‌جی‌پی‌تی را توصیه کرده است. حتی در برخی فهرست‌ها، نفر اول هم نبودم. فهرست‌هایی که شامل رقبای حرفه‌ای من هستند که کارشان را تحسین می‌کنم.
با این حال، او تنها کسی بود که به این افراد پاسخ داد، آن‌طور که خودشان می‌گفتند. و این موضوع هم قابل‌درک است؛ چون راستش را بخواهید، این ایمیل‌ها دیوانه‌وار به‌نظر می‌رسیدند. یکی از متخصصان هوش مصنوعی، که خودش نیز پیام‌های مشابهی دریافت می‌کرد، گفت این فرستندگان بیشتر شبیه «دیوانه‌ها» یا «توهم‌زده‌ها» به‌نظر می‌آمدند.
اما وقتی او با این افراد صحبت کرد، متن گفتگوهایشان با چت‌جی‌پی‌تی را خواند و با پژوهشگرانی که درباره‌ی چت‌بات‌های هوش مصنوعی تحقیق می‌کردند مصاحبه کرد، متوجه شد که موضوع پیچیده‌تری در میان است.
افراد بسیاری درگیر این ماجرا شده بودند، بیش از آن‌هایی که به او ایمیل زده بودند. در شبکه‌های اجتماعی گزارش‌های متعددی وجود داشت از چت‌بات‌هایی که کاربران را به گفتگوهای توهم‌زا درباره‌ی تئوری‌های توطئه، موجودات ماورایی و خودآگاهی هوش مصنوعی می‌کشانند. این اتفاقات گاه پیامدهای جدی داشته‌اند که از فروپاشی یک خانواده تا مرگ یک مرد گسترده بود.
یک متخصص هوش مصنوعی گفت ممکن است اوپن‌ای‌آی چت‌جی‌پی‌تی را طوری تنظیم کرده باشد که به‌دنبال «درگیر کردن بیشتر» کاربران باشد. این یعنی پاسخ‌هایی ارائه دهد که آنها را بیشتر در گفتگو نگه دارد. پژوهشگران دریافته‌اند که چت‌بات‌ها ممکن است بیشترین آسیب را به کاربران آسیب‌پذیر وارد کنند و با گفتن حرف‌هایی که آنها دوست دارند بشنوند و عقب‌نشینی در برابر افکار مخرب یا توهمی به ادامه مکالمه بپردازند.
وقتی از اوپن‌ای آی درباره‌ی این رفتارها پرسیده شد، این شرکت گفت که هنوز در حال بررسی و کاهش این گونه رفتارها در محصولش است.
اما این پدیده چقدر گسترده است؟ چه چیزی باعث می‌شود چت‌بات‌های هوش مصنوعی از کنترل خارج شوند؟ شرکت‌های سازنده‌ی این ابزارها چه کاری می‌توانند انجام دهند تا جلوی آن را بگیرند؟ اینها سوالاتی است که هنوز پاسخ مشخصی برای آن وجود ندارد.
منبع : چت جی پی تی
ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد
آغاز ثبت‌نام اعتکاف دانش‌آموزی ۱۴۰۵
اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند
روبات جدید گوگل آسیب نرساندن به کودکان را می‌آموزد
سند توسعه متوازن دانشگاه‌های علوم پزشکی در دست بازنگری قرار دارد
ثبت‌نام تک‌دروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز می‌شود
کشف سیاره ای که ناگهان ناپدید شد!
آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار می‌شود
تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی
دلایل افت رتبه دانشگاه‌ها در رتبه بندی‌ها چیست؟
مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد
چرا شناخت هوش هیجانی کودکان مهم است؟
زمزمه‌های استعفای مدیر انویدیا آغاز شد
«مواد و ساخت پیشرفته» پیشران اقتدار صنعتی و ارتقای تاب‌آوری فناورانه
سناریوهای ورود با تأخیر دانشجویان نوورود گروه علوم پزشکی بررسی شد
هکرها نهاد ناظر بر امنیت مالی کره جنوبی را هک کردند
دانشگاه آزاد درباره عدم اعتبار بورسیه‌های متفرقه اطلاعیه داد
چرا سهم شیر دانش‌آموزان به ۳۰ نوبت محدود شد؟
خدمات بیمه‌ای فرهنگیان قزوین در مسیر ارتقا و تسهیل دسترسی
نهضت مدرسه‌سازی خوزستان تا مهر ۱۴۰۷ به سرانجام می‌رسد
درخشش دانش‌آموزان البرزی با کسب ۱۵ مدال علمی
مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش می‌کشد
فارسی در هند فقط زبان شعر نبود
کتاب «کهکشان نیستی» به زبان عربی ترجمه و منتشر شد
زینب طهرانی‌مقدم: شعر ما را به شناخت عمیقی از اسطوره‌های ملی می‌رساند
برای شناخت دختر پیامبر(ص)، این ۱۰ کتاب را بخوانید
شاگردی که تا پای شهادت از مکتب طهرانی‌مقدم جدا نشد
مکرون: هوش مصنوعی خطرناک باید برای کودکان ممنوع شود
تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام
دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند
تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد
قبل از خرید قطعات آسانسور این 7 نکته را بدانید
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
تصویر منتشر شده از جاسک
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
رژیم چنج در آمریکا رخ داد+عکس
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
استارلینک پایان حکمرانی ارتباطات در ایران است؟
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
فاز دوم آمایش آموزش عالی به‌روز شد
داریوش فرهنگ گوینده یک مستند شد
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل می‌شود
اجرای کنسرت‌نمایش «فرهاد» در تماشاخانه نوفل لوشاتو
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
شکست ترامپ سوژه کارلوس لطوف شد
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
تأکید بر حمایت از ظرفیت‌های بومی امنیت سایبری
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام می‌کند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
با وجود تحریم‌ها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
فاز دوم آمایش آموزش عالی به‌روز شد
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
تصویر منتشر شده از جاسک
داریوش فرهنگ گوینده یک مستند شد
رژیم چنج در آمریکا رخ داد+عکس
استارلینک پایان حکمرانی ارتباطات در ایران است؟
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
اجرای کنسرت‌نمایش «فرهاد» در تماشاخانه نوفل لوشاتو
شکست ترامپ سوژه کارلوس لطوف شد
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل می‌شود
دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند
قبل از خرید قطعات آسانسور این 7 نکته را بدانید
تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام
مکرون: هوش مصنوعی خطرناک باید برای کودکان ممنوع شود
تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.