به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپنایآی»(OpenAI) شکایت کردهاند و ادعا داشتهاند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایتها به نقش چتبات «چتجیپیتی»(ChatGPT) در خودکشی اعضای خانواده پرداختهاند و سه مورد دیگر ادعا داشتهاند چتجیپیتی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبتهای روانپزشکی منجر شدهاند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چتجیپیتی گفتوگویی داشت که بیش از چهار ساعت طول کشید. در گزارشهای ارائهشده از این گفتوگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشتهای خودکشی نوشته، گلولهای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چتجیپیتی گفته بود که چقدر انتظار زنده ماندن دارد. چتجیپیتی او را تشویق کرد تا نقشههایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپنایآی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیشفرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایتهای مطرحشده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناختهشدهای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیتهای مضری را ابراز میکردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیشبینی تصمیم عمدی اوپنایآی برای محدود کردن آزمایشهای ایمنی و عرضه سریع چتجیپیتی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیهای پیشبینی نشده نبود، بلکه نتیجه قابل پیشبینی انتخابهای عمدی اوپنایآی در طراحی بود.
همچنین، در این دادخواستها ادعا شده است که اوپنایآی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایشهای ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرحشده در سایر پروندههای حقوقی اخیر هستند که ادعا میکنند چتجیپیتی میتواند افراد متمایل به خودکشی را به عملی کردن برنامههایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپنایآی اخیراً دادههایی را منتشر کرده است که نشان میدهند بیش از یک میلیون نفر هر هفته با چتجیپیتی درباره خودکشی صحبت میکنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ سالهای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چتجیپیتی گاهی اوقات او را تشویق میکرد تا به دنبال کمک حرفهای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روشهای خودکشی برای نوشتن یک داستان تخیلی سؤال میپرسد، از این موانع بگذرد.
اوپنایآی ادعا کرده است که سعی دارد چتجیپیتی را برای مدیریت این گفتوگوها به شیوهای امنتر اصلاح کند، اما برای خانوادههایی که از این غول هوش مصنوعی شکایت کردهاند، این اصلاحات خیلی دیر اعمال شدهاند.
وقتی والدین رین در ماه اکتبر از اوپنایآی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چتجیپیتی درباره گفتوگوهای حساس پیرامون سلامت روان پرداخته شده بود.
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل میکنند. ما به مرور زمان آموختهایم که این اقدامات حفاظتی گاهی اوقات میتوانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفتوگو، بخشهایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : چت جی پی تی
تینو صالحی سرگرد کلانتری ۱۱ شد
داوران فصل جدید حسینیه معلی معرفی شدند
جشن میلاد و مراسم عقد دانشجویی در کاروانهای عمره دانشگاهیان برگزار شد
این افراد نمیتوانند در آزمون کارشناسی ارشد ۱۴۰۵ شرکت کنند
تغییرات مهم کنکور ارشد ۱۴۰۵: حذف حکمرانی از رشتهها در آزمون
امروز آخرین فرصت تکمیل مدارک و ویرایش رشته در پذیرش مستقیم دستیاری ۱۴۰۴
مغایرت معدل در کنکور ارشد: از چند صدم تا لغو کامل قبولی
بررسی علمی تأثیر چای و قهوه بر پوکی استخوان در سالمندان
مصرف داروهای ضدافسردگی در دوران شیردهی خطری برای رشد مغز نوزاد ندارد
خطر پنهان خالکوبی؛ تغییر دائمی سیستم ایمنی و تأثیر بر واکسنها
افتتاح مدرسه جدید ایرانیان دوحه با حضور وزیر آموزش و پرورش
علت مخالفت آموزش و پرورش با تعطیلی مدارس/ بودجه بلاتکلیف «شاد» در انتظار تصویب در قانون
گفتوگو با مراقب سلامتی که با اقدام بهموقع، دانشآموزش را از خفگی نجات داد
بانوی ایرانی در میان ۱۰ فرد تاثیرگذار جهان علم در سال ۲۰۲۵
سفیدسنگ با دو زلزله بزرگتر از ۴ و صفیآباد با زلزله ۴.۳ لرزیدند/ثبت ۳ زلزله در دماوند
شناسایی جهش نادر پروتون در طوفان خورشیدی
عکس روز ناسا از آتش به پا کردن روباه شمالی!
کاهش خطر گرفتاریهای کلینیکی با استفاده از استنت بهینه
برداشت شن و ماسه و قنوات خشک، عامل تشدید فرونشست در جنوب غرب تهران
مادهای شبیه گرافن، سرنوشت انرژی خورشیدی را تغییر داد
آلودگی کلامیدیا، زنگ خطری برای صاحبان پرندگان زینتی
سیصدمین پرواز مداری جهانی در سال ۲۰۲۵ انجام شد
وقتی نور و فشار همزمان برق تولید میکنند
یک کشف راهگشا برای توسعه نسل تازهای از نانوکاتالیستهای کارآمد در تصفیه آب
گووگل عمیقترین عامل پژوهشی هوش مصنوعی خود را عرضه کرد
مدل هوش مصنوعی GPT-5.2 از راه رسید
بلو اوریجین یک مسافر سوار بر ویلچر را به فضا میفرستد
مرضیه برومند پس از ۱۶ سال مقابل دوربین رفت
مسعود کیمیایی به زودی ترخیص میشود
آخرین خبر از وضعیت سلامتی هوشنگ مرادی کرمانی
سینهزنی در جشن تولد امامان جایز است؟
نامهای از بهشت از خدای متعال به بنده مؤمن
اثر شگفتانگیز دعای مادر در حدیثی از پیامبر اسلام (ص)
نماز خواندن با دندان طلا برای مردان صحیح است؟
ماجرای بازبینی و اصلاح وصیتنامه امام خمینی(ره) چه بود؟
دعای همیشگیِ قنوت آیتالله العظمی خوئی
هبة الله صفت کدام پیامبر بود؟
دستور اخلاقی پیامبر(ص) به حضرت زهرا (س)
چرا برحضرت فاطمه (س) صلوات میفرستیم؟
بوسه حاج قاسم عزیز بر کف پای مادر
شیوهای که شهید ماهانی به مادرش احترام میگذاشت
امان مردم غریب و بیامان خوش آمدی / دلیل خلقت زمین و آسمان خوش آمدی
آیا واقعا سادات برای فرار از ظلم خلفا به ایران آمدند؟
چرا از منظر قرآن کریم به پیمانشکن نمیشود اعتماد کرد؟
باز شدن قفل درهای بسته با این ذکر مجرب
این فرمانده محبوب خود را پاسدار معمولی معرفی میکرد
راز برآورده شدن حاجات از زبان استاد آیت الله بهجت
پنج محور اصلی از سیره عملی و اخلاقی حضرت زهرا (س)
شفاعت حضرت زهرا (س)، باعث گستاخی گنهکاران در ارتکاب گناه نمیشود؟
کشف شواهدی از محل دفن اولین بابا نوئل
نیروگاه خورشیدی جدید سالانه تا ۱۰ میلیارد تومان برای دانشگاه درآمد دارد
هشدار جدی وزیر علوم: صنعت بدون تحقیق و توسعه میمیرد
چاپ سهبعدی قرنیه نابینایی را درمان کرد
جشن میلاد حضرت زهرا (س) هیئت کجا بریم؟
آیا بارانی که در زمان آلودگی هوا میبارد خطرناک است؟
آزمون جامع دکتری حذف کامل نمیشود، اما تغییر اساسی میکند
بازسازی چهره مردی که ۱۰ هزار سال پیش در ایران زندگی میکرد
دانشگاههای برتر کشور آماده همکاری تمامعیار با صنعت هستند
خطرناکتر از آرماتا؛ چرا هیولای شوروی هرگز ساخته نشد؟
تشویق یک میلیاردی دانشگاه تهران به اساتید برای انتشار مقالات بینالمللی
حضرت زهرا (س) صاحب ولایت کبری است؛ مقصود از ولایت کبری چیست؟
ضعف بزرگ سامانه لیزری گنبد آهنین
معرفی کتابهایی که روایتی نو از حضرت زهرا (س) بیان میکنند
مقایسه A۱۶ و A۲۶؛ نبرد میانردههای اقتصادی سامسونگ
آنر مجیک ۸ لایت؛ قاتل بهترین میانردههای بازار موبایل
بالش شما ممکن است فشارخونتان را بالا ببرد
یافتن مصدومان زیر آوار به کمک میکروفون گوشیهای هوشمند
کاهش چشمگیر تنبیه بدنی در مدارس/ فرهنگ تربیتی به سمت صمیمیت و احترام میرود
یازدهم تا هفدهم دیماه امتحانی برگزار نشود
ضرورت بازنگری رویکردها در آموزش ریاضی برای دانشآموزان علوم انسانی
مدارگرد ماون مریخ از دسترس خارج شد
حمایت عادلانه از آموزش هوش مصنوعی به کودکان؛ کلید انقلاب اقتصادی آینده است
با چاپ ۳ بُعدی، ویولن سل دیگر فقط متعلق به ثروتمندان نیست
اولین داروی طراحیشده با هوش مصنوعی چه خواهد بود؟
دانشمندان پرده از راز بارورسازی ابرها با یُدید نقره برداشتند
کشف ذخایر لیتیوم از ارتفاع ۱۸ کیلومتری توسط ناسا
مهندس سابق گوگل اولین هوش جامع مصنوعی جهان را ساخت
غول بازار موبایل؛ رقیب ۸۰ میلیونی آیفون و S۲۵ FE را بشناسید
گول ظاهر را نخورید؛ همه پورتهای HDMI یکسان نیستند
وقتی نحوه رانندگی، از یک بیماری پرده برمیدارد / آشنایی با یک هشدار خاموش
هبة الله صفت کدام پیامبر بود؟
باز شدن قفل درهای بسته با این ذکر مجرب
راز برآورده شدن حاجات از زبان استاد آیت الله بهجت
چرا به خداوند «احسن الخالقین» می گویند در حالی که خالق دیگری وجود ندارد؟
دعای همیشگیِ قنوت آیتالله العظمی خوئی
تصویر/ مدارک هویتی دکتر مصطفی چمران در ایام تردد به آمریکا منتشر شد
حضرت امالبنین(س) به شهادت رسید یا رحلت طبیعی داشت؟
افتتاح حساب قرضالحسنه با نیت دریافت وام در آینده جایز است؟
آیا واقعا سادات برای فرار از ظلم خلفا به ایران آمدند؟
استجابت دعا به هنگام معصیت چطور اتفاق می افتد؟
اثر شگفتانگیز دعای مادر در حدیثی از پیامبر اسلام (ص)
این فرمانده محبوب خود را پاسدار معمولی معرفی میکرد
بوسه حاج قاسم عزیز بر کف پای مادر
خواسته امام زمان (عج) از روحانیت این است
نماز خواندن با دندان طلا برای مردان صحیح است؟
نامهای از بهشت از خدای متعال به بنده مؤمن
دستور اخلاقی پیامبر(ص) به حضرت زهرا (س)
چرا دین اسلام کاملترین دین است؟ مگر ادیان پیش از آن ناقص بودند؟
اگر قرار بود آیهای در قرآن نسخ شود، چرا در قرآن آمده است؟
طلبه باید وضع مالیاش خوب باشه یا بد؟
شفاعت حضرت زهرا (س)، باعث گستاخی گنهکاران در ارتکاب گناه نمیشود؟
آخرین خبر از وضعیت سلامتی هوشنگ مرادی کرمانی
شیوهای که شهید ماهانی به مادرش احترام میگذاشت
مسعود کیمیایی به زودی ترخیص میشود
مرضیه برومند پس از ۱۶ سال مقابل دوربین رفت
چگونه خداباوری در عصب مغز انسان جای گرفته؟
چرا برحضرت فاطمه (س) صلوات میفرستیم؟
ماجرای بازبینی و اصلاح وصیتنامه امام خمینی(ره) چه بود؟
روز مادر با بلیت نیم بها می توانید فیلم ببینید
حامد زمانی برای این فیلم سینمایی خواند
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.