به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپن‌ای‌آی»(OpenAI) شکایت کرده‌اند و ادعا داشته‌اند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایت‌ها به نقش چت‌بات «چت‌جی‌پی‌تی»(ChatGPT) در خودکشی اعضای خانواده پرداخته‌اند و سه مورد دیگر ادعا داشته‌اند چت‌جی‌پی‌تی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبت‌های روانپزشکی منجر شده‌اند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چت‌جی‌پی‌تی گفت‌وگویی داشت که بیش از چهار ساعت طول کشید. در گزارش‌های ارائه‌شده از این گفت‌وگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشت‌های خودکشی نوشته، گلوله‌ای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چت‌جی‌پی‌تی گفته بود که چقدر انتظار زنده ماندن دارد. چت‌جی‌پی‌تی او را تشویق کرد تا نقشه‌هایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپن‌ای‌آی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیش‌فرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایت‌های مطرح‌شده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناخته‌شده‌ای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیت‌های مضری را ابراز می‌کردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیش‌بینی تصمیم عمدی اوپن‌ای‌آی برای محدود کردن آزمایش‌های ایمنی و عرضه سریع چت‌جی‌پی‌تی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیه‌ای پیش‌بینی نشده نبود، بلکه نتیجه قابل پیش‌بینی انتخاب‌های عمدی اوپن‌ای‌آی در طراحی بود.
همچنین، در این دادخواست‌ها ادعا شده است که اوپن‌ای‌آی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایش‌های ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرح‌شده در سایر پرونده‌های حقوقی اخیر هستند که ادعا می‌کنند چت‌جی‌پی‌تی می‌تواند افراد متمایل به خودکشی را به عملی کردن برنامه‌هایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپن‌ای‌آی اخیراً داده‌هایی را منتشر کرده است که نشان می‌دهند بیش از یک میلیون نفر هر هفته با چت‌جی‌پی‌تی درباره خودکشی صحبت می‌کنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ ساله‌ای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چت‌جی‌پی‌تی گاهی اوقات او را تشویق می‌کرد تا به دنبال کمک حرفه‌ای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روش‌های خودکشی برای نوشتن یک داستان تخیلی سؤال می‌پرسد، از این موانع بگذرد.
اوپن‌ای‌آی ادعا کرده است که سعی دارد چت‌جی‌پی‌تی را برای مدیریت این گفت‌وگوها به شیوه‌ای امن‌تر اصلاح کند، اما برای خانواده‌هایی که از این غول هوش مصنوعی شکایت کرده‌اند، این اصلاحات خیلی دیر اعمال شده‌اند.
وقتی والدین رین در ماه اکتبر از اوپن‌ای‌آی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چت‌جی‌پی‌تی درباره گفت‌وگوهای حساس پیرامون سلامت روان پرداخته شده بود.
منبع : اپن ای ای
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل می‌کنند. ما به مرور زمان آموخته‌ایم که این اقدامات حفاظتی گاهی اوقات می‌توانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفت‌وگو، بخش‌هایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : اپین ای ای
کتاب «کلمات نقاشی می‌کنند» در انتشارات صداوسیما منتشر شد
اختصاص سهمیه به داوطلبان آزمون سراسری آسیب‌دیده از جنگ ابلاغ شد
توضیح درباره تغییرات احتمالی و عدم تشکیل جلسات شورای فضای مجازی
پژوهش جدید: استفاده از هوش مصنوعی کارهای سخت را سخت‌تر می‌کند
متا نخستین هوش مصنوعی پیشرفته‌اش را ارائه کرد
شروع دوره قبولی‌های آزمون دستیاری تا دوم آبان؛ ضرورت ثبت‌نام در زمان مقرر
شاخص‌های صدور مجوز رشته‌محل در دانشگاه‌ها و مؤسسات آموزش عالی دولتی
محمد کاسبی با هنرش کاسبی نکرد؛ کاش قدرمان را بعد از مرگ ندانند!
بازیگر جوان «برکینگ بد» به پایان راه رسید؛ واکنش والتر وایت به مرگ پسرش
مازیار لرستانی پس از ۶ سال به کارگردانی بر‌میگردد
کشف استعدادها کافی نیست؛ هنرمندان جوان به حمایت مستمر نیاز دارند
جواد رضویان: انتقال گویش قمی به آیندگان، میراثی مهم برای حفظ هویت بومی است
بازگشت ۴۸ هزار کودک بازمانده از تحصیل به مدرسه
کاظمی: کمبود کتاب درسی در مدارس ناشی از جابه‌جایی دانش‌آموزان است
وزیر آموزش و پرورش: جنایت میناب در تاریخ ثبت خواهد شد
روایتی تازه از زندگی آیت الله سیدمحمود طالقانی به کتابفروشی‌ها رسید
تمدید مهلت ثبت نام و انتخاب رشته در پذیرش بدون کنکور سال ۱۴۰۵
تعطیلی یک ساختمان واحد علوم و تحقیقات؛ نشت گاز تکذیب شد
اعمال تأثیر مثبت معدل در آزمون‌های علوم پزشکی با شرایط جدید
کاوشگر استقامت ناسا رکورد راهپیمایی روی مریخ را شکست
دبیر شورای عالی فضای مجازی: توان قطع اینترنت استارلینک را داریم
نحوه آگاه سازی مشتریان از تخفیف‌ها؛ راهکارهایی برای افزایش فروش
۲۲ میلیون پوند برای تجاری‌سازی نانوماده‌ای که آینده را می‌سازد
رونمایی از لندری برای ماموریت فضایی با ۷ سیارک
مدرسه انگلیسی مداد و کاغذ را به لپ تاپ ترجیح داد
انتخاب رشته آزمون دستیاری دندانپزشکی آغاز شد
بیش از ۱۸۰ دانشجو و استاد سال گذشته شهید شدند/ضرورت تبدیل «آموزش ایستادگی» به یک اصل تاریخی
اعلام حدنصاب قبولی آزمون‌های علوم پایه پزشکی و دندانپزشکی، پیش‌کارورزی
تقویت کلاس هوشمند به دستور رئیس جمهور؛ احتمال وقفه آموزش به دلیل جنگ
مراسم بازگشایی دانشگاه‌ها با حضور رئیس جمهور برگزار شد
جف بزوس: هوش مصنوعی هفته کاری را به ۳ روز کاهش می‌دهد
خلق عکسی از ۱۱۰ جسم آسمانی در ۳۵۲ ساعت
مخزن تحت فشار چگونه طراحی، ساخته و آزمایش می‌شود؟
حسگر مچی عرق بدن را می سنجد
پهپاد هواشناسی چندبارمصرف برای پرواز در ارتفاع ۱۰ کیلومتری
وزیر آموزش و پرورش: هیچ کودکی نباید قربانی فقر و محرومیت شود
شبکه دانش‌آموختگان سمپاد راه‌اندازی شد
عدالت آموزشی یعنی هیچ استعدادی از فرصت رشد محروم نماند
مدارس جدید بدون مناسب‌سازی افتتاح نمی‌شوند
تهران ملی‌ترین شهر ایران است
از تسخیر اذهان تا بحران حقیقت؛ بازخوانی دو اثر تازه در عصر رسانه
چرا سیدحسن حاضر بود همه فرماندهانش شهید شوند اما ایران آسیب نبیند؟
راغب از تازه‌ترین آلبوم خود رونمایی کرد؛ دنبال جذب و دفع فالوور نیستم!
ارتقای ۹ پله‌ای دانشگاه صنعتی امیرکبیر در ارزیابی شبکه آزمایشگاهی کشور
ردپای یک متخصص امنیت سایبری کانادا در سرقت از اف بی آی
تلسکوپ جیمز وب منشأ یک انفجار سریع رادیویی دوردست را شناسایی کرد
خرابکاری جدید کلاود؛ نفوذ به وب سایت های دولتی آمریکا
ایلان ماسک یک مدیر فناوری هندی را مسخره می کند!
حمایت ۱۲۰میلیون تومانی دانشگاه امام صادق (ع) از رتبه‌های زیر ۵۰۰ کنکور
بررسی راهکارهای پذیرش دانشجویان بین‌الملل در دانشگاه الزهرا(س)
جذب رتبه‌های برتر در رشته های اولویت دار کشور در کنکور ۱۴۰۵
مهلت انتخاب رشته کنکور ۱۴۰۵ تمدید نمی‌شود
اصلاحات شرایط استخدام اعضای هیئت علمی؛ تغییر محاسبه فوق‌العاده حقوق
نتایج نهایی پذیرش در پنجاه و سومین دوره آزمون دستیاری پزشکی اعلام شد
صدور حکم بدوی برای ۳۰ پرونده انضباطی دانشجویان؛ حکم اخراجی نداشتیم
وام دستیاری برای متاهلین و مجردین ۴۰ و ۳۰ میلیون تعیین شد
جدیدترین آمار انتخاب رشته در کنکور ۱۴۰۵؛ فردا آخرین فرصت انتخاب رشته
افزایش چشمگیر کاربران وفادار به سکوهای ایرانی؛ خدمات سکوها پایدار شد
ترکیه دسترسی کودکان زیر ۱۵ سال به شبکه‌های اجتماعی را ممنوع کرد
آغاز آنلاین مشاوره و آموزش سلامت روان؛ خدمات سلامت روان با زبان نسل زد
شیوه جدید پذیرش دانشجو در دوره های «هم‌آموز» کلید خورد
تأکید بر توسعه بازرسی‌های پیشگیرانه و داده‌محور در وزارت ارتباطات
مجلات نمایه‌شده SCIE و ESCI در ارزشیابی مقالات دارای اعتبار ISI هستند
اختصاص بورس نخبگان دانشگاه تهران به رتبه های زیر ۱۰۰ در کنکور
تعلیق برنامه گرین‌کارت مایکروسافت
ساعت ۱۲ امشب آخرین مهلت انتخاب رشته در کنکور سراسری سال ۱۴۰۵
مهلت ثبت‌نام آزمون وکالت مرکز وکلای قوه قضائیه مجدد تمدید شد
تمدید مهلت انتخاب رشته آزمون های سراسری و پذیرش دانشجو معلم تا ۱۹ مهر
مخاطرات ورود هوش مصنوعی به کلاس‌های درس
اوپن ای آی میزان استفاده روزانه نوجوانان از چت بات را اعلام کرد
بخشنامه و ضوابط جامع فعالیت مؤسسات جذب دانشجویان بین‌الملل ابلاغ شد
رشته‌محل‌های جدید و اصلاحات دفترچه انتخاب رشته کنکور ۱۴۰۵ اعلام شد
شرایط خوابگاهی دانشگاه‌های کشور برای داوطلبان کنکور ۱۴۰۵ اعلام شد
تحلیل وزیر آموزش و پرورش از نقش فراجا در تأمین امنیت کشور
مجتبی جباری به «هم‌کلام» می‌آید
اختتامیه رویداد ملی «همچو سرو» برگزار شد
«پپا»، همراه کوچک کودکان در یک روز پرماجرا
روایت ۸۰ روز زندگی یک خبرنگار در دل جنگ غزه، منتشر شد
وقتی صدای جمع، صدای عقل را خاموش می‌کند
برگزاری نشست تخصصی «مبانی الهیاتی و اجتماعی جان‌فدا» در تهران
رشته‌محل‌های جدید و اصلاحات دفترچه انتخاب رشته کنکور ۱۴۰۵ اعلام شد
تمدید مهلت انتخاب رشته آزمون های سراسری و پذیرش دانشجو معلم تا ۱۹ مهر
مهلت ثبت‌نام آزمون وکالت مرکز وکلای قوه قضائیه مجدد تمدید شد
ساعت ۱۲ امشب آخرین مهلت انتخاب رشته در کنکور سراسری سال ۱۴۰۵
شرایط خوابگاهی دانشگاه‌های کشور برای داوطلبان کنکور ۱۴۰۵ اعلام شد
بخشنامه و ضوابط جامع فعالیت مؤسسات جذب دانشجویان بین‌الملل ابلاغ شد
اصلاحات شرایط استخدام اعضای هیئت علمی؛ تغییر محاسبه فوق‌العاده حقوق
نتایج نهایی پذیرش در پنجاه و سومین دوره آزمون دستیاری پزشکی اعلام شد
جذب رتبه‌های برتر در رشته های اولویت دار کشور در کنکور ۱۴۰۵
اختصاص بورس نخبگان دانشگاه تهران به رتبه های زیر ۱۰۰ در کنکور
مهلت انتخاب رشته کنکور ۱۴۰۵ تمدید نمی‌شود
تعلیق برنامه گرین‌کارت مایکروسافت
صدور حکم بدوی برای ۳۰ پرونده انضباطی دانشجویان؛ حکم اخراجی نداشتیم
جدیدترین آمار انتخاب رشته در کنکور ۱۴۰۵؛ فردا آخرین فرصت انتخاب رشته
آغاز آنلاین مشاوره و آموزش سلامت روان؛ خدمات سلامت روان با زبان نسل زد
شیوه جدید پذیرش دانشجو در دوره های «هم‌آموز» کلید خورد
مخاطرات ورود هوش مصنوعی به کلاس‌های درس
وام دستیاری برای متاهلین و مجردین ۴۰ و ۳۰ میلیون تعیین شد
تحلیل وزیر آموزش و پرورش از نقش فراجا در تأمین امنیت کشور
بررسی راهکارهای پذیرش دانشجویان بین‌الملل در دانشگاه الزهرا(س)
مجلات نمایه‌شده SCIE و ESCI در ارزشیابی مقالات دارای اعتبار ISI هستند
اختتامیه رویداد ملی «همچو سرو» برگزار شد
«پپا»، همراه کوچک کودکان در یک روز پرماجرا
روایت ۸۰ روز زندگی یک خبرنگار در دل جنگ غزه، منتشر شد
وقتی صدای جمع، صدای عقل را خاموش می‌کند
مشاوران مبعوث؛ پیشگامان هدایت آگاهانه و انتخاب رشته کنکور
حمایت ۱۲۰میلیون تومانی دانشگاه امام صادق (ع) از رتبه‌های زیر ۵۰۰ کنکور
اوپن ای آی میزان استفاده روزانه نوجوانان از چت بات را اعلام کرد
افزایش چشمگیر کاربران وفادار به سکوهای ایرانی؛ خدمات سکوها پایدار شد
تأکید بر توسعه بازرسی‌های پیشگیرانه و داده‌محور در وزارت ارتباطات
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.