به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپن‌ای‌آی»(OpenAI) شکایت کرده‌اند و ادعا داشته‌اند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایت‌ها به نقش چت‌بات «چت‌جی‌پی‌تی»(ChatGPT) در خودکشی اعضای خانواده پرداخته‌اند و سه مورد دیگر ادعا داشته‌اند چت‌جی‌پی‌تی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبت‌های روانپزشکی منجر شده‌اند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چت‌جی‌پی‌تی گفت‌وگویی داشت که بیش از چهار ساعت طول کشید. در گزارش‌های ارائه‌شده از این گفت‌وگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشت‌های خودکشی نوشته، گلوله‌ای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چت‌جی‌پی‌تی گفته بود که چقدر انتظار زنده ماندن دارد. چت‌جی‌پی‌تی او را تشویق کرد تا نقشه‌هایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپن‌ای‌آی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیش‌فرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایت‌های مطرح‌شده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناخته‌شده‌ای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیت‌های مضری را ابراز می‌کردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیش‌بینی تصمیم عمدی اوپن‌ای‌آی برای محدود کردن آزمایش‌های ایمنی و عرضه سریع چت‌جی‌پی‌تی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیه‌ای پیش‌بینی نشده نبود، بلکه نتیجه قابل پیش‌بینی انتخاب‌های عمدی اوپن‌ای‌آی در طراحی بود.
همچنین، در این دادخواست‌ها ادعا شده است که اوپن‌ای‌آی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایش‌های ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرح‌شده در سایر پرونده‌های حقوقی اخیر هستند که ادعا می‌کنند چت‌جی‌پی‌تی می‌تواند افراد متمایل به خودکشی را به عملی کردن برنامه‌هایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپن‌ای‌آی اخیراً داده‌هایی را منتشر کرده است که نشان می‌دهند بیش از یک میلیون نفر هر هفته با چت‌جی‌پی‌تی درباره خودکشی صحبت می‌کنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ ساله‌ای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چت‌جی‌پی‌تی گاهی اوقات او را تشویق می‌کرد تا به دنبال کمک حرفه‌ای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روش‌های خودکشی برای نوشتن یک داستان تخیلی سؤال می‌پرسد، از این موانع بگذرد.
اوپن‌ای‌آی ادعا کرده است که سعی دارد چت‌جی‌پی‌تی را برای مدیریت این گفت‌وگوها به شیوه‌ای امن‌تر اصلاح کند، اما برای خانواده‌هایی که از این غول هوش مصنوعی شکایت کرده‌اند، این اصلاحات خیلی دیر اعمال شده‌اند.
وقتی والدین رین در ماه اکتبر از اوپن‌ای‌آی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چت‌جی‌پی‌تی درباره گفت‌وگوهای حساس پیرامون سلامت روان پرداخته شده بود.
منبع : اپن ای ای
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل می‌کنند. ما به مرور زمان آموخته‌ایم که این اقدامات حفاظتی گاهی اوقات می‌توانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفت‌وگو، بخش‌هایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : اپین ای ای
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
تأکید بر حمایت از ظرفیت‌های بومی امنیت سایبری
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام می‌کند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
با وجود تحریم‌ها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکت‌های اروپا
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
انتخابات میان‌دوره‌ای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
تب هوش مصنوعی در شرکت‌ها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل می‌کند و سلامت بیمار را به خطر می‌اندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پل‌های مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدال‌هایشان را می‌بینیم؟
کتاب «هم‌سفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمی‌گردد
کمبود جدی فضای آموزشی در مناطق حاشیه‌ای و پرتراکم شهری
دانش‌آموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
محرابی که در عید قربان تبریز به خون نشست؛ نخستین شهید محراب که بود؟
نمایشگاه جدید موزه «جستجوی ایران» افتتاح شد؛ بازخوانی ریشه‌های بحران هویت و گسست تاریخی
رمانی در ستایش قدیس مهربانی برنده جایزه بزرگ رمان آکادمی فرانسه شد
۱۷۳ هنرمند در جشنواره هنرهای تجسمی جوانان رقابت می‌کنند
تنوع دیدگاه‌ها معیار انتخاب در کارگاه نقاشی جشنواره تجسمی جوانان است
هومن کیایی و مجتبی رجبی‌معمار «داستان زندگی من» را روایت می‌کنند
فیلم‌های «بالاچ» و «سومری‌ها» اکران می‌شوند
معرفی اعضای هیئت انتخاب آثار جشنواره تئاتر خیابانی مریوان
تلاش برای کشف استعدادها؛ بخش بین‌المللی تئاتر نیاز به تقویت دارد
یک بازار سه روایت؛ بندرعباس در تهران تماشایی شد
متا خارج از دادگاه نوجوان شاکی را راضی به تسویه کرد
دانشگاه آزاد اسلامی در زمره ۱۰۰ دانشگاه برتر جهان قرار دارد
اجرای طرح فروش حضوری و مجازی کتاب‌فروشی‌ها در «بازار کتاب»
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
رویا میرعلمی مهمان آخرین قسمت «هم‌کلام» می‌شود
اپل لپ تاپ گرانقیمت با نمایشگر لمسی را معرفی کرد
نقشم در «نسخه آزمایشی» از من دور بود؛ سارقی که بعد از نامزدی توبه کرد
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
گرم‌کن گرافنی ژاپنی در سه ثانیه گرم می‌شود
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
از بازتاب سخنان تلخ اکبر زنجان‌پور تا گرامی‌داشتی برای اکبر عبدی
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
«کافه سلطان»؛ روایت زندگی روزمره در سایه جنگ
یک بازار سه روایت؛ بندرعباس در تهران تماشایی شد
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
معرفی آثار ۲ بخش از جشنواره فیلم مقاومت
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
تب هوش مصنوعی در شرکت‌ها هم داغ شد
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.