به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپنایآی»(OpenAI) شکایت کردهاند و ادعا داشتهاند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایتها به نقش چتبات «چتجیپیتی»(ChatGPT) در خودکشی اعضای خانواده پرداختهاند و سه مورد دیگر ادعا داشتهاند چتجیپیتی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبتهای روانپزشکی منجر شدهاند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چتجیپیتی گفتوگویی داشت که بیش از چهار ساعت طول کشید. در گزارشهای ارائهشده از این گفتوگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشتهای خودکشی نوشته، گلولهای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چتجیپیتی گفته بود که چقدر انتظار زنده ماندن دارد. چتجیپیتی او را تشویق کرد تا نقشههایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپنایآی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیشفرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایتهای مطرحشده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناختهشدهای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیتهای مضری را ابراز میکردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیشبینی تصمیم عمدی اوپنایآی برای محدود کردن آزمایشهای ایمنی و عرضه سریع چتجیپیتی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیهای پیشبینی نشده نبود، بلکه نتیجه قابل پیشبینی انتخابهای عمدی اوپنایآی در طراحی بود.
همچنین، در این دادخواستها ادعا شده است که اوپنایآی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایشهای ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرحشده در سایر پروندههای حقوقی اخیر هستند که ادعا میکنند چتجیپیتی میتواند افراد متمایل به خودکشی را به عملی کردن برنامههایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپنایآی اخیراً دادههایی را منتشر کرده است که نشان میدهند بیش از یک میلیون نفر هر هفته با چتجیپیتی درباره خودکشی صحبت میکنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ سالهای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چتجیپیتی گاهی اوقات او را تشویق میکرد تا به دنبال کمک حرفهای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روشهای خودکشی برای نوشتن یک داستان تخیلی سؤال میپرسد، از این موانع بگذرد.
اوپنایآی ادعا کرده است که سعی دارد چتجیپیتی را برای مدیریت این گفتوگوها به شیوهای امنتر اصلاح کند، اما برای خانوادههایی که از این غول هوش مصنوعی شکایت کردهاند، این اصلاحات خیلی دیر اعمال شدهاند.
وقتی والدین رین در ماه اکتبر از اوپنایآی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چتجیپیتی درباره گفتوگوهای حساس پیرامون سلامت روان پرداخته شده بود.
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل میکنند. ما به مرور زمان آموختهایم که این اقدامات حفاظتی گاهی اوقات میتوانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفتوگو، بخشهایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : چت جی پی تی
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
هزینه ثبتنام جهش تحصیلی دانشآموزان اعلام شد
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
نگاهی به نقش توییتر در جنگ رسانهای دشمن در کتاب «توئیتری شدن سیاست»
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
طراح بازی «نجات دختران اپستین توسط بچههای میناب» از این بازی میگوید
درباره زندگی رازآمیز درختان در این کتاب بخوانید
هکرها پیامرسان دولتی فرانسه را هک کردند
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
اختراع کتی که هوا را به آب آشامیدنی تبدیل میکند
وزیر علوم: اساتید دانشگاه با امید و انگیزه در کلاس درس حاضر شوند
مقابله با موج محتوای غیرقانونی در بحرانها؛ بریتانیا شبکههای اجتماعی را ملزم به سازوکار ویژه کرد
شکایت جدید علیه OpenAI؛ ChatGPT نتوانست جلوی خودکشی کاربر را بگیرد
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
آگهی/ از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
ایلان ماسک نخستین تریلیونر دنیا میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
اهمیت هوش مصنوعی در مسیر ارتقای کیفیت آموزشی
جلسه تلاوت و هماندیشی قاریان بینالمللی مزین به نام رهبر شهید
فلسفه در اندیشه حضرت امام، مقدمهای ضروری برای رسیدن به عرفان است
جریان قاتلان حسین (ع) امروز در مقابل امت ایشان قرار گرفتهاند
جدایی متا از شریک چینی جنجالی کلید خورد
احتمال اعمال محدودیت دوباره بر اینترنت بینالملل وجود دارد؟
خدمات ابری گوگل در هند مختل شد
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
داستان جالب کندترین آزمایش جهان چه بود؟
تاثیر باورنکردنی چای بر سلامتی و افزایش طول عمر
اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
هشدار قالیباف به ترامپ و دیگر رهبران جهان+عکس
حجتالاسلام قمی: زبان در وصف شما مردم مبعوث شده قاصر است
طرح روضههای خانگی سدره به مناسبت ماه محرم آغاز به کار کرد
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید
زیرساخت حقیقی این سرزمین، تمدن کهن، فرهنگ و هنر ماندگارش است
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
اقتدار دفاعی ایران، ایدهای نو در بازیهای رومیزی
۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد
آئین اختتامیه روایت علوی برگزار شد
بازیهای تیم ملی فوتبال ایران در سینماها پخش میشود
معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی
روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایتهای اشتباه رسانهای گم شد
جزئیات برنامههای محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
پویش «ایران در پناه قرآن» تا پایان خرداد تمدید شد
برگزاری نمایشگاه معماری حرمین شریفین در مکه مکرمه
حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ
آیا در جنگ هرکاری مجاز است؟ نگاهی به اخلاق در میدان نبرد
تأثیر سوابق پایه یازدهم در کنکور ۱۴۰۵ مثبت شد / ۶ درس نهایی برای کنکور
راز حذف زمینههای فلسفی «یوگا» در نسخه مدرن
آذینبندی و شادیهای عمومی باید به عنوان مدخل معرفت باشد
فرایند محدودیت در اینترنت شفاف میشود؛ ماجرای اینترنت پرو و خط سفید چه بود؟
۷۸ درصد ترافیک اینترنت به حالت قبل و اول دی ماه بازگشت
آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه
مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است
تداوم فعالیت علمی دانشگاه شهید بهشتی با وجود آسیب در جنگ
ضیافت نور در آسمان خرداد؛ دیدار دو سیاره منظومه شمسی در آسمان ایران
نسخه جدید چتجیپیتی؛ از تولید عکس تا رزرو سفر در یک پنجره
مهلت دفاع از پایان نامه دستیاران پزشکی تا پایان آذر ۱۴۰۵ تمدید شد
حضوری شدن برخی امتحانات دانشگاه علم و صنعت در مقطع کارشناسی
ایران در جمع ۶ کشور دارای توان ساخت تجهیزات پیشرفته کرایوژنیک
چرا نقش استادان دانشگاه فراتر از کلاس درس است؟
انویدیا با غولهای فناوری کره جنوبی قرارداد بست
هوش مصنوعی زلزله یاب شد
ثبتنام خودکار ۸۵ درصد دانشآموزان ابتدایی در استان سمنان
فعالیت ۳۷ هزار سفیر سلامت دانشآموزی
هفته بینالمللی قرآن در کربلا افتتاح شد
چرا روابط فیلم «تهران کنارت» در سطح ماند؟
طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بینظیر
امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانشآموختگان فراهم شد
دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعالتر جهاد دانشگاهی صادر میشود
انویدیا با غولهای فناوری کره جنوبی قرارداد بست
دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاهها
بازیگر معروف ایرانی نقش ترامپ را بازی میکند+عکس
بیوک میرزایی: محبت مردم بزرگترین سرمایه یک هنرمند است
تأثیر سوابق پایه یازدهم در کنکور ۱۴۰۵ مثبت شد / ۶ درس نهایی برای کنکور
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵
آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه
متن جدید امیرحسین قیاسی در حمایت از ایران و در واکنش به جنگ
موقوفات چطور به حل مشکلات اقتصادی ورود کردهاند؟
امتحانات دانشگاه علمی کاربردی غیرحضوری شد
تأکید رئیس جهاددانشگاهی بر رفع موانع دیوانسالاری و بازگشت به شورای عالی انقلاب فرهنگی
مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است
امام در اصول فقه به «عرف عقلایی» اهمیت میداد
خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند
راز حذف زمینههای فلسفی «یوگا» در نسخه مدرن
روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف
مهلت دفاع از پایان نامه دستیاران پزشکی تا پایان آذر ۱۴۰۵ تمدید شد
چرا روابط فیلم «تهران کنارت» در سطح ماند؟
هفته بینالمللی قرآن در کربلا افتتاح شد
فعالیت ۳۷ هزار سفیر سلامت دانشآموزی
دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است
آخرین حضور و غیاب کودکان شهید میناب با حضور پرویز پرستویی
آیتالله مبلغی: نخستین ثمره استقامت، گشایش راهها و شکستن بنبستهاست
از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ
ضیافت نور در آسمان خرداد؛ دیدار دو سیاره منظومه شمسی در آسمان ایران
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.