به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپنایآی»(OpenAI) شکایت کردهاند و ادعا داشتهاند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایتها به نقش چتبات «چتجیپیتی»(ChatGPT) در خودکشی اعضای خانواده پرداختهاند و سه مورد دیگر ادعا داشتهاند چتجیپیتی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبتهای روانپزشکی منجر شدهاند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چتجیپیتی گفتوگویی داشت که بیش از چهار ساعت طول کشید. در گزارشهای ارائهشده از این گفتوگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشتهای خودکشی نوشته، گلولهای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چتجیپیتی گفته بود که چقدر انتظار زنده ماندن دارد. چتجیپیتی او را تشویق کرد تا نقشههایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپنایآی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیشفرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایتهای مطرحشده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناختهشدهای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیتهای مضری را ابراز میکردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیشبینی تصمیم عمدی اوپنایآی برای محدود کردن آزمایشهای ایمنی و عرضه سریع چتجیپیتی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیهای پیشبینی نشده نبود، بلکه نتیجه قابل پیشبینی انتخابهای عمدی اوپنایآی در طراحی بود.
همچنین، در این دادخواستها ادعا شده است که اوپنایآی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایشهای ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرحشده در سایر پروندههای حقوقی اخیر هستند که ادعا میکنند چتجیپیتی میتواند افراد متمایل به خودکشی را به عملی کردن برنامههایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپنایآی اخیراً دادههایی را منتشر کرده است که نشان میدهند بیش از یک میلیون نفر هر هفته با چتجیپیتی درباره خودکشی صحبت میکنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ سالهای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چتجیپیتی گاهی اوقات او را تشویق میکرد تا به دنبال کمک حرفهای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روشهای خودکشی برای نوشتن یک داستان تخیلی سؤال میپرسد، از این موانع بگذرد.
اوپنایآی ادعا کرده است که سعی دارد چتجیپیتی را برای مدیریت این گفتوگوها به شیوهای امنتر اصلاح کند، اما برای خانوادههایی که از این غول هوش مصنوعی شکایت کردهاند، این اصلاحات خیلی دیر اعمال شدهاند.
وقتی والدین رین در ماه اکتبر از اوپنایآی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چتجیپیتی درباره گفتوگوهای حساس پیرامون سلامت روان پرداخته شده بود.
منبع : اپن ای ای
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل میکنند. ما به مرور زمان آموختهایم که این اقدامات حفاظتی گاهی اوقات میتوانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفتوگو، بخشهایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : اپین ای ای
نماز شب اول قبر چگونه خوانده میشود؟ زمان اقامه نماز رهبر شهید
سیره امام سجاد(ع) در کادرسازی فکری و تجدید حیات معنوی جامعه
دستیابی به جامعه قرآنی هدف متعالی رهبر شهید
گسست معرفتی در اندیشه ایرانی از چالشها تا راهکارها
لبنانیها هفته بزرگداشت تشییع امام مستضعفان را برگزار می کنند
آرامگاه ابدی رهبر شهید انقلاب در رواق دارالذکر حرم امام رضا(ع)
تصویر/ما همه خونخواه توییم خامنهای...
پیکر رهبر شهید و خانواده ایشان در این رواق حرم مطهر رضوی به خاک سپرده میشود
برای بابای زهرای کوچک و آزمون سخت او در شهادت زن و فرزند
ریشه انتقام در فرهنگ ایرانی شیعی به کجا برمیگردد؟
روسیه به دنبال مختل کردن استارلینک در اوکراین
تأکید شورای عالی انقلاب فرهنگی: تعیین تاریخ امتحانات نهایی و کنکور بر عهده متولیان اجرایی
کاهش تنوع مدارس با هدف تحقق عدالت آموزشی در دستور کار آموزش و پرورش
شیوهنامه اجرایی طرح حامی ویژه تابستان ۱۴۰۵ ابلاغ شد
درخشش تیم ملی المپیاد فیزیک جمهوری اسلامی ایران در مسابقات جهانی
وداع با معلم یک ملت تجلی سرمایه اجتماعی یک ملت
جایگاه آموزش و پرورش در منظومه فکری رهبر شهید کجا بود؟
رتبه نخست دانشگاه صنعتی امیرکبیر در شاخص نوآوری
توزیع کارت کنکور ارشد از ۲۲ تیر آغاز میشود
اطلاعیه دانشگاه آزاد درباره امتحانات دانشجویان تحصیلات تکمیلی
نسخه جدید چت جی تی پی راه اندازی میشود
رباتها حس لامسه پیدا میکنند
یک خبر ترسناک: ربات انسان نما به همکارانش حمله کرد
زبالههای فضایی در ساحل استرالیا نمایان شدند
تولید سوخت جت پایدار از دی اکسیدکربن صنعتی ممکن شد
کاوشگر ژاپنی توانست از یک سیارک تصویر ثبت کند
هوش مصنوعی دیپ سیک به دنبال تراشه سازی رفت
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
گلباران پیکر مطهر رهبر شهید انقلاب توسط دانشجویان
اقتدار علمی ایران؛ محور همیشگی رهنمودهای رهبر شهید
رهبر شهید ایران در آغوش ملت ایران
کلاسهای تابستانی دانشگاه آزاد مجازی شد
ضوابط برگزاری امتحانات مجازی و جزئیات ترم تابستان شریف اعلام شد
گروههای امدادی دانشگاه آزاد از نخستین لحظات تشییع رهبر شهید به خدمترسانی زائران پرداختند
محتوای کاربران گوگل برای آموزش هوش مصنوعی به کار میرود
تصویری از مراسم بدرقه رهبر شهید انقلاب
حضرت آیت الله جوادی آملی در جمکران بر پیکر رهبر شهید انقلاب نماز می خواند
هوش مصنوعی وارد عصر امنیت ملی میشود
بسیج همهجانبه دانشگاه آزاد برای خدمت زائران امام شهید
نگاهی به حضور کسب و کارهای مجازی در بدرقه رهبر شهید
هدایتهای روشنگرانه رهبر شهید در حوزه علم و فناوری
شماره جدید مجله دانشمند منتشر شد
چه کسی بر پیکر رهبر کبیر انقلاب نماز اقامه کرد؟
تشییع رهبر شهید انقلاب، صحنهای تاریخی برای نمایش وفاداری ملت ما است
جامعه رستگار، راهبرد رهبر شهید در امت سازی
«آیفون» به تنهایی کسی را مدرن نمیکند/اخلاق ویژه جامعه شبهمدرن شهری!
پویش ختم جمعی قرآن به یاد رهبر شهید
روایتی از نماد و معنا در انیمیشن های متاخر کودکان
کاظمی: ۵ هزار مدرسه برای اسکان زائران آماده شد
دعوت وزیر آموزش و پرورش از دانشآموزان و فرهنگیان برای حضور در آیین وداع و تشییع
میزبانی دانشگاه امیر کبیر از ۳۰۰۰ نفر از زائرین مراسم تشییع رهبر شهید
ماموریت نجات تلسکوپ ناسا آغاز شد
تعویق دوباره امتحانات نهایی دانش آموزان ممکن نیست
دعوت جهاددانشگاهی از دانشگاهیان برای حضور در مراسم تشییع رهبر شهید
تأکید بر صیانت از اقتدار ملی و تبعیت از رهبری در مذاکرات آتی
آمادگی دانشگاه علامه برای اسکان ۶ هزار زائر مراسم تشییع رهبر شهید
قابلیت جدید چت در تلگرام دردسرساز شد
توجه رهبر شهید به نخبگان؛ تحول سیاستگذاری علمی با محوریت نوآوری و نسل جوان
نقشۀ مسدودی خیابانهای منتهی به مصلی تهران
حضور سردار سید مجید موسوی در مراسم وداع با رهبر شهید انقلاب
رزمندگان هوافضای سپاه در آماده باش کامل عملیاتی
کشف یک سیاره قابل سکونت در ۲۵ سال نوری از زمین
چگونه ناتوانی دولت قاجار و ظلم دشمن، «قحطی بزرگ»را در جنگ جهانی رقم زد؟
دعوت معاون علمی رئیس جمهور از نخبگان برای حضور در آیین تشییع رهبر شهید
دعوت ستاد کانونهای مساجد از مردم برای حضور در تشییع رهبر شهید
تصویری از یادبود کودکان مظلوم و شهید میناب
بازدید سردار وحیدی از بیمارستان موقت مصلای تهران
آیا تو را تشییع میکنیم، یا بخشی از هویت خویش را؟
رقیب چینی جدید اوپن ای آی و آنتروپیک از راه رسید
جمعیت حاضر در مقابل ورودی های منتهی به مصلی تهران
رهبر شهید انقلاب اسلامی، حکمرانان را خادمان ملت میدانستند
رهبر شهید: متن تاریخ، منظومه معرفت، میراث تمدن
واکنش زینب سلیمانی به آخرین وداع با رهبر شهید در حسینیه امام
سوء استفاده آمریکا و اسرائیل از هوش مصنوعی در جنگ
هماکنون انتظار دلدادگان رهبر شهید برای ورود به مصلی تهران
بسیج اپراتورها برای مدیریت ترافیک ارتباطی در مراسم تشییع رهبر شهید
گامی تازه در درمان نابینایی برداشته شد
مرحله کتبی آزمون پذیرش فلوشیپ پزشکی برگزار شد
دعوت بسیج اساتید برای شرکت در بدرقه باشکوه پیکر مطهر آقای شهید ایران
دانشگاهها برای وداع با رهبر شهید انقلاب آماده میشوند
بسیج همهجانبه دانشگاه آزاد برای خدمت زائران امام شهید
میزبانی دانشگاه امیر کبیر از ۳۰۰۰ نفر از زائرین مراسم تشییع رهبر شهید
دعوت جهاددانشگاهی از دانشگاهیان برای حضور در مراسم تشییع رهبر شهید
تصویری از مراسم بدرقه رهبر شهید انقلاب
اقتدار علمی ایران؛ محور همیشگی رهنمودهای رهبر شهید
توجه رهبر شهید به نخبگان؛ تحول سیاستگذاری علمی با محوریت نوآوری و نسل جوان
جمعیت حاضر در مقابل ورودی های منتهی به مصلی تهران
نقشۀ مسدودی خیابانهای منتهی به مصلی تهران
هوش مصنوعی وارد عصر امنیت ملی میشود
هدایتهای روشنگرانه رهبر شهید در حوزه علم و فناوری
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
دعوت معاون علمی رئیس جمهور از نخبگان برای حضور در آیین تشییع رهبر شهید
حضور سردار سید مجید موسوی در مراسم وداع با رهبر شهید انقلاب
چه کسی بر پیکر رهبر کبیر انقلاب نماز اقامه کرد؟
حضرت آیت الله جوادی آملی در جمکران بر پیکر رهبر شهید انقلاب نماز می خواند
شماره جدید مجله دانشمند منتشر شد
سوء استفاده آمریکا و اسرائیل از هوش مصنوعی در جنگ
قابلیت جدید چت در تلگرام دردسرساز شد
جامعه رستگار، راهبرد رهبر شهید در امت سازی
گلباران پیکر مطهر رهبر شهید انقلاب توسط دانشجویان
آمادگی دانشگاه علامه برای اسکان ۶ هزار زائر مراسم تشییع رهبر شهید
تأکید بر صیانت از اقتدار ملی و تبعیت از رهبری در مذاکرات آتی
نگاهی به حضور کسب و کارهای مجازی در بدرقه رهبر شهید
بازدید سردار وحیدی از بیمارستان موقت مصلای تهران
تشییع رهبر شهید انقلاب، صحنهای تاریخی برای نمایش وفاداری ملت ما است
ماموریت نجات تلسکوپ ناسا آغاز شد
کاظمی: ۵ هزار مدرسه برای اسکان زائران آماده شد
پویش ختم جمعی قرآن به یاد رهبر شهید
هماکنون انتظار دلدادگان رهبر شهید برای ورود به مصلی تهران
رزمندگان هوافضای سپاه در آماده باش کامل عملیاتی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.