به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپنایآی»(OpenAI) شکایت کردهاند و ادعا داشتهاند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایتها به نقش چتبات «چتجیپیتی»(ChatGPT) در خودکشی اعضای خانواده پرداختهاند و سه مورد دیگر ادعا داشتهاند چتجیپیتی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبتهای روانپزشکی منجر شدهاند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چتجیپیتی گفتوگویی داشت که بیش از چهار ساعت طول کشید. در گزارشهای ارائهشده از این گفتوگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشتهای خودکشی نوشته، گلولهای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چتجیپیتی گفته بود که چقدر انتظار زنده ماندن دارد. چتجیپیتی او را تشویق کرد تا نقشههایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپنایآی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیشفرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایتهای مطرحشده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناختهشدهای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیتهای مضری را ابراز میکردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیشبینی تصمیم عمدی اوپنایآی برای محدود کردن آزمایشهای ایمنی و عرضه سریع چتجیپیتی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیهای پیشبینی نشده نبود، بلکه نتیجه قابل پیشبینی انتخابهای عمدی اوپنایآی در طراحی بود.
همچنین، در این دادخواستها ادعا شده است که اوپنایآی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایشهای ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرحشده در سایر پروندههای حقوقی اخیر هستند که ادعا میکنند چتجیپیتی میتواند افراد متمایل به خودکشی را به عملی کردن برنامههایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپنایآی اخیراً دادههایی را منتشر کرده است که نشان میدهند بیش از یک میلیون نفر هر هفته با چتجیپیتی درباره خودکشی صحبت میکنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ سالهای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چتجیپیتی گاهی اوقات او را تشویق میکرد تا به دنبال کمک حرفهای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روشهای خودکشی برای نوشتن یک داستان تخیلی سؤال میپرسد، از این موانع بگذرد.
اوپنایآی ادعا کرده است که سعی دارد چتجیپیتی را برای مدیریت این گفتوگوها به شیوهای امنتر اصلاح کند، اما برای خانوادههایی که از این غول هوش مصنوعی شکایت کردهاند، این اصلاحات خیلی دیر اعمال شدهاند.
وقتی والدین رین در ماه اکتبر از اوپنایآی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چتجیپیتی درباره گفتوگوهای حساس پیرامون سلامت روان پرداخته شده بود.
منبع : اپن ای ای
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل میکنند. ما به مرور زمان آموختهایم که این اقدامات حفاظتی گاهی اوقات میتوانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفتوگو، بخشهایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : اپین ای ای
پلیس چین با این عینک جاده ها را کنترل می کند
چینیها قطار را به هواپیما تبدیل کردند! | رکورد ساخت سریعترین قطار جهان شکست
شیائومی از یک ماشین لباسشویی ۱۴ کیلوگرمی پیشرفته مجهز به HyperOS رونمایی کرد
ارزانترین یخچالهای ایرانی بازار را بشناسید
الجی اولین تلویزیون Micro RGB خود را معرفی کرد
رم گران شد، گوشیهای ۱۶ گیگابایتی نایاب می شوند
مقایسه گلکسی تب S۱۱ اولترا و گلکسی تب S۱۰ اولترا
یافتن ذخائر طلا در عمق زمین راحت شد
عقبنشینی گوگل مقابل دیزنی
رباتها را مثل بازی موبایل کنترل کنید
کوچکترین رباتهای جهان متولد شدند
واکنش کاظمی به حواشی اخیر پخش موسیقی در مدارس
پیگیری مشکلات و مطالبات معلمان
هشدار نسبت به نفوذ ناهنجاریها در پوشش فعالیتهای فرهنگی و هنری مدارس
آلبوم تصاویر بارش شهابی جوزایی ۲۰۲۵
اعمال تغییرات جزئی در سند مواد پیشرفته
موشک اطلس ۵ ماهوارههای آمازون را راهی مدار زمین کرد
یک ایستگاه لرزهنگاری باند پهن وارد مدار مؤسسه ژئوفیزیک شد
عکس تلسکوپ فضایی هابل از یک کهکشان با دنباله گازی
استارتآپی که میخواهد انرژی را با لیزر از فضا به زمین منتقل کند
درس صبری که از امام روح الله باید بیاموزیم
آشوریها چه کسانی هستند؟
تفاله هوش مصنوعی لغت سال فرهنگ وبستر شد
آسفالت ساخته شده با جلبک ترک نمیخورد
موی انسان، ابزار جدید سنجش آلودگی هوا
جیمز وب اولین شواهد از دایناسورهای کیهانی را کشف کرد
رم گران شد، گوشیهای ۱۶ گیگابایتی نایاب می شوند
چرا قبل از اینکه ساعت زنگ بزند، از خواب بیدار میشویم
کشف ارتباط ژنتیکی میان حساسیت به صداهای روزمره و اختلالات روانی
تحصیل بیش از ۲۳ درصد دانشآموزان تهرانی در مدارس غیردولتی/تهران نیازمند ۵۰۰۰ کلاس درس جدید
آغاز ثبتنام آزمون پذیرش دانشجو معلم سال ۱۴۰۵
دانشآموزان در حال آماده شدن برای امتحانات نوبت اول/ ارزشیابی اوراق در اختیار مدارس است
نیروی انسانی مهمترین عامل اقتدار کشورها
اولین پرواز موفق پهپاد جاسوسی رادارگریز چین با سرعت ۱۰۰۰ کیلومتر در ساعت
هوش مصنوعی، نقشه میدان مغناطیسی خورشید را ترسیم کرد
هشدار درباره بزهدیدگی خاموش کودکان در فضای مجازی
چرخه معیوب غیر قابل شکستی که بیخوابی در مغز ایجاد میکند!
کاخ سفید پا به میدان هوش مصنوعی گذاشت
شناسایی قربانی انفجار بمب اتمی ژاپن پس از ۸ دهه
ثبتنام آزمون پذیرش دانشجو معلم سال ۱۴۰۵ آغاز شد
پذیرش دانشجویان خارجی با نظارت کامل معاونت آموزشی و رعایت ظرفیت
تشکیل کارگروه ویژه برای حل بحران مدارک دانشجویان پیام نور
نابودی یک درخت ۵۰۰۰ ساله با یک اشتباه شوک آور
پرندهای که ۱۰ ماه بدون توقف پرواز میکند!
کدام گوشی های سامسونگ بهروزرسانی جدید را دریافت می کنند؟
درباره پوکو X۸ پرو چه میدانیم؟
رصد دوز پرتو در نیروگاههای هستهای و مراکز پرتودرمانی با خوانشگر بومی
وظیفه بزرگِ انگشت کوچک پا / اگر نباشد چه میشود؟
ایران در فهرست کشورهای پیشرفته درمان با پیوند مدفوع (اینفوگرافیک)
روش قطعی افزایش عمر کشف شد؛ اما چرا کسی حاضر نیست آن را امتحان کند؟
آیا واقعاً کفش پاشنهبلند شکل پا را تغییر میدهد
راهحل جدید برای تعامل طبیعی و ایمن رباتها با انسان
کشف لایه سنگی ۲۰ کیلومتری زیر برمودا؛ راز ارتفاع غیرعادی کف اقیانوس فاش شد
انتخاب شهردار در مدارس استثنایی تهران برای نخستین بار
آگهی/ تفاوت میکروسکوپ بیولوژی دو چشمی و سه چشمی
تبدیل مدارس به کانونهای فعال برای معرفی پروژههای اثرگذار/ حضور ۷۰۰ شهردار مدرسه در تهران
بطحایی: تحقق عدالت آموزشی بدون نقشه راه در حد شعار باقی میماند
ثروتمندان به مدارس غیرانتفاعی روی آوردهاند/ نظام آموزش عمومی، مدرسه طبقات متوسط شده است
۱۰ فناوری برتر که در سال ۲۰۲۶ پیشرفت خواهند کرد
آلبوم تصاویر فضایی روزهای گذشته به انتخاب آژانس فضایی اروپا
ایلان ماسک آزمایش روبوتاکسی بدون راننده تسلا را تأیید کرد
استفاده از نانوذرات برای رهایش داروی ضدسرطان پستان
دشمنی که حتی نمیتوانست نام امام علی(ع) را تحمل کند
خداوند بزرگ چه نیازی به خلقت انسان داشت؟
چرا باید نماز بخوانیم؟
پاسخ خواندنی قرآن به کسانی که معاد را انکار میکنند
حدیث صریح و واضحی درباره ولایت فقیه داریم؟
ملکه چند روزه متولد میشود؟زمان دقیق تولد ملکه
آمپول لاغری ایران ساخت، رونمایی شد
آیا ما فقط از ۱۰ درصد توان مغز خود استفاده میکنیم؟
چرا در هوای سرد میلرزیم؟
جذابیت مرگبار پودر درخشان / درخشش پودر آبی چطور یک شهر را به کابوسی هستهای فرو برد؟
وعده تازه ایلان ماسک: استارلینک با سرعت گیگابیتی در راه است
افشای طراحی و تاریخ معرفی هواوی نوا ۱۵
سامسونگ چه در چنته دارد؟ برگ برنده گلکسی S۲۶ لو رفت
چرا شیشه ضدگلوله ترک میخورد اما نمیشکند؟
این خودرو لوکس فقط برای ۹۰ نفر در دنیا ساخته شده است
کروموزوم Y در حال نابودی است؟ حقیقت علمی درباره آینده مردان
اطلاعات خانوارهای کودکان بازمانده از تحصیل در اختیار آموزش و پرورش قرار میگیرد
امروز؛ آخرین مهلت ثبتنام در المپیادهای علمی کشور
هبة الله صفت کدام پیامبر بود؟
داوران فصل جدید حسینیه معلی معرفی شدند
باز شدن قفل درهای بسته با این ذکر مجرب
راز برآورده شدن حاجات از زبان استاد آیت الله بهجت
دعای همیشگیِ قنوت آیتالله العظمی خوئی
خداوند بزرگ چه نیازی به خلقت انسان داشت؟
اثر شگفتانگیز دعای مادر در حدیثی از پیامبر اسلام (ص)
دشمنی که حتی نمیتوانست نام امام علی(ع) را تحمل کند
آیا واقعا سادات برای فرار از ظلم خلفا به ایران آمدند؟
نامهای از بهشت از خدای متعال به بنده مؤمن
نماز خواندن با دندان طلا برای مردان صحیح است؟
بوسه حاج قاسم عزیز بر کف پای مادر
این فرمانده محبوب خود را پاسدار معمولی معرفی میکرد
پاسخ خواندنی قرآن به کسانی که معاد را انکار میکنند
آشوریها چه کسانی هستند؟
تینو صالحی سرگرد کلانتری ۱۱ شد
دستور اخلاقی پیامبر(ص) به حضرت زهرا (س)
مسعود کیمیایی به زودی ترخیص میشود
مرضیه برومند پس از ۱۶ سال مقابل دوربین رفت
آخرین خبر از وضعیت سلامتی هوشنگ مرادی کرمانی
شفاعت حضرت زهرا (س)، باعث گستاخی گنهکاران در ارتکاب گناه نمیشود؟
ماجرای بازبینی و اصلاح وصیتنامه امام خمینی(ره) چه بود؟
شیوهای که شهید ماهانی به مادرش احترام میگذاشت
حدیث صریح و واضحی درباره ولایت فقیه داریم؟
داستان یک رئیس جمهور شهید در لابهلای کتابها
چرا برحضرت فاطمه (س) صلوات میفرستیم؟
سینهزنی در جشن تولد امامان جایز است؟
جشن میلاد حضرت زهرا (س) هیئت کجا بریم؟
امان مردم غریب و بیامان خوش آمدی / دلیل خلقت زمین و آسمان خوش آمدی
مواجهه نویسندگان با امام رضا(ع) چگونه بود؟
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.