به گزارش ثریا - هفت خانواده در روزهای اخیر علیه شرکت «اوپنایآی»(OpenAI) شکایت کردهاند و ادعا داشتهاند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.
به نقل از تک کرانچ، چهار مورد از این شکایتها به نقش چتبات «چتجیپیتی»(ChatGPT) در خودکشی اعضای خانواده پرداختهاند و سه مورد دیگر ادعا داشتهاند چتجیپیتی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبتهای روانپزشکی منجر شدهاند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چتجیپیتی گفتوگویی داشت که بیش از چهار ساعت طول کشید. در گزارشهای ارائهشده از این گفتوگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشتهای خودکشی نوشته، گلولهای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چتجیپیتی گفته بود که چقدر انتظار زنده ماندن دارد. چتجیپیتی او را تشویق کرد تا نقشههایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.
اوپنایآی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه کرد که به مدل پیشفرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایتهای مطرحشده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناختهشدهای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیتهای مضری را ابراز میکردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیشبینی تصمیم عمدی اوپنایآی برای محدود کردن آزمایشهای ایمنی و عرضه سریع چتجیپیتی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیهای پیشبینی نشده نبود، بلکه نتیجه قابل پیشبینی انتخابهای عمدی اوپنایآی در طراحی بود.
همچنین، در این دادخواستها ادعا شده است که اوپنایآی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایشهای ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرحشده در سایر پروندههای حقوقی اخیر هستند که ادعا میکنند چتجیپیتی میتواند افراد متمایل به خودکشی را به عملی کردن برنامههایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپنایآی اخیراً دادههایی را منتشر کرده است که نشان میدهند بیش از یک میلیون نفر هر هفته با چتجیپیتی درباره خودکشی صحبت میکنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ سالهای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چتجیپیتی گاهی اوقات او را تشویق میکرد تا به دنبال کمک حرفهای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روشهای خودکشی برای نوشتن یک داستان تخیلی سؤال میپرسد، از این موانع بگذرد.
اوپنایآی ادعا کرده است که سعی دارد چتجیپیتی را برای مدیریت این گفتوگوها به شیوهای امنتر اصلاح کند، اما برای خانوادههایی که از این غول هوش مصنوعی شکایت کردهاند، این اصلاحات خیلی دیر اعمال شدهاند.
وقتی والدین رین در ماه اکتبر از اوپنایآی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چتجیپیتی درباره گفتوگوهای حساس پیرامون سلامت روان پرداخته شده بود.
منبع : اپن ای ای
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل میکنند. ما به مرور زمان آموختهایم که این اقدامات حفاظتی گاهی اوقات میتوانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفتوگو، بخشهایی از آموزش ایمنی مدل ممکن است تضعیف شود.
منبع : اپین ای ای
شبکه شعب خودرو۴۵ به ۷۸ شعبه رسید
هلیا امامی: دوست داشتم از کلیشه دختر مثبت فاصله بگیرم
لباس مدرسه فقط فرم نیست، کودک باید آن را دوست داشته باشد
به مناسبت روز سینما: روزی که دوربین شهید آوینی روایتگر جنگ شد
کتاب عروس بی نشان ها: قرار بود یک عمر کنار هم باشند، اما جنگ مهلتشان نداد
حق کودک بر حریم خصوصی؛ چالشی برای فرهنگ دیجیتال ایران
نشر در لهستان؛ انتشار بیش از ۳۱هزار عنوان کتاب در سال ۲۰۲۵
نشان درجه یک هنری به این کارگردان اهدا شد: علیرضا داوودنژاد بدترین فیلمش هم «سینما» است
افزایش پذیرش دانشجو معلم تا سه برابر ظرفیت
۹۵ درصد مدارس کشور آماده بازگشایی هستند
ارزیابی سالانه یک میلیون و ۲۰۰ هزار نوآموز در برنامه سنجش
مهلت ثبت نام پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵ تمدید شد
تمدید مهلت ثبت نام پذیرش بدون آزمون کاردانی ویژه مهارتی سال ۱۴۰۵
پایان نخستین دوره پسادکتری علوم ورزشی امیرکبیر با محوریت هوش مصنوعی
بزرگترین رقابت دانشآموزی در حوزه کوانتوم و لیزر برگزار شد
شرکت انگلیسی دادههای مشتریانش را به هکرها داد
مهلت انتخاب رشته آزمون دستیاری پزشکی مجدد تمدید شد
حمله ایران معماری هوش مصنوعی امارات را تغییر داد؛ فرار دادهها به کوه
چالشهای مصوبه اخیر «ستاد ویژه ساماندهی فضای مجازی» از منظر حقوقی
مدیران ارشد هوش مصنوعی خواستار کندتر شدن پیشرفت آن شدند
قالیباف قانون ملی توسعه هوش مصنوعی را ابلاغ کرد
سهمیه ویژه کنکور برای آسیبدیدگان جنگ نیازمند بازنگری است
پارادوکس رفاه و رضایت؛ چرا مدرنیته ما را شادتر نکرد؟
پیوند عرفان کلاسیک با زیست انسان معاصر در شرح فتوحات مکیه باب ۵۶۰
عالمی که علم و مبارزه را به سنگر امامت جمعه پیوند زد
نظریات و رویکردهای اسلامی در خصوص مددکاری اجتماعی
نسل امروز بی ارادهتر از نسل قبل است؟
از تربت ۱۷ کیلویی تا یک میلیون سند تاریخی، جلوهای از حرم بانوی کرامت
حجتالاسلام قمی: مردم نمیگذارند قیمت پایان جنگ، فروختن عزت ایران باشد
جزئیات برگزاری بیستمین آزمون سراسری قرآن و عترت
خیابان و زندگی؛ واکاوی نقش زنان در پایداری اجتماعات شبانه
«دهکده سلامت» یادگار یک خیر بزرگ برای بیماران صعب العلاج
چرا عرفانهای نوپدید برای جوان امروز جذاباند؟
نگاهی به سریال «دیوار دفاعی»؛ ملی شدن صنعت نفت با چاشنی فوتبال
شعری از نظامی گنجوی موضوع یک انیمیشن کوتاه شد
دیوارنگاره میدان ولیعصر (عج) موقتا تغییر نمیکند؛ آغاز ایمنسازی
«اسکورت» بر صدر فروش روزانه نشست؛ استقبال از آزادی زنان زندانی
حسین علیزاده مهمان «همکلام» میشود
بازی «بومبوم» با حضور خانواده شهید طهرانیمقدم رونمایی شد
«ململ» مهمان نمایشگاه ایران نوشت شد
محرابی که منافقین را به وحشت انداخت؛ چرا مدنی باید ترور میشد؟
اپل به جمع تولید کنندگان موبایل تاشو پیوست
رئیس دانشگاه تهران: برای مقابله با تحریمهای علمی برنامهریزی میکنیم
روحانیِ پیونددهنده دین و آزادی
توصیه پذیرفته شدگان تیزهوشان، کدام آموزشگاه است؟!
برگزیدگان بیستمین جشنواره ملی شیخ بهایی معرفی و تقدیر شدند
اعلام وجه التزام اسناد وثیقه پذیرفتهشدگان تخصصی و فوقتخصصی پزشکی
علت توقف طرح جدید تغذیه دانشجویی چه بود؟
مهلت مجدد ثبتنام در آزمون ارشد علوم پزشکی ۱۴۰۵
ابلاغ دستورالعمل حجاب به زودی در دانشگاهها
تصمیم جدید وزارت علوم درباره ساماندهی دادههای دانشگاهی
آمار جالب از ازدواجهای دانشجویی: موفقیت ۹۴ درصد ازدواجهای دانشجویی طی ۱۲ سال گذشته
آزمونهای کاردانی مهارتی، کارشناسی ناپیوسته و سردفتری۲۰ شهریور برگزار میشود
روباتها در لهستان راهپیمایی کردند
ورود تاکسیهای خودران به ناوگان اوبر در لندن
آموزش ۶۵ هزار آموزگار ابتدایی برای استفاده از ظرفیت بازی و ورزش
وزیر آموزش و پرورش: دریافت هرگونه وجه هنگام ثبتنام در مدارس دولتی ممنوع است
برنامههای «زیست عفیفانه» از مهر در مدارس اجرا میشود
انتظار معاونت علمی از CVCها برای سرمایهگذاری در ۷هزار شرکت نوپا
کارنامه نهایی و دفترچه انتخاب رشته آزمون دستیاری منتشر شد
آلمان موشک و ۵ ماهواره به مدار زمین فرستاد
ظرفیت ۶ هزارنفری دستیاری پزشکی ۱۴۰۵؛ تعیین ظرفیت تعهد مناطق محروم
تحریم علم، رفتار علمی نیست؛ باید به دنبال مسیرهای جایگزین برای انتشار آثار محققان بود
بازنمایی قدرت نرم ایران در شرایط پساجنگ و جایزه جهانی دیپلماسی
آیا اصرار بر تفاوتهای فقهی، آب به آسیاب دشمنان وحدت اسلامی میریزد؟
انتظار، منطق دینی آمادگی تاریخی برای آینده موعود
«تحول تاریخی مفهوم فلسفه» با تقدیر از پرویز ضیاءشهابی رونمایی میشود
نگاهی به حکمرانی فضای مجازی در ایران از منظر تحلیل نهادی تنظیمگری
نظر قرآن درباره مسئولیت اجتماعی برای میانجیگری بین اختلاف زوجین
در همایش ادیان سن پترزبورگ چه گذشت؟ تاکید ایران بر مقاومت
حل موضوع حجاب با «مسئلهمندی مشترک»؛ مردم را درگیر مسئله وحدت کنیم
خود بنده فرهنگ درخشان تو آمد؛ آن قوم که از روی طمع، بنده تو را خواست
فروش «رویای نیمهشب» ۱۰۰ درصد افزایش یافت
نرگس آبیار: سینما را خودآموز یاد گرفتم
بزرگداشت جین فوندا در ونیز؛ از ترامپ بیزارم!
رونمایی از تندیس اکبر عبدی؛ هنرمندی که به خاطرهای ملی تبدیل شد
تصاویری از موشک بالستیک جهاد که در جریان یکی از موجهای عملیات نصر-۲ شلیک شده بود
نگاهی به انیمیشن «سفینه نجات»؛ وقتی تعزیه با ابرقهرمانی فضایی گره میخورد
آغاز ثبت نام بیستمین آزمون سراسری قرآن و عترت
افشای هک وب سایت آلمانی توسط هوش مصنوعی اوپن ای آی
رئیس دانشگاه تهران: برای مقابله با تحریمهای علمی برنامهریزی میکنیم
روحانیِ پیونددهنده دین و آزادی
توصیه پذیرفته شدگان تیزهوشان، کدام آموزشگاه است؟!
اپل به جمع تولید کنندگان موبایل تاشو پیوست
مهلت انتخاب رشته آزمون دستیاری پزشکی مجدد تمدید شد
سهمیه ویژه کنکور برای آسیبدیدگان جنگ نیازمند بازنگری است
تمدید مهلت ثبت نام پذیرش بدون آزمون کاردانی ویژه مهارتی سال ۱۴۰۵
پایان نخستین دوره پسادکتری علوم ورزشی امیرکبیر با محوریت هوش مصنوعی
نگاهی به سریال «دیوار دفاعی»؛ ملی شدن صنعت نفت با چاشنی فوتبال
مدیران ارشد هوش مصنوعی خواستار کندتر شدن پیشرفت آن شدند
نسل امروز بی ارادهتر از نسل قبل است؟
از تربت ۱۷ کیلویی تا یک میلیون سند تاریخی، جلوهای از حرم بانوی کرامت
مهلت ثبت نام پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵ تمدید شد
حمله ایران معماری هوش مصنوعی امارات را تغییر داد؛ فرار دادهها به کوه
افزایش پذیرش دانشجو معلم تا سه برابر ظرفیت
«دهکده سلامت» یادگار یک خیر بزرگ برای بیماران صعب العلاج
نظریات و رویکردهای اسلامی در خصوص مددکاری اجتماعی
«اسکورت» بر صدر فروش روزانه نشست؛ استقبال از آزادی زنان زندانی
قالیباف قانون ملی توسعه هوش مصنوعی را ابلاغ کرد
چالشهای مصوبه اخیر «ستاد ویژه ساماندهی فضای مجازی» از منظر حقوقی
شرکت انگلیسی دادههای مشتریانش را به هکرها داد
بزرگترین رقابت دانشآموزی در حوزه کوانتوم و لیزر برگزار شد
ارزیابی سالانه یک میلیون و ۲۰۰ هزار نوآموز در برنامه سنجش
شعری از نظامی گنجوی موضوع یک انیمیشن کوتاه شد
پارادوکس رفاه و رضایت؛ چرا مدرنیته ما را شادتر نکرد؟
پیوند عرفان کلاسیک با زیست انسان معاصر در شرح فتوحات مکیه باب ۵۶۰
۹۵ درصد مدارس کشور آماده بازگشایی هستند
خیابان و زندگی؛ واکاوی نقش زنان در پایداری اجتماعات شبانه
جزئیات برگزاری بیستمین آزمون سراسری قرآن و عترت
نشان درجه یک هنری به این کارگردان اهدا شد: علیرضا داوودنژاد بدترین فیلمش هم «سینما» است
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.