کد خبر: 165699
ف
هشدار! این کاربر می‌خواهد خودکشی کند
«سم آلتمن»، مدیرعامل شرکت «اوپن‌ای‌آی» گفت که اگر کاربران «چت‌جی‌پی‌تی» افکار خودکشی داشته باشند، این چت‌بات می‌تواند به پلیس هشدار دهد.

 پس از پرونده خودکشی «آدام رین»(Adam Raine) ۱۶ ساله، «سم آلتمن»(Sam Altman)، مدیرعامل شرکت «اوپن‌ای‌آی» (OpenAI) گفت: شرکتش در حال بررسی امکان هشدار دادن به مقامات درباره کاربران جوانی است که پیرامون خودکشی صحبت می‌کنند. 

به نقل از فایننشال اکسپرس، این تصمیم در حالی گرفته شده است که تعداد بیشتری از جامعه کاربران «چت‌جی‌پی‌تی»(ChatGPT) نگرانی‌های فزاینده‌ خود را درباره نقش هوش مصنوعی در بحران سلامت روان ابراز می‌کنند.

آلتمن در یک مصاحبه‌ جدید اظهار کرد که اوپن‌ای‌آی می‌تواند در چنین موقعیت‌هایی، مداخله‌ فعال‌تری داشته باشد. آلتمن گفت که ممکن است تا ۱۵۰۰ نفر در هفته پیش از خودکشی با چت‌بات گفت‌وگو کنند. اگر این موضوع بدون مراقبت رها شود، می‌تواند چت‌بات را به یکی از عوامل اصلی مؤثر در چنین مواردی تبدیل کند و در نتیجه، نقش چت‌بات‌های هوش مصنوعی هوشمندتر را زیر سؤال ببرد.

اگرچه اوپن‌ای‌آی هنوز تصمیم نهایی خود را برای آموزش چت‌بات به منظور ارتباط با مقامات نگرفته، اما آلتمن گفت: بسیار منطقی است بگوییم در مواردی که جوانان درباره خودکشی صحبت می‌کنند، اگر نتوانیم با والدین آنها تماس بگیریم، با مقامات تماس می‌گیریم.

بحث پیرامون در پیش گرفتن یک سیاست جدید، پس از آن مطرح شده است که به دنبال پرونده خودکشی آدام رین - نوجوان ۱۶ ساله‌ای که گفته می‌شود ماه‌ها از سوی چت‌جی‌پی‌تی تشویق شده بود - علیه اوپن‌ای‌آی طرح دعوی شد. در این دادخواست ادعا شده است که این چت‌بات هوش مصنوعی درباره روش‌های خودکشی راهنمایی ارائه کرده و حتی برای نوشتن یادداشت خودکشی پیشنهاد کمک داده است.

آلتمن گفت: حدود ۱۰ درصد از مردم جهان با چت‌جی‌پی‌تی صحبت می‌کنند. با فرض درست بودن این موضوع، این بدان معناست که حدود ۱۵۰۰ نفر در هفته به گفت‌وگو با چت‌جی‌پی‌تی می‌پردازند و خودکشی می‌کنند. آنها احتمالاً درباره خودکشی با چت‌جی‌پی‌تی صحبت کرده‌اند و ما جان آنها را نجات نداده‌ایم. شاید می‌توانستیم چیز بهتری بگوییم. شاید می‌توانستیم فعال‌تر باشیم. شاید می‌توانستیم کمی توصیه‌های بهتری ارائه دهیم؛ از جمله این که «شما باید این کمک را دریافت کنید» یا «باید درباره این مشکل طور دیگری فکر کنید» یا «واقعاً ارزش ادامه دادن را دارد و ما به شما کمک می‌کنیم کسی را پیدا کنید که بتوانید با او صحبت کنید».

آلتمن درباره متعادل‌سازی این عمل یعنی تصمیم‌گیری درباره این که چه اطلاعاتی در اختیار کدام مقامات قرار بگیرد نیز توضیحاتی را ارائه داد. به گفته آلتمن، اوپن‌ای‌آی هنوز در حال کار کردن روی این موضوع است که آیا چت‌جی‌پی‌تی باید نام و شماره تلفن کاربر را در اختیار پلیس بگذارد یا جزئیات موقعیت مکانی او را به ارائه‌دهندگان خدمات درمانی ارائه دهد.

آلتمن گفت که اوپن‌ای‌آی علاوه بر سیستم بالقوه هشدار خودکشی، محافظ‌های قوی‌تری را برای کاربران زیر ۱۸ سال پیاده‌سازی خواهد کرد. این کار می‌تواند شامل محدود کردن آزادی کاربران آسیب‌پذیر باشد تا از بازی دادن سیستم توسط آنها با این ادعا که درخواست‌هایشان برای اطلاعات مربوط به خودکشی برای نوشتن داستان تخیلی یا تحقیقات پزشکی است، جلوگیری شود. آلتمن گفت: باید بگوییم «حتی اگر سعی داری داستان بنویسی یا تحقیقات پزشکی انجام بدهی، ما قرار نیست جواب بدهیم.»

منبع : اوپن‌ای‌آی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

شکوه دعای امروز عرفه در مسجد مقدس جمکران

متن تشکر سید مجید موسوی از مهدی رسولی+عکس

پیرمرد بیرجرندی در اوج طوفان پرچم ایران را بر زمین نینداخت

«تیرانداز زبردست» با استقبال کودکان و نوجوانان به چاپ دوم رسید

تارا و رؤیای داشتن یک تلفن همراه شخصی

رمان «فرار از زنگ ورزش» برای نوجوانان منتشر شد

قصه گویی یک اسباب‌بازی ارزان اما اثرگذار برای کودکان

ارسطوی پایتخت با یک سریال جدید به شبکه یک آمد

جناب خان و الیکا عبدالرزاقی به آنتن تلویزیون برگشتند

اسلام‌هراسی علیه زنان محجبه در اروپای سال ۲۰۲۵ افزایش یافته است

عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟

بازتاب گسترده پیام رهبر انقلاب به مناسبت برگزاری حج در رسانه‌های بین المللی

شرایط تغییر مدرسه در مرداد و شهریور اعلام شد

درخواست رئیس جمهور: زمینه حضور اساتید برجسته برای انتقال آموزش‌های نوین فراهم شود

آیین‌نامه «توسعه مشارکت‌های مردمی از طریق تشکیل هیئت امنا در مدارس دولتی» تصویب شد

آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد

این دعای عرفه را بخوانید تا ببینید چرا پدران ما قرن‌هاست حسین حسین (ع) می‌گویند

روزه گرفتن در روز عرفه چه حکمی دارد؟

توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه

از ظهر تا غروب عرفه؛ این ساعت‌ها را از دست ندهید

آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید

جریمه چند میلیون دلاری و سنگین در انتظار گوگل در اروپا

رئیس‌جمهور مصوبه بازگشایی اینترنت بین‌الملل را ابلاغ کرد

صفحه اینترنت پرو از سایت همراه اول حذف شد+عکس

روایت وزیر ارتباطات از بازگشایی اینترنت

۵۰ برج فناوری احداث می‌شوند: ۳ دانشگاه پایلوت زیست بومی نوآوری می‌شود

«سعی صفا و مروه» در حج نماد چیست؟

افزایش پذیرش دانشجوی شهریه‌پرداز در دانشگاه تربیت مدرس

تائید ۱۲ رئیس دانشگاه و رئیس شهرک علمی صنعتی اصفهان

جزئیات برگزاری امتحانات و کلاس‌های دانشگاه تربیت مدرس و علم و صنعت اعلام شد

کلاس‌های دانشگاه شریف تا اطلاع ثانوی مجازی شد

کارمند گوگل در پی اعتراض به همکاری با رژیم صهیونیستی اخراج شد

مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد

۱۷ هزار نسخه خطی کم‌نظیر و در معرض خطر دیجیتال سازی شد

«آدم با صدای بلند برای فرزندانش گریست» کتاب شد

کتاب‌هایی خواندنی برای بچه‌های ایران

فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟

اگر خرمشهر آزاد نشده بود چه اتفاقی می‌افتاد؟

پیام آیت‌الله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی

دیگر اثری از بخارهای قمر مشتری نیست

الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس

شما بودید که شرف را معنا کردید +عکس

محسن شریفیان به مدرسه میناب رفت+عکس

«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد

راهکارهای مدیریت اضطراب دانش‌آموزان در روزهای امتحان چگونه است؟

امتحانات نهایی دانش‌آموزان مجازی می‌شود؟

عملیات بیت‌المقدس در ۲۰ کتاب درسی ثبت می‌شود

امام باقر (ع) احیاگر مرجعیت علمی اهل‌ بیت و پیشگام مبارزه با تحریف دین

یک ماهواره جاسوسی در فضا شناسایی شد

تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد

ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان

تمهیدات جدید آموزشی در دانشگاه‌ علم و صنعت اعلام شد

جزئیات امتحانات و کلاس‌های ترم دوم در چند دانشگاه کشور اعلام شد

بدرقه عاصم منیر توسط سید عباس عراقچی با یک تصویر خاص

پاسخ یحیی گل‌محمدی به یاوه گویی ترامپ +عکس

اعتراف غم انگیز نویسنده برنده جایزه نوبل ادبیات درباره استفاده از هوش مصنوعی

نمایشگاه کتاب تهران تمدید شد

نگاهی به حقوق فرزندان در آینه تربیت الهی

توصیه امام باقر (ع) برای اصلاح جامعه چه بود؟

رباتی که امید را به کودکان مبتلا به ام اس بازگرداند

ربات‌های انسان‌نما در مزارع چین مشغول به کار شدند+عکس

موشک «نیو گلن» پس از سانحه دوباره مجوز پرتاب گرفت

قلمرو مه‌آلود یک ستاره در حال مرگ رصد شد

فرمانده اولین پرواز انسانی به مریخ یک میلیاردر است+عکس

علت زنگ نزدن طلا کشف شد

استرس خاطرات شما را نابود می‌کند

مهلت ثبت نام کنکور سراسری ۱۴۰۵ تمدید شد

«اردیبهشت کتاب» به دلیل استقبال گسترده مردم تا جمعه ۸ خرداد تمدید شد

بهترین‌های جشنواره کن از نظر منتقدان/ فیلم اصغر فرهادی کجاست؟

چرا برنامه شهیدی‌فرد در میان پربازدیدهای تلویزیون نبود؟

شعار دهه امامت و ولایت اعلام شد: غدیر، میثاق امت با ولایت

آغاز ثبت‌نام پانزدهمین دوره ارزیابی تخصصی قاریان و مدرسان قرآن کریم

حجت الاسلام پناهیان: مردم پس از میدان سراغ میز مدیران خواهند رفت

ثبت نام یک میلیون و ۱۸۷ هزار دانش آموز کلاس اولی آغاز شد

آغاز سال تحصیلی آینده و اجرای موفق پروژه مهر دغدغه اصلی آموزش و پرورش

کلاس‌های تحصیلات تکمیلی دانشگاه شریف از این تاریخ حضوری می‌شود

تأملی پیرامون دانشگاه آزاد در میانه تحولات اخیر کشور

ثبت نام بیش از ۵۷۰ هزار نفر در کنکور ۱۴۰۵ و آزمون دانشجومعلم

شرایط اسکان‌ دانشجویان دانشگاه تهران‌ چیست؟ اینجا بخوانید

فعالیت شرکت تاکسی خودران وایمو در یک شهر دیگر تعلیق شد

جزئیات امتحانات و کلاس‌های ترم دوم در چند دانشگاه کشور اعلام شد

تکذیب اعلام زمان برگزاری آزمون سراسری یک هفته پیش از امتحانات نهایی تکذیب شد

ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان

ارائه راهکارهای شبکه سازی با نخبگان خارج از کشور

مهلت انتخاب رشته کاردانی مهارتی تمدید شد

بدرقه عاصم منیر توسط سید عباس عراقچی با یک تصویر خاص

تغییرات تقویم آزمون‌های علوم پزشکی سال ۱۴۰۵ اعلام شد

آخرین وضعیت برگزاری کنکور سراسری و کارشناسی ارشد در سال ۱۴۰۵

سمعک‌های جدید می‌توانند سینگال‌های مغز را بخوانند

بازخوانی حکمت صدرایی توسط جمعی از فلاسفه به صورت مجازی

کلاس‌های تحصیلات تکمیلی دانشگاه تهران حضوری شد

تمهیدات جدید آموزشی در دانشگاه‌ علم و صنعت اعلام شد

حجت الاسلام پناهیان: مردم پس از میدان سراغ میز مدیران خواهند رفت

شما بودید که شرف را معنا کردید +عکس

این بازی ویدئویی قابلیت تشخیص افسردگی شدید را دارد

دیگر اثری از بخارهای قمر مشتری نیست

۴۰ شرکت دانش بنیان در جنگ‌ تحمیلی سوم به صورت کامل تخریب شد

آغاز ثبت‌نام پانزدهمین دوره ارزیابی تخصصی قاریان و مدرسان قرآن کریم

یک ماهواره جاسوسی در فضا شناسایی شد

پیام آیت‌الله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی

چرا برنامه شهیدی‌فرد در میان پربازدیدهای تلویزیون نبود؟

الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس

علت زنگ نزدن طلا کشف شد

ثبت نام بیش از ۵۷۰ هزار نفر در کنکور ۱۴۰۵ و آزمون دانشجومعلم

یک مستند از سقوط هواپیمای آمریکایی در اصفهان ساخته می‌شود

نگاهی به حقوق فرزندان در آینه تربیت الهی

فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟

تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد

آنچه در این هفته گذشت و واکنش به مجریان اسلحه به دست تلویزیون

وقتی کتاب کنج خلوتی برای برای خانواده‌های آسیب‌دیده از جنگ شد