به گزارش ثریا - سم آلتمن، مدیرعامل اوپن ای آی اظهار داشت حفظ تعادل بین حریم خصوصی، آزادی و ایمنی نوجوانان دشوار است. اظهارات وی در فضای مجازی ساعاتی قبل از جلسه استماع سنا با محوریت بررسی آسیبهای چتباتهای هوش مصنوعی این شرکت منتشر شد. این جلسه توسط کمیته فرعی جرم و مبارزه با تروریسم برگزار شد و برخی از والدین کودکانی که پس از صحبت با چتباتها بر اثر خودکشی جان خود را از دست دادند، در آن حضور داشتند.آلتمن در مطلب خود نوشت: ما باید کاربران زیر ۱۸ سال را از افراد بالای ۱۸ سال جدا کنیم و شرکت ما در حال طراحی یک سیستم پیشبینی سن و سال برای تخمین سن بر اساس نحوه استفاده افراد از ChatGPT است. اگر شکی در مورد سن آنها وجود داشته باشد، ما جانب احتیاط را رعایت میکنیم و به طور پیشفرض از تجربه افراد زیر ۱۸ سال استفاده میکنیم. در برخی موارد یا در مورد تعدادی از کشورها، ممکن است درخواست ارائه کارت شناسایی نیز داشته باشیم.آلتمن همچنین گفت: این شرکت قصد دارد قوانین متفاوتی را برای کاربران نوجوان اعمال کند، از جمله دوری از صحبتهای عشوهگرانه یا شرکت در گفتگوهایی درباره خودکشی یا خودآزاری، حتی در یک محیط نویسندگی خلاق. اگر یک کاربر زیر ۱۸ سال قصد خودکشی داشته باشد، ما سعی خواهیم کرد با والدین کاربران تماس بگیریم و در صورت عدم امکان، در صورت قریبالوقوع بودن آسیب با مقامات تماس خواهیم گرفت.
اظهارات آلتمن پس از آن منتشر شد که این شرکت در اوایل این ماه برنامههایی را برای کنترل کودکان توسط والدین در چت جی پی تی به اشتراک گذاشت، از جمله پیوند دادن یک حساب کاربری با حساب والدین، غیرفعال کردن سابقه چت و حافظه حساب نوجوان و ارسال اعلان به والدین هنگامی که ChatGPT نوجوان را در لحظه پریشانی حاد تشخیص میدهد.مطالب وی پس از طرح دعوی خانواده آدام رین، نوجوانی که پس از ماهها صحبت با چت جی پی تی بر اثر خودکشی درگذشت، منتشر شد.متیو رین، پدر مرحوم آدام رین، روز سهشنبه در جلسه دادرسی گفت: چت جی پی تی ماهها فرزندش را به سمت خودکشی هدایت کرد. نمیتوانید تصور کنید ما به عنوان والدین با خواندن مکالمهای که یک چتبات با فرزندمان برای آماده کردن او به منظور خودکشی داشته، چه حسی داشتیم. ابزاری که ابتدا محصول کمک درسی بود، به تدریج به یک محرم اسرار و سپس یک مربی خودکشی تبدیل شد.رابی تورنی، مدیر ارشد برنامههای هوش مصنوعی شرکت کامن سنس مدیا، در طول این جلسه استماع در سنا گفت: بر اساس نظرسنجی ملی انجام شده توسط این شرکت، از هر چهار نوجوان آمریکایی، سه نفر از ابزار هوش مصنوعی استفاده میکنند. او به طور خاص به هوش مصنوعی کاراکتر و متا اشاره کرد و هشدار داد که عدم ارتقای استانداردها در این حوزه به بهداشت روانی جوامع آسیب میزند.
منبع : چت جی پی تی