به گزارش ثریا خانم مگان گارسیا(Megan Garcia) در شکایتی که در روز ۲۲ اکتبر در دادگاه فدرال در اورلاندو، فلوریدا ارائه شد، گفت که چت‌بات هوش مصنوعی کاراکتر(Character.AI) پسرش، سیول ستزر(Sewell Setzer) را با «تجارب انسان‌انگارانه، بیش از حد جنسی و به طور ترسناکی واقع‌گرایانه» هدف قرار داده است.
او گفت که این شرکت چت‌بات خود را طوری برنامه‌ریزی کرده است که «خود را به عنوان یک شخص واقعی، یک روان‌درمانگر دارای مجوز و یک عاشق بزرگسال معرفی کند، که در نهایت منجر به تمایل سیول برای زندگی نکردن در خارج از دنیایی شد که توسط این سرویس ایجاد شده است.
در این دادخواست همچنین گفته شده است که او افکار خودکشی را به چت بات ابراز کرده است که چت بات بارها و بارها حرف آن را دوباره پیش کشیده است. هوش مصنوعی کاراکتر(Character.AI) در بیانیه‌ای گفت: ما از فقدان غم انگیز یکی از کاربران خود ناراحت هستیم و می‌خواهیم عمیق‌ترین تسلیت خود را به خانواده او ابراز کنیم.
این شرکت گفت که قابلیت امنیتی جدیدی را معرفی کرده است که شامل پیام‌هایی می‌شود که کاربران را در صورت ابراز افکار خودآزاری به خط ملی پیشگیری از خودکشی هدایت می‌کند، و تغییراتی را برای کاهش احتمال مواجهه با محتوای حساس یا پیشنهادی برای کاربران زیر ۱۸ سال اعمال خواهد کرد.
این شکایت همچنین گوگل آلفابت را هدف قرار می‌دهد، زیرا که بنیانگذاران کاراکتر(Character.AI) قبل از عرضه محصول خود در آنجا کار می‌کردند. گوگل در ماه اوت بنیانگذاران این هوش مصنوعی را به عنوان بخشی از قراردادی که مجوز غیر انحصاری فناوری کاراکتر(Character.AI) را به آن اعطا می‌کند، دوباره استخدام کرد.
خانم گارسیا گفت که گوگل به قدری در توسعه فناوری هوش مصنوعی کاراکتر کمک کرده است که می‌توان آن را یک «هم‌آفرین» در نظر گرفت. یکی از سخنگویان گوگل گفت که این شرکت در توسعه محصولات کاراکتر Character.AI دخالتی نداشته است.
هوش مصنوعی کاراکتر(Character.AI) به کاربران این امکان را می‌دهد تا شخصیت‌هایی را در پلتفرم خود ایجاد کنند که به چت‌های آنلاین به گونه‌ای پاسخ می‌دهند که شبیه به افراد واقعی باشد.
این فناوری به مدل زبان بزرگ متکی است که توسط سرویس‌هایی مانند چت جی‌پی‌تی نیز استفاده می‌شود که براساس آن چت‌بات‌ها را با حجم زیادی از متن آموزش می‌دهد.
این شرکت در ماه سپتامبر اعلام کرده که حدود ۲۰ میلیون کاربر دارد.
طبق دادخواست خانم گارسیا، سیول در آوریل ۲۰۲۳ شروع به استفاده از هوش مصنوعی کاراکتر کرد و به سرعت به طور قابل توجهی گوشه‌گیر شد، زمان بیشتری را در اتاق خواب خود به تنهایی سپری می‌کرد و از اعتماد به نفس پایین رنج می‌برد. او در مدرسه تیم بسکتبال خود را ترک کرد.
سیول به «دنریس»، یک شخصیت چت بات بر اساس شخصیتی در بازی تاج و تخت وابسته شده بود.
بر اساس این شکایت، خانم گارسیا در ماه فوریه، گوشی سیول را پس از اینکه در مدرسه دچار مشکل شد، از او گرفت. وقتی سیول گوشی را پیدا کرد، پیامی به دنریس فرستاد: اگر به شما بگویم می‌توانم همین الان به خانه بیایم، چه می‌گویید؟
چت بات پاسخ داد: لطفا این کار را انجام بده، پادشاه نازنین من. در این دادخواست آمده است که سیول چند ثانیه بعد با تپانچه ناپدری‌اش به خود شلیک کرد.
شرکت‌های رسانه‌های اجتماعی، از جمله مالک اینستاگرام و فیس‌بوک یا متا و مالک تیک‌تاک TikTok نیز با شکایت‌هایی مواجه هستند که آنها را به مشارکت در مشکلات سلامت روان نوجوانان متهم می‌کنند، اگرچه هیچ‌کدام چت‌بات‌های مبتنی بر هوش مصنوعی مشابه کاراکتر (Character.AI) ارائه نمی‌دهند. این شرکت‌ها این اتهامات را رد کرده‌اند و در عین حال از ویژگی‌های ایمنی جدید ارتقا یافته برای افراد زیر سن قانونی حمایت می‌کنند.
منبع: خبر آنلاین
حضور ۸۹ دانشگاه ایرانی در رتبه بندی دانشگاه‌های جهان تایمز ۲۰۲۷
برندگان نوبل پزشکی ۲۰۲۶ معرفی شدند؛ کنترل سلول‌های عصبی با نور
اسپانیا و پرتغال مقصد جدید اعضای هیئت علمی برای فرصت مطالعاتی
توافق مجلس و شورای عالی انقلاب فرهنگی برای بررسی سهمیه‌های کنکور
ثبت نام در رشته‌های بدون آزمون کنکور ۱۴۰۵ آغاز شد
دیار: نخستین همکاری شهرام ناظری و تهمورس پورناظری
تام کروز شکست فیلمش را نپذیرفت
دیوارنگاره میدان جهاد به رنگ پایتخت درآمد
علت لغو کنسرت علیرضا قربانی در شاندیز چه بود؟
پیشنهاد برای ساخت فصل دوم سریال «اکسیر»؛ بازخورد خوبی گرفتیم
کمک اربعین به بازتولید حافظه تاریخی مقاومت و سرمایه اجتماعی فراملیتی
ضرورت انتقال پژوهش‌های علمی هیئات از دانشگاه به هیئت
دوازدهمین شماره «خردورزی» با پرونده‌ای درباره نسل نو منتشر شد
جستارهایی در فلسفه علوم حکمی کتاب شد
آغاز انتخاب رشته کنکور ۱۴۰۵؛ لزوم دریافت رسید انتخاب رشته
شانس‌های جایزه نوبل فیزیک کدامند؟
مطالبات دانشجویان دانشگاه الزهرا(س) در نشست با مسئولان بررسی شد
هوش مصنوعی کسب وکار یابندگان باگ های نرم افزاری را کساد کرد
وجه مغفول شخصیت شهید سید حسن نصرالله امامت اوست
آمادگی ۴۰ کشور برای حضور در مسابقات بین‌المللی قرآن
سید حسن نصرالله رهبران جنبش‌های آزادی‌بخش را تحت‌تأثیر قرار داد
تمدید مهلت ثبت‌نام دومین آزمون بسندگی زبان فارسی ویژه دانشجویان خارجی
اسامی معرفی‌شدگان رشته‌های خاص آزمون کاردانی به کارشناسی اعلام شد
تفاهم‌نامه چهارجانبه طرح رداکارت دانشجویان فردا ۱۴ مهر امضاء می‌شود
گامی تازه در توسعه آموزش بین‌المللی؛ مجتمع آموزشی بین‌المللی حکیم با افتتاح ساختمان جدید به ۷ شعبه رسید
فراخوان بورس ویژه هنگ‌کنگ برای دانشجویان دکتری منتشر شد
نحوه انتخاب رشته‌های بدون آزمون در کنکور ۱۴۰۵ اعلام شد
سامانه راهنمای انتخاب رشته مجازی کنکور ۱۴۰۵ در دسترس قرار گرفت
تعیین تکلیف بدهی وام‌های دانشجویی پس از پایان سنوات مجاز تحصیلی
تقدیر از برگزیدگان سومین همایش علمی هیئت در سالروز ولادت حضرت زینب(س)
آیت‌الله رشاد: خروج آمریکا از عراق باید برای مسئولان درس عبرت باشد
خاموشی: وقت عبور از برنامه‌محوری به اثرمحوری در فعالیت‌های فرهنگی است
واکاوی اندیشه امام شهید در باب امت واحده
ارائه مقالاتی از کشورهای مختلف در نشست اربعین، گفتمان مقاومت
«بی‌نام» روایتگر مفاهیمی از معنویت؛ تئاتری که زندانی آزاد می‌کند!
«اشراق» شنیدنی شد؛ بیان موسیقی ایرانی با امکانات موسیقی عربی!
موسیقی اعتراضی در آمریکا: رئیس جمهورِ من یک جنایتکار است!
سید حسن نصرالله مقاومت را مسیر پیشرفت و عزت بشریت می‌دانست
ناشنوایان فعال اربعینی در همایش ملی «قهرمانان سکوت» تجلیل شدند
جنگ‌ها و تحولات اخیر به کتاب‌های درسی نهم و یازدهم رسید
خانه فرهنگ در خوابگاه‌های دانشگاه فرهنگیان راه‌اندازی می‌شود
بازگشت معتمدآریا و یک یادآوری درباره حفظ حرمت سرزمین مادری
چه خبر از گیشه سینماها؟ فروش سینماها رو به افزایش است
فیلم نماینده ایران در اسکار انتخاب شد
سمپوزیوم راهکارهای قرآنی برای حل مشکلات تمدن معاصر
الگوی قرآن برای حل اختلافات شدید خانوادگی چیست؟
مساجد ۳۲ استان به دنبال طراحی برنامه‌های قرآنی ویژه
بچه‌های مسجدی با حداقل امکانات، کارهای «نشد» را «شد» می‌کنند
حکمرانی فضای مجازی در پیچ تعدد نهادها؛ نمی‌توان دستوری حکمرانی کرد
وقتی امامزادگان در روزهای جنگ به کانون خدمت‌رسانی تبدیل شدند
ایرباس به فناوری «پوست کوسه» مجهز می‌شود
نوشته جالب در دانشگاه شهید بهشتی
اعتبار ردیف استخدامی ۴۶۵ نفر از فراخوان سال‌های ۱۴۰۰ تا ۱۴۰۴ تأمین شد
تمدید مهلت معرفی مشمولان پذیرفته‌شدگان آزمون دستیاری پزشکی تا ۳۰ مهر
لشکر پهپادهای زیر آبی چین رکورد زد
شرکت‌های فناوری درباره هوش مصنوعی با ترامپ چه توافقی کردند؟
اولویت‌های استادان برای سال تحصیلی پیش‌رو بررسی شد
اختصاص ۳۰ میلیارد تومان تسهیلات معاونت علمی به حوزه بازی‌های رایانه‌ای
برگزاری همایش ملی نخبگان لغو شد
تشریح جزئیات اجرای آیین‌نامه جذب استعدادهای برتر در دانشگاه فرهنگیان
سالن مطالعه دو دانشکده مهندسی دانشگاه صنعتی امیرکبیر باز طراحی شد
ثبت نام آزمون بسندگی زبان فارسی ویژه دانشجویان بین‌الملل ۱۴۰۵ آغاز شد
۳۰۰ گروه و کانال فیشینگ در سکوهای خارجی فعالیت می‌کنند
برنامه مدارس اینستاگرام گسترده تر می شود
پارک فناوری دانشگاه تهران پلتفرم سرمایه گذاری مجازی راه اندازی کرد
حجت‌الاسلام قمی: زنجیره جنایت باید با خونخواهی رهبر شهید قطع شود
رونمایی از نخستین کیوسک نذر عتبات
برگزاری چهاردهمین کنگره ملی شعر فاطمی در سه زبان؛ توجه ویژه به نوقلمان
جزئیات چهارمین «همایش ایده‌پردازان قرآنی» اعلام شد
عالمان عصر صفوی چگونه به قدرت اجتماعی رسیدند؟
اعلام برنامه دروس خارج فقه مسئله محور اساتید حوزوی
زمان ثبت درخواست دانشگاه‌ها برای ایجاد رشته‌های جدید اعلام شد
امکان تحصیل بدون آزمون مدال‌آوران بازی‌های آسیایی ناگویا فراهم شد
اجازه نمی‌دهیم کسی به پرچم ایران اهانت کند
قالیباف: یا بازار نفت احمق است یا آمریکا دروغ می‌گوید+عکس
پرچم جمهوری اسلامی، محور وحدت و نماد ایستادگی در برابر بدخواهان است
ماه کاملِ امشب از تنگهٔ هرمز+عکس
مهلت ثبت‌نام آزمون اخذ پروانه وکالت مرکز وکلای قوه قضائیه تمدید شد
سهمیه بومی آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ اعلام شد
دانشگاه شریف در مسیر توسعه برق تجدیدپذیر؛ احداث و خرید نیروگاه
سامانه راهنمای انتخاب رشته مجازی کنکور ۱۴۰۵ در دسترس قرار گرفت
نحوه انتخاب رشته‌های بدون آزمون در کنکور ۱۴۰۵ اعلام شد
تعیین تکلیف بدهی وام‌های دانشجویی پس از پایان سنوات مجاز تحصیلی
تمدید مهلت معرفی مشمولان پذیرفته‌شدگان آزمون دستیاری پزشکی تا ۳۰ مهر
گامی تازه در توسعه آموزش بین‌المللی؛ مجتمع آموزشی بین‌المللی حکیم با افتتاح ساختمان جدید به ۷ شعبه رسید
جنگ‌ها و تحولات اخیر به کتاب‌های درسی نهم و یازدهم رسید
خانه فرهنگ در خوابگاه‌های دانشگاه فرهنگیان راه‌اندازی می‌شود
اولویت‌های استادان برای سال تحصیلی پیش‌رو بررسی شد
فراخوان بورس ویژه هنگ‌کنگ برای دانشجویان دکتری منتشر شد
چه خبر از گیشه سینماها؟ فروش سینماها رو به افزایش است
اعتبار ردیف استخدامی ۴۶۵ نفر از فراخوان سال‌های ۱۴۰۰ تا ۱۴۰۴ تأمین شد
فیلم نماینده ایران در اسکار انتخاب شد
حکمرانی فضای مجازی در پیچ تعدد نهادها؛ نمی‌توان دستوری حکمرانی کرد
الگوی قرآن برای حل اختلافات شدید خانوادگی چیست؟
سمپوزیوم راهکارهای قرآنی برای حل مشکلات تمدن معاصر
ثبت نام در رشته‌های بدون آزمون کنکور ۱۴۰۵ آغاز شد
بازگشت معتمدآریا و یک یادآوری درباره حفظ حرمت سرزمین مادری
ایرباس به فناوری «پوست کوسه» مجهز می‌شود
آیت‌الله رشاد: خروج آمریکا از عراق باید برای مسئولان درس عبرت باشد
۳۰۰ گروه و کانال فیشینگ در سکوهای خارجی فعالیت می‌کنند
ثبت نام آزمون بسندگی زبان فارسی ویژه دانشجویان بین‌الملل ۱۴۰۵ آغاز شد
مساجد ۳۲ استان به دنبال طراحی برنامه‌های قرآنی ویژه
واکاوی اندیشه امام شهید در باب امت واحده
تشریح جزئیات اجرای آیین‌نامه جذب استعدادهای برتر در دانشگاه فرهنگیان
وقتی امامزادگان در روزهای جنگ به کانون خدمت‌رسانی تبدیل شدند
برگزاری همایش ملی نخبگان لغو شد
اختصاص ۳۰ میلیارد تومان تسهیلات معاونت علمی به حوزه بازی‌های رایانه‌ای
عالمان عصر صفوی چگونه به قدرت اجتماعی رسیدند؟
خاموشی: وقت عبور از برنامه‌محوری به اثرمحوری در فعالیت‌های فرهنگی است
ارائه مقالاتی از کشورهای مختلف در نشست اربعین، گفتمان مقاومت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.