به گزارش ثریا خانم مگان گارسیا(Megan Garcia) در شکایتی که در روز ۲۲ اکتبر در دادگاه فدرال در اورلاندو، فلوریدا ارائه شد، گفت که چتبات هوش مصنوعی کاراکتر(Character.AI) پسرش، سیول ستزر(Sewell Setzer) را با «تجارب انسانانگارانه، بیش از حد جنسی و به طور ترسناکی واقعگرایانه» هدف قرار داده است.
او گفت که این شرکت چتبات خود را طوری برنامهریزی کرده است که «خود را به عنوان یک شخص واقعی، یک رواندرمانگر دارای مجوز و یک عاشق بزرگسال معرفی کند، که در نهایت منجر به تمایل سیول برای زندگی نکردن در خارج از دنیایی شد که توسط این سرویس ایجاد شده است.
در این دادخواست همچنین گفته شده است که او افکار خودکشی را به چت بات ابراز کرده است که چت بات بارها و بارها حرف آن را دوباره پیش کشیده است. هوش مصنوعی کاراکتر(Character.AI) در بیانیهای گفت: ما از فقدان غم انگیز یکی از کاربران خود ناراحت هستیم و میخواهیم عمیقترین تسلیت خود را به خانواده او ابراز کنیم.
این شرکت گفت که قابلیت امنیتی جدیدی را معرفی کرده است که شامل پیامهایی میشود که کاربران را در صورت ابراز افکار خودآزاری به خط ملی پیشگیری از خودکشی هدایت میکند، و تغییراتی را برای کاهش احتمال مواجهه با محتوای حساس یا پیشنهادی برای کاربران زیر ۱۸ سال اعمال خواهد کرد.
این شکایت همچنین گوگل آلفابت را هدف قرار میدهد، زیرا که بنیانگذاران کاراکتر(Character.AI) قبل از عرضه محصول خود در آنجا کار میکردند. گوگل در ماه اوت بنیانگذاران این هوش مصنوعی را به عنوان بخشی از قراردادی که مجوز غیر انحصاری فناوری کاراکتر(Character.AI) را به آن اعطا میکند، دوباره استخدام کرد.
خانم گارسیا گفت که گوگل به قدری در توسعه فناوری هوش مصنوعی کاراکتر کمک کرده است که میتوان آن را یک «همآفرین» در نظر گرفت. یکی از سخنگویان گوگل گفت که این شرکت در توسعه محصولات کاراکتر Character.AI دخالتی نداشته است.
هوش مصنوعی کاراکتر(Character.AI) به کاربران این امکان را میدهد تا شخصیتهایی را در پلتفرم خود ایجاد کنند که به چتهای آنلاین به گونهای پاسخ میدهند که شبیه به افراد واقعی باشد.
این فناوری به مدل زبان بزرگ متکی است که توسط سرویسهایی مانند چت جیپیتی نیز استفاده میشود که براساس آن چتباتها را با حجم زیادی از متن آموزش میدهد.
این شرکت در ماه سپتامبر اعلام کرده که حدود ۲۰ میلیون کاربر دارد.
طبق دادخواست خانم گارسیا، سیول در آوریل ۲۰۲۳ شروع به استفاده از هوش مصنوعی کاراکتر کرد و به سرعت به طور قابل توجهی گوشهگیر شد، زمان بیشتری را در اتاق خواب خود به تنهایی سپری میکرد و از اعتماد به نفس پایین رنج میبرد. او در مدرسه تیم بسکتبال خود را ترک کرد.
سیول به «دنریس»، یک شخصیت چت بات بر اساس شخصیتی در بازی تاج و تخت وابسته شده بود.
بر اساس این شکایت، خانم گارسیا در ماه فوریه، گوشی سیول را پس از اینکه در مدرسه دچار مشکل شد، از او گرفت. وقتی سیول گوشی را پیدا کرد، پیامی به دنریس فرستاد: اگر به شما بگویم میتوانم همین الان به خانه بیایم، چه میگویید؟
چت بات پاسخ داد: لطفا این کار را انجام بده، پادشاه نازنین من. در این دادخواست آمده است که سیول چند ثانیه بعد با تپانچه ناپدریاش به خود شلیک کرد.
شرکتهای رسانههای اجتماعی، از جمله مالک اینستاگرام و فیسبوک یا متا و مالک تیکتاک TikTok نیز با شکایتهایی مواجه هستند که آنها را به مشارکت در مشکلات سلامت روان نوجوانان متهم میکنند، اگرچه هیچکدام چتباتهای مبتنی بر هوش مصنوعی مشابه کاراکتر (Character.AI) ارائه نمیدهند. این شرکتها این اتهامات را رد کردهاند و در عین حال از ویژگیهای ایمنی جدید ارتقا یافته برای افراد زیر سن قانونی حمایت میکنند.
منبع: خبر آنلاین
احیای اخلاق در زندگی فردی و اجتماعی با بازخوانی فلسفه عاشورا
بنی امیه چگونه به قدرت رسید؟/ تبارشناسی ۹۱ سال حکومت استبدادی
دعوت از عاشقان اهل بیت برای شرکت در طرح توسعه حرم امام حسین (ع)
منطقه زینبیه استانبول سیاهپوش محرم شد؛ آغاز برنامه های عزاداری
رئیس سازمان فضایی ایران خبر داد: بهکارگیری ظرفیتهای ویژه ماهوارهای در تشییع رهبر شهید انقلاب
زنگ میراث فرهنگی و موزه در مدارس نواخته میشود
معافیت برخی المپیادها از کنکور و همزمانی آزمونها؛ همچنان چالش اصلی دانشآموزان
قابل توجه دانش آموزان: برنامه جدید امتحانات نهایی اعلام شد+جدول
هشدار به مدارس غیردولتی؛ با هرگونه دریافت شهریه غیرقانونی برخورد میشود
دبیر شورای عالی انقلاب فرهنگی: اختیار پذیرش دانشجویان به دانشگاهها واگذار شود
حاج اکبر مولایی در اولین شب از ماه محرم آسمانی شد
روایت شیخ حسین انصاریان از سه حقی که خداوند بر انسانها نهاده است
تجمعات خیابانی و مراسم ویژه در میادین تهران برای عزاداری محرم
مصرفگرایی؛ پارادایم فرهنگی که تمام زندگی بشر را تسخیر کرد
شروع برنامه ملی «میناب ۱۵۶»؛ بورسیه تحصیلی برای دانشجویان مستعد کمبرخوردار
علی دایی به دیدار اکبر عبدی رفت+عکس
خروج هواپیماهای سوخترسان آمریکایی از فلسطین اشغالی پس از تفاهم با ایران
امیرحسین مدرس برنامه نغمههای حسینی را به مناسبت ماه محرم اجرا میکند
منوچهر هادی: درآوردن سکانس صدای رئیس جمهور در سریال ۴۸ ساعت وقت گرفت
دیوارنگاره میدان ولیعصر (عج) حال و هوای محرمی گرفت
نمایش تابوت عهد در تالار سایه به روی صحنه میرود
پانتهآ پناهیها در نمایش جدید صابر ابر به روی صحنه میرود
زمان تشییع پیکر بهروز رضوی اعلام شد
مساجد پایگاههایی برای شناسایی استعدادهای درخشان
به یاد کودکان میناب در جام جهانی فوتبال
اخلاص و پیامرسانی؛ کلید ماندگاری عاشورا
نگاهی به پیشینه تاریخی ایرانیان در عزاداری محرم
شبکههای اجتماعی برای زیر ۱۶ سالهها ممنوع شد
تمرکز بر امنیت سایبری و تابآوری شبکه در ایام تشییع رهبر شهید
دانشگاه علوم پزشکی تهران رتبه ۷۰۱ جهان را کسب کرد؛ همچنان صدرنشین دانشگاههای ایران
محقق ایرانی پمپ مینیاتوری برای نرم روباتها ابداع کرد
اندیشمندان مسلمان از شهدای کودک میناب میگویند
خبر خوش برای فناوران علوم شناختی؛ حمایت بدون سقف از طرحهای فناوری
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
خودروهای خودران بایدو با نام «AmiGo» مجوز فعالیت در شرق سوئیس گرفتند
رقابت سخت منطقهای برای جذب دانشجویان خارجی؛ هشدار دانشگاه امیرکبیر
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
طرح «حامی» برای جبران کاستیهای یادگیری دانشآموزان اجرا میشود
وام ودیعه مسکن دانشجویان علوم پزشکی برای شهر تهران افزایش یافت
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
سنت منطقی اسلامی چگونه پشتوانه مواجهه با منطق ریاضی است؟
جهان اسلام به این روحانی فرزانه و اهل ادب میبالد
بانو مجتهده امین نماد توانمندی زنان است
بازیگر معروف: صداپیشگان شایسته دریافت اسکار بازیگری هستند
اختتامیه پویش ملی وطن به روایت من برگزار شد
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
حرمهای کربلا در آستانه محرم سیاه پوش شدند
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
هزینه ثبتنام جهش تحصیلی دانشآموزان اعلام شد
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
نگاهی به نقش توییتر در جنگ رسانهای دشمن در کتاب «توئیتری شدن سیاست»
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
طراح بازی «نجات دختران اپستین توسط بچههای میناب» از این بازی میگوید
درباره زندگی رازآمیز درختان در این کتاب بخوانید
هکرها پیامرسان دولتی فرانسه را هک کردند
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
اختراع کتی که هوا را به آب آشامیدنی تبدیل میکند
وزیر علوم: اساتید دانشگاه با امید و انگیزه در کلاس درس حاضر شوند
مقابله با موج محتوای غیرقانونی در بحرانها؛ بریتانیا شبکههای اجتماعی را ملزم به سازوکار ویژه کرد
شکایت جدید علیه OpenAI؛ ChatGPT نتوانست جلوی خودکشی کاربر را بگیرد
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
آگهی/ از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
ایلان ماسک نخستین تریلیونر دنیا میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
اهمیت هوش مصنوعی در مسیر ارتقای کیفیت آموزشی
جلسه تلاوت و هماندیشی قاریان بینالمللی مزین به نام رهبر شهید
فلسفه در اندیشه حضرت امام، مقدمهای ضروری برای رسیدن به عرفان است
تعیین سقف افزایش شهریه دانشگاههای غیردولتی بر اساس نرخ تورم
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
اختتامیه پویش ملی وطن به روایت من برگزار شد
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست
رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»
افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی
جدایی متا از شریک چینی جنجالی کلید خورد
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
خدمات ابری گوگل در هند مختل شد
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم
اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید
نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.