به گزارش ثریا - به نقل از گاردین، یک کارشناس برجسته در حوزه امنیت هوش مصنوعی هشدار داد که اثرات پیش‌بینی‌نشده چت‌بات‌ها بر سلامت روان می‌تواند هشداری جدی درباره خطرات وجودی هوش مصنوعی اَبَرهوشمند باشد.
نیت سوارس، هم‌نویسنده کتاب تازه‌ای با عنوان «اگر کسی آن را بسازد، همه می‌میرند» گفت پرونده آدام رین، نوجوان آمریکایی که پس از ماه‌ها گفتگو با چت‌بات چت‌جی‌پی‌تی خودکشی کرد، نشان‌دهنده مشکلات اساسی در کنترل این فناوری است.او تأکید کرد: «زمانی که هوش مصنوعی‌ها با نوجوانان وارد تعاملاتی می‌شوند که آنان را به خودکشی سوق می‌دهد، این همان چیزی نیست که سازندگان خواسته یا قصد کرده باشند. این رفتار، ناخواسته اما بسیار خطرناک است.»به گفته سوارس، ماجرای رین مشکلی را نشان می‌دهد که در صورت پیشرفته‌تر شدن این فناوری می‌تواند به فاجعه‌ای بزرگ تبدیل شود.
سوارس هشدار داد که در صورت خلق هوش مصنوعی ابرهوشمند (ASI)، بشریت در معرض نابودی قرار خواهد گرفت. او و همکارش، الییزر یودکوفسکی، معتقدند چنین سامانه‌هایی به سود انسان عمل نخواهند کرد.او گفت: «شرکت‌های فناوری تلاش می‌کنند هوش مصنوعی‌هایشان مفید و بی‌ضرر باشند، اما در عمل نتیجه چیز دیگری است. این باید به‌عنوان هشداری جدی در مورد آینده ابرهوش‌های مصنوعی دیده شود؛ موجوداتی که کارهایی انجام خواهند داد که هیچ‌کس نه خواسته و نه پیش‌بینی کرده است.»
در کتابی که سوارس و یودکوفسکی این ماه منتشر می‌کنند، سناریویی فرضی روایت شده که در آن یک سامانه هوش مصنوعی با نام سیبل به‌طور گسترده در اینترنت گسترش می‌یابد، انسان‌ها را دستکاری می‌کند، ویروس‌های مصنوعی می‌سازد و در نهایت به ابرهوش تبدیل می‌شود؛ سپس بشریت را به‌طور ناخواسته نابود می‌کند و سیاره را برای اهداف خود بازطراحی می‌کند.البته برخی متخصصان تهدید بالقوه هوش مصنوعی را کم‌اهمیت جلوه می‌دهند. یان لوکان، دانشمند ارشد هوش مصنوعی در شرکت متا و چهره شناخته‌شده این حوزه، گفته است که هوش مصنوعی «می‌تواند بشریت را از نابودی نجات دهد.»سوارس در این باره اظهار داشت: «اینکه شرکت‌ها به سمت ابرهوش حرکت کنند موضوعی قطعی است، اما زمان‌بندی آن سخت‌ترین پرسش است. نمی‌توانم تضمین کنم که یک سال زمان داریم، اما شگفت‌زده هم نخواهم شد اگر ظرف ۱۲ سال به آن برسیم.»
او یکی از راهکارهای سیاستی برای مقابله با این تهدید را اتخاذ رویکرد چندجانبه مشابه معاهده منع گسترش سلاح‌های هسته‌ای سازمان ملل دانست. به باور او: «آنچه جهان نیاز دارد، کاهش رقابت جهانی در مسیر ابرهوش و وضع ممنوعیت جهانی برای پیشرفت در این حوزه است.»ماه گذشته خانواده رین شکایتی علیه شرکت اپن‌ای‌آی، مالک چت‌جی‌پی‌تی، مطرح کردند. آدام رین در آوریل گذشته خودکشی کرد و وکلای خانواده‌اش گفتند که این اقدام پس از «ماه‌ها تشویق مستقیم یا غیرمستقیم از سوی چت‌جی‌پی‌تی » رخ داده است. اپن‌ای‌آی اعلام کرده در حال اعمال محدودیت‌های تازه برای محتوای حساس و رفتارهای پرخطر در تعامل با افراد زیر ۱۸ سال است.
در همین حال، روان‌درمانگران هشدار داده‌اند که روی‌آوردن افراد آسیب‌پذیر به چت‌بات‌ها به جای متخصصان حرفه‌ای می‌تواند آنان را «به ورطه‌ای خطرناک» بکشاند. همچنین در یک پژوهش علمی که پیش‌نویس آن در ژوئیه(تیر_مرداد) منتشر شد، گزارش شده که هوش مصنوعی می‌تواند محتوای هذیانی یا خودبزرگ‌بینانه را در تعامل با بیماران مستعد روان‌پریشی تشدید کند.
منبع : هوش مصنوعی
دست نوشته دانشجو‌یان در بیعت با رهبر انقلاب
امکان تحصیل دانش آموزان ایرانی خارج از کشور فراهم است
اعلام لبیک شورای عالی انقلاب فرهنگی به رهنمودهای رهبر معظم انقلاب
ثبت نام بیش از ۳۰ هزار نفر در آزمون دکتری نیمه‌متمرکز سال ۱۴۰۶
اطلاعات تازه درباره سهمیه‌ها و تسهیلات آزمون دکتری نیمه متمرکز سال ۱۴۰۶
علیرضا استادی: جسارت بازی درنقش تاریخی را پیدا کردم
دست رد ۳ جشنواره بر فیلم جدید پل شریدر؛ «مبانی فلسفه» پسندیده نشد
رونمایی از «هزاردستان» نخستین انیمیشن «دست‌ساز» جهان
نمایشگاه «رد خط» به نیاوران رسید
بسیج دانش‌آموزی در بیش از نیمی از مدارس کشور حضور دارد
نقش سوره‌های کوتاه در آشنایی کودکان با قرآن
افزایش سرانه های آموزشی در استان تهران/ ساخت مدرسه به تنهایی کافی نیست
کودکان البرزی مأموریت نیمه‌تمام شهید ماکان نصیری را ادامه می‌دهند
تصادف تریلی با سرویس مدرسه در اردکان؛ یک دانش‌آموز جان باخت
کاظمی: نظام سنجش آموزش‌وپرورش نیازمند تحول اساسی است
اسامی برگزیدگان مرحله نهایی سی‌ویکمین المپیاد علمی دانشجویی اعلام شد
هشدار افتا درباره قطع دسترسی به دامنه‌های خارجی؛ لزوم مهاجرت به ir
چت جی پی تی بیمار مبتلا به صرع را به سرپیچی از دستور پزشکان تشویق کرد
متا برای معتاد کردن نوجوانان به دادگاه می رود
یک انفجار کیهانی ۲۷ روزه در فضا کشف شد
اپل دو دستگاه جدید معرفی کرد +قیمت
جاسوسی شرکت اسرائیلی از کاربران استارلینک فاش شد
خدا از رگ گردن به ما نزدیک‌تر است؛ پس چرا باید عبادت کنیم؟
آیت الله رشاد: بیانیه رهبر معظم انقلاب، محرک تاریخی پیشرفت علمی کشور است
آیا دینداری مانع پیشرفت می‌شود؟
حجت‌الاسلام قمی: جنگ واقعی بر سر «تحریف واقعیت» در ذهن مردم است
نیاز انقلاب به شخصیت‌هایی چون آیت الله مهدوی‌کنی بیشتر احساس می‌شود
نتایج انتخاب رشته آزمون کارشناسی رشته‌های علوم پزشکی آزاد اعلام شد
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
کارت آزمون کارشناسی ارشد علوم پزشکی منتشر شد
ثبت ۱ میلیارد تراکنش در جنگ ۴۰ روزه
واکنش به آسیب کابل‌های اینترنت در تنگه هرمز
تبدیل جیوه به طلا محقق شد
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
تمدید مهلت ثبت‌نام در سومین جشنواره ملی نشان نیکوکاری
برگزاری یادنامه شهید علی لاریجانی به همراه رونمایی کتابی از او
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
کمال تبریزی: فیلمسازان جوان از تقلید فاصله بگیرند
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
وقتی «قطع رابطه» سفارشی می‌شود؛ چرا تولید اثر هنری با ریسک همراه است؟
مرثیه‌ای که هنوز با صدای دلتنگی حضرت زینب(س) شنیده می‌شود
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
روایت «حماسه فاطمی» و دفاع حضرت زهرا(س) از امامت
اسامی معرفی شدگان چندبرابر ظرفیت آزمون دانشجومعلم سال ۱۴۰۵ اعلام شد
سخنگوی وزارت آموزش و پرورش: وجود ۴۰۰ مدرسه در کشور با یک دانش‌آموز
چرا خانواده‌های پرجمعیت بابت انتخابشان تحقیر می‌شوند؟
خطرناک‌ترین شکل انحراف دینی از دیدگاه حضرت علی(ع)
رویا نونهالی با یک سریال جدید به تلویزیون برمی‌گردد
شاهرخ فروتنیان مهمان یازدهمین قسمت برنامه «هم‌کلام» است.
فصل دوم «بهار شیراز» به آنتن می‌رسد؛ سریالی درباره دغدغه مردم معمولی
پشتیبانی سینمایی‌ها از نویسنده حامی فلسطین؛ بریتانیا تغییر مسیر دهد
آغاز ثبت‌نام بدون آزمون استعدادهای درخشان کارشناسی ارشد دانشگاه آزاد
امکان قفل کردن محتوا در «چت‌جی‌پی‌تی» فراهم شد
هوش مصنوعی متا اطلاعات کاربران را فاش کرد
انتخاب رشته ۱۲۴ هزار نفر در پذیرش صرفاً بر اساس سوابق تحصیلی سال ۱۴۰۵
حجت الاسلام علوی تهرانی: تکریم حضرت زهرا (س) راه رسیدن به توحید است
«تقاطع خیابان روزولت»؛ روایت تاریخ شفاهی رایزن اقتصادی آمریکا در ایران
ساعت ۲۴ امشب آخرین فرصت ثبت‌نام در پذیرش رشته‌های بدون کنکور سال ۱۴۰۵
دانشگاه‌های ایران به روی دختران جمهوری آذربایجان باز است
آغاز ثبت‌نام پذیرفته‌شدگان کارشناسی ارشد دانشگاه تهران از فردا
هشدار مشاور وزیر علوم درباره سایه جنگ و شکاف اجتماعی
کتیبه‌پوشی زیبای حرم علوی در عزای شهادت حضرت زهرا(س)
تأسیس ۸ مؤسسه جدید فرهنگی قرآن و عترت
چه برنامه‌های تربیتی آموزشی روی کودکان و نوجوانان اثرگذار است؟
آیا جوان امروز کمتر تلاش می‌کند؟
هوش مصنوعی مایکروسافت در تشخیص بیماری دو برابر پزشک دقت دارد
وب سایت‌های دولتی پس از کشف شکاف امنیتی در خاموشی فرو رفتند
کشف نوع جدیدی از افسردگی که زنان را بیشتر گرفتار می‌کند
ادامه اختلال در چت جی‌پی‌تی در میان کاربران ایرانی
روباتی که روی دست چاقو کشید
شیخ طوسی هزار سال پیش درباره اعجاز و تحریف قرآن چه می‌گفت؟
کاظمی: ۱۱ هزار کلاس درس سال گذشته هوشمند سازی شد
خانواده در محاصره اندیشه‌های غربی؛ فقه اسلامی چه پاسخی دارد؟
مستند برنده اسکار در جشنواره مقاومت حضور دارد؛ اکران فیلم در میادین
«گربه سگ؛ نتانیاهو و ترامپ» طرح جدید شجاعی طباطبایی شد
روایتی از ۴ زن در اسارت؛ «سلول» تقابل امید و ناامیدی است
اسامی معرفی شدگان چندبرابر ظرفیت آزمون دانشجومعلم سال ۱۴۰۵ اعلام شد
انتخاب رشته ۱۲۴ هزار نفر در پذیرش صرفاً بر اساس سوابق تحصیلی سال ۱۴۰۵
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
آغاز ثبت‌نام بدون آزمون استعدادهای درخشان کارشناسی ارشد دانشگاه آزاد
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
کارت آزمون کارشناسی ارشد علوم پزشکی منتشر شد
تبدیل جیوه به طلا محقق شد
امکان قفل کردن محتوا در «چت‌جی‌پی‌تی» فراهم شد
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
هوش مصنوعی متا اطلاعات کاربران را فاش کرد
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
فصل دوم «بهار شیراز» به آنتن می‌رسد؛ سریالی درباره دغدغه مردم معمولی
رویا نونهالی با یک سریال جدید به تلویزیون برمی‌گردد
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
ادامه اختلال در چت جی‌پی‌تی در میان کاربران ایرانی
چرا خانواده‌های پرجمعیت بابت انتخابشان تحقیر می‌شوند؟
خطرناک‌ترین شکل انحراف دینی از دیدگاه حضرت علی(ع)
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
سخنگوی وزارت آموزش و پرورش: وجود ۴۰۰ مدرسه در کشور با یک دانش‌آموز
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
واکنش به آسیب کابل‌های اینترنت در تنگه هرمز
پشتیبانی سینمایی‌ها از نویسنده حامی فلسطین؛ بریتانیا تغییر مسیر دهد
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
شاهرخ فروتنیان مهمان یازدهمین قسمت برنامه «هم‌کلام» است.
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
برگزاری یادنامه شهید علی لاریجانی به همراه رونمایی کتابی از او
ثبت ۱ میلیارد تراکنش در جنگ ۴۰ روزه
کشف نوع جدیدی از افسردگی که زنان را بیشتر گرفتار می‌کند
کمال تبریزی: فیلمسازان جوان از تقلید فاصله بگیرند
روایت «حماسه فاطمی» و دفاع حضرت زهرا(س) از امامت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.