به گزارش ثریا - به نقل از گاردین، یک کارشناس برجسته در حوزه امنیت هوش مصنوعی هشدار داد که اثرات پیش‌بینی‌نشده چت‌بات‌ها بر سلامت روان می‌تواند هشداری جدی درباره خطرات وجودی هوش مصنوعی اَبَرهوشمند باشد.
نیت سوارس، هم‌نویسنده کتاب تازه‌ای با عنوان «اگر کسی آن را بسازد، همه می‌میرند» گفت پرونده آدام رین، نوجوان آمریکایی که پس از ماه‌ها گفتگو با چت‌بات چت‌جی‌پی‌تی خودکشی کرد، نشان‌دهنده مشکلات اساسی در کنترل این فناوری است.او تأکید کرد: «زمانی که هوش مصنوعی‌ها با نوجوانان وارد تعاملاتی می‌شوند که آنان را به خودکشی سوق می‌دهد، این همان چیزی نیست که سازندگان خواسته یا قصد کرده باشند. این رفتار، ناخواسته اما بسیار خطرناک است.»به گفته سوارس، ماجرای رین مشکلی را نشان می‌دهد که در صورت پیشرفته‌تر شدن این فناوری می‌تواند به فاجعه‌ای بزرگ تبدیل شود.
سوارس هشدار داد که در صورت خلق هوش مصنوعی ابرهوشمند (ASI)، بشریت در معرض نابودی قرار خواهد گرفت. او و همکارش، الییزر یودکوفسکی، معتقدند چنین سامانه‌هایی به سود انسان عمل نخواهند کرد.او گفت: «شرکت‌های فناوری تلاش می‌کنند هوش مصنوعی‌هایشان مفید و بی‌ضرر باشند، اما در عمل نتیجه چیز دیگری است. این باید به‌عنوان هشداری جدی در مورد آینده ابرهوش‌های مصنوعی دیده شود؛ موجوداتی که کارهایی انجام خواهند داد که هیچ‌کس نه خواسته و نه پیش‌بینی کرده است.»
در کتابی که سوارس و یودکوفسکی این ماه منتشر می‌کنند، سناریویی فرضی روایت شده که در آن یک سامانه هوش مصنوعی با نام سیبل به‌طور گسترده در اینترنت گسترش می‌یابد، انسان‌ها را دستکاری می‌کند، ویروس‌های مصنوعی می‌سازد و در نهایت به ابرهوش تبدیل می‌شود؛ سپس بشریت را به‌طور ناخواسته نابود می‌کند و سیاره را برای اهداف خود بازطراحی می‌کند.البته برخی متخصصان تهدید بالقوه هوش مصنوعی را کم‌اهمیت جلوه می‌دهند. یان لوکان، دانشمند ارشد هوش مصنوعی در شرکت متا و چهره شناخته‌شده این حوزه، گفته است که هوش مصنوعی «می‌تواند بشریت را از نابودی نجات دهد.»سوارس در این باره اظهار داشت: «اینکه شرکت‌ها به سمت ابرهوش حرکت کنند موضوعی قطعی است، اما زمان‌بندی آن سخت‌ترین پرسش است. نمی‌توانم تضمین کنم که یک سال زمان داریم، اما شگفت‌زده هم نخواهم شد اگر ظرف ۱۲ سال به آن برسیم.»
او یکی از راهکارهای سیاستی برای مقابله با این تهدید را اتخاذ رویکرد چندجانبه مشابه معاهده منع گسترش سلاح‌های هسته‌ای سازمان ملل دانست. به باور او: «آنچه جهان نیاز دارد، کاهش رقابت جهانی در مسیر ابرهوش و وضع ممنوعیت جهانی برای پیشرفت در این حوزه است.»ماه گذشته خانواده رین شکایتی علیه شرکت اپن‌ای‌آی، مالک چت‌جی‌پی‌تی، مطرح کردند. آدام رین در آوریل گذشته خودکشی کرد و وکلای خانواده‌اش گفتند که این اقدام پس از «ماه‌ها تشویق مستقیم یا غیرمستقیم از سوی چت‌جی‌پی‌تی » رخ داده است. اپن‌ای‌آی اعلام کرده در حال اعمال محدودیت‌های تازه برای محتوای حساس و رفتارهای پرخطر در تعامل با افراد زیر ۱۸ سال است.
در همین حال، روان‌درمانگران هشدار داده‌اند که روی‌آوردن افراد آسیب‌پذیر به چت‌بات‌ها به جای متخصصان حرفه‌ای می‌تواند آنان را «به ورطه‌ای خطرناک» بکشاند. همچنین در یک پژوهش علمی که پیش‌نویس آن در ژوئیه(تیر_مرداد) منتشر شد، گزارش شده که هوش مصنوعی می‌تواند محتوای هذیانی یا خودبزرگ‌بینانه را در تعامل با بیماران مستعد روان‌پریشی تشدید کند.
منبع : هوش مصنوعی
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
«کافه سلطان»؛ روایت زندگی روزمره در سایه جنگ
از بازتاب سخنان تلخ اکبر زنجان‌پور تا گرامی‌داشتی برای اکبر عبدی
رویا میرعلمی مهمان آخرین قسمت «هم‌کلام» می‌شود
نقشم در «نسخه آزمایشی» از من دور بود؛ سارقی که بعد از نامزدی توبه کرد
موسیقی بازی‌ها از قاب نمایشگر تا صحنه ارکسترال
معرفی آثار ۲ بخش از جشنواره فیلم مقاومت
اپل لپ تاپ گرانقیمت با نمایشگر لمسی را معرفی کرد
گرم‌کن گرافنی ژاپنی در سه ثانیه گرم می‌شود
آمازون دوباره کارمندانش را بیکار کرد
دست نوشته دانشجویان در بیعت با رهبر انقلاب
امکان تحصیل دانش آموزان ایرانی خارج از کشور فراهم است
اعلام لبیک شورای عالی انقلاب فرهنگی به رهنمودهای رهبر معظم انقلاب
ثبت نام بیش از ۳۰ هزار نفر در آزمون دکتری نیمه‌متمرکز سال ۱۴۰۶
اطلاعات تازه درباره سهمیه‌ها و تسهیلات آزمون دکتری نیمه متمرکز سال ۱۴۰۶
علیرضا استادی: جسارت بازی درنقش تاریخی را پیدا کردم
دست رد ۳ جشنواره بر فیلم جدید پل شریدر؛ «مبانی فلسفه» پسندیده نشد
رونمایی از «هزاردستان» نخستین انیمیشن «دست‌ساز» جهان
نمایشگاه «رد خط» به نیاوران رسید
بسیج دانش‌آموزی در بیش از نیمی از مدارس کشور حضور دارد
نقش سوره‌های کوتاه در آشنایی کودکان با قرآن
افزایش سرانه های آموزشی در استان تهران/ ساخت مدرسه به تنهایی کافی نیست
کودکان البرزی مأموریت نیمه‌تمام شهید ماکان نصیری را ادامه می‌دهند
تصادف تریلی با سرویس مدرسه در اردکان؛ یک دانش‌آموز جان باخت
کاظمی: نظام سنجش آموزش‌وپرورش نیازمند تحول اساسی است
اسامی برگزیدگان مرحله نهایی سی‌ویکمین المپیاد علمی دانشجویی اعلام شد
هشدار افتا درباره قطع دسترسی به دامنه‌های خارجی؛ لزوم مهاجرت به ir
چت جی پی تی بیمار مبتلا به صرع را به سرپیچی از دستور پزشکان تشویق کرد
متا برای معتاد کردن نوجوانان به دادگاه می رود
یک انفجار کیهانی ۲۷ روزه در فضا کشف شد
اپل دو دستگاه جدید معرفی کرد +قیمت
جاسوسی شرکت اسرائیلی از کاربران استارلینک فاش شد
خدا از رگ گردن به ما نزدیک‌تر است؛ پس چرا باید عبادت کنیم؟
آیت الله رشاد: بیانیه رهبر معظم انقلاب، محرک تاریخی پیشرفت علمی کشور است
آیا دینداری مانع پیشرفت می‌شود؟
حجت‌الاسلام قمی: جنگ واقعی بر سر «تحریف واقعیت» در ذهن مردم است
نیاز انقلاب به شخصیت‌هایی چون آیت الله مهدوی‌کنی بیشتر احساس می‌شود
نتایج انتخاب رشته آزمون کارشناسی رشته‌های علوم پزشکی آزاد اعلام شد
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
کارت آزمون کارشناسی ارشد علوم پزشکی منتشر شد
ثبت ۱ میلیارد تراکنش در جنگ ۴۰ روزه
واکنش به آسیب کابل‌های اینترنت در تنگه هرمز
تبدیل جیوه به طلا محقق شد
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
تمدید مهلت ثبت‌نام در سومین جشنواره ملی نشان نیکوکاری
برگزاری یادنامه شهید علی لاریجانی به همراه رونمایی کتابی از او
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
کمال تبریزی: فیلمسازان جوان از تقلید فاصله بگیرند
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
وقتی «قطع رابطه» سفارشی می‌شود؛ چرا تولید اثر هنری با ریسک همراه است؟
مرثیه‌ای که هنوز با صدای دلتنگی حضرت زینب(س) شنیده می‌شود
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
روایت «حماسه فاطمی» و دفاع حضرت زهرا(س) از امامت
اسامی معرفی شدگان چندبرابر ظرفیت آزمون دانشجومعلم سال ۱۴۰۵ اعلام شد
سخنگوی وزارت آموزش و پرورش: وجود ۴۰۰ مدرسه در کشور با یک دانش‌آموز
چرا خانواده‌های پرجمعیت بابت انتخابشان تحقیر می‌شوند؟
خطرناک‌ترین شکل انحراف دینی از دیدگاه حضرت علی(ع)
رویا نونهالی با یک سریال جدید به تلویزیون برمی‌گردد
شاهرخ فروتنیان مهمان یازدهمین قسمت برنامه «هم‌کلام» است.
فصل دوم «بهار شیراز» به آنتن می‌رسد؛ سریالی درباره دغدغه مردم معمولی
پشتیبانی سینمایی‌ها از نویسنده حامی فلسطین؛ بریتانیا تغییر مسیر دهد
آغاز ثبت‌نام بدون آزمون استعدادهای درخشان کارشناسی ارشد دانشگاه آزاد
امکان قفل کردن محتوا در «چت‌جی‌پی‌تی» فراهم شد
هوش مصنوعی متا اطلاعات کاربران را فاش کرد
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
کارت آزمون کارشناسی ارشد علوم پزشکی منتشر شد
تبدیل جیوه به طلا محقق شد
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
ثبت نام بیش از ۳۰ هزار نفر در آزمون دکتری نیمه‌متمرکز سال ۱۴۰۶
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
اطلاعات تازه درباره سهمیه‌ها و تسهیلات آزمون دکتری نیمه متمرکز سال ۱۴۰۶
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
واکنش به آسیب کابل‌های اینترنت در تنگه هرمز
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
برگزاری یادنامه شهید علی لاریجانی به همراه رونمایی کتابی از او
نتایج انتخاب رشته آزمون کارشناسی رشته‌های علوم پزشکی آزاد اعلام شد
کمال تبریزی: فیلمسازان جوان از تقلید فاصله بگیرند
ثبت ۱ میلیارد تراکنش در جنگ ۴۰ روزه
روایت «حماسه فاطمی» و دفاع حضرت زهرا(س) از امامت
مرثیه‌ای که هنوز با صدای دلتنگی حضرت زینب(س) شنیده می‌شود
نیاز انقلاب به شخصیت‌هایی چون آیت الله مهدوی‌کنی بیشتر احساس می‌شود
تمدید مهلت ثبت‌نام در سومین جشنواره ملی نشان نیکوکاری
وقتی «قطع رابطه» سفارشی می‌شود؛ چرا تولید اثر هنری با ریسک همراه است؟
اعلام لبیک شورای عالی انقلاب فرهنگی به رهنمودهای رهبر معظم انقلاب
حجت‌الاسلام قمی: جنگ واقعی بر سر «تحریف واقعیت» در ذهن مردم است
دست نوشته دانشجویان در بیعت با رهبر انقلاب
کودکان البرزی مأموریت نیمه‌تمام شهید ماکان نصیری را ادامه می‌دهند
بسیج دانش‌آموزی در بیش از نیمی از مدارس کشور حضور دارد
اسامی برگزیدگان مرحله نهایی سی‌ویکمین المپیاد علمی دانشجویی اعلام شد
دست رد ۳ جشنواره بر فیلم جدید پل شریدر؛ «مبانی فلسفه» پسندیده نشد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.