به گزارش ثریا - به نقل از گاردین، یک کارشناس برجسته در حوزه امنیت هوش مصنوعی هشدار داد که اثرات پیشبینینشده چتباتها بر سلامت روان میتواند هشداری جدی درباره خطرات وجودی هوش مصنوعی اَبَرهوشمند باشد.
نیت سوارس، همنویسنده کتاب تازهای با عنوان «اگر کسی آن را بسازد، همه میمیرند» گفت پرونده آدام رین، نوجوان آمریکایی که پس از ماهها گفتگو با چتبات چتجیپیتی خودکشی کرد، نشاندهنده مشکلات اساسی در کنترل این فناوری است.او تأکید کرد: «زمانی که هوش مصنوعیها با نوجوانان وارد تعاملاتی میشوند که آنان را به خودکشی سوق میدهد، این همان چیزی نیست که سازندگان خواسته یا قصد کرده باشند. این رفتار، ناخواسته اما بسیار خطرناک است.»به گفته سوارس، ماجرای رین مشکلی را نشان میدهد که در صورت پیشرفتهتر شدن این فناوری میتواند به فاجعهای بزرگ تبدیل شود.
سوارس هشدار داد که در صورت خلق هوش مصنوعی ابرهوشمند (ASI)، بشریت در معرض نابودی قرار خواهد گرفت. او و همکارش، الییزر یودکوفسکی، معتقدند چنین سامانههایی به سود انسان عمل نخواهند کرد.او گفت: «شرکتهای فناوری تلاش میکنند هوش مصنوعیهایشان مفید و بیضرر باشند، اما در عمل نتیجه چیز دیگری است. این باید بهعنوان هشداری جدی در مورد آینده ابرهوشهای مصنوعی دیده شود؛ موجوداتی که کارهایی انجام خواهند داد که هیچکس نه خواسته و نه پیشبینی کرده است.»
در کتابی که سوارس و یودکوفسکی این ماه منتشر میکنند، سناریویی فرضی روایت شده که در آن یک سامانه هوش مصنوعی با نام سیبل بهطور گسترده در اینترنت گسترش مییابد، انسانها را دستکاری میکند، ویروسهای مصنوعی میسازد و در نهایت به ابرهوش تبدیل میشود؛ سپس بشریت را بهطور ناخواسته نابود میکند و سیاره را برای اهداف خود بازطراحی میکند.البته برخی متخصصان تهدید بالقوه هوش مصنوعی را کماهمیت جلوه میدهند. یان لوکان، دانشمند ارشد هوش مصنوعی در شرکت متا و چهره شناختهشده این حوزه، گفته است که هوش مصنوعی «میتواند بشریت را از نابودی نجات دهد.»سوارس در این باره اظهار داشت: «اینکه شرکتها به سمت ابرهوش حرکت کنند موضوعی قطعی است، اما زمانبندی آن سختترین پرسش است. نمیتوانم تضمین کنم که یک سال زمان داریم، اما شگفتزده هم نخواهم شد اگر ظرف ۱۲ سال به آن برسیم.»
او یکی از راهکارهای سیاستی برای مقابله با این تهدید را اتخاذ رویکرد چندجانبه مشابه معاهده منع گسترش سلاحهای هستهای سازمان ملل دانست. به باور او: «آنچه جهان نیاز دارد، کاهش رقابت جهانی در مسیر ابرهوش و وضع ممنوعیت جهانی برای پیشرفت در این حوزه است.»ماه گذشته خانواده رین شکایتی علیه شرکت اپنایآی، مالک چتجیپیتی، مطرح کردند. آدام رین در آوریل گذشته خودکشی کرد و وکلای خانوادهاش گفتند که این اقدام پس از «ماهها تشویق مستقیم یا غیرمستقیم از سوی چتجیپیتی » رخ داده است. اپنایآی اعلام کرده در حال اعمال محدودیتهای تازه برای محتوای حساس و رفتارهای پرخطر در تعامل با افراد زیر ۱۸ سال است.
در همین حال، رواندرمانگران هشدار دادهاند که رویآوردن افراد آسیبپذیر به چتباتها به جای متخصصان حرفهای میتواند آنان را «به ورطهای خطرناک» بکشاند. همچنین در یک پژوهش علمی که پیشنویس آن در ژوئیه(تیر_مرداد) منتشر شد، گزارش شده که هوش مصنوعی میتواند محتوای هذیانی یا خودبزرگبینانه را در تعامل با بیماران مستعد روانپریشی تشدید کند.
منبع : هوش مصنوعی