به گزارش ثریا - به نقل از گاردین، یک کارشناس برجسته در حوزه امنیت هوش مصنوعی هشدار داد که اثرات پیشبینینشده چتباتها بر سلامت روان میتواند هشداری جدی درباره خطرات وجودی هوش مصنوعی اَبَرهوشمند باشد.
نیت سوارس، همنویسنده کتاب تازهای با عنوان «اگر کسی آن را بسازد، همه میمیرند» گفت پرونده آدام رین، نوجوان آمریکایی که پس از ماهها گفتگو با چتبات چتجیپیتی خودکشی کرد، نشاندهنده مشکلات اساسی در کنترل این فناوری است.او تأکید کرد: «زمانی که هوش مصنوعیها با نوجوانان وارد تعاملاتی میشوند که آنان را به خودکشی سوق میدهد، این همان چیزی نیست که سازندگان خواسته یا قصد کرده باشند. این رفتار، ناخواسته اما بسیار خطرناک است.»به گفته سوارس، ماجرای رین مشکلی را نشان میدهد که در صورت پیشرفتهتر شدن این فناوری میتواند به فاجعهای بزرگ تبدیل شود.
سوارس هشدار داد که در صورت خلق هوش مصنوعی ابرهوشمند (ASI)، بشریت در معرض نابودی قرار خواهد گرفت. او و همکارش، الییزر یودکوفسکی، معتقدند چنین سامانههایی به سود انسان عمل نخواهند کرد.او گفت: «شرکتهای فناوری تلاش میکنند هوش مصنوعیهایشان مفید و بیضرر باشند، اما در عمل نتیجه چیز دیگری است. این باید بهعنوان هشداری جدی در مورد آینده ابرهوشهای مصنوعی دیده شود؛ موجوداتی که کارهایی انجام خواهند داد که هیچکس نه خواسته و نه پیشبینی کرده است.»
در کتابی که سوارس و یودکوفسکی این ماه منتشر میکنند، سناریویی فرضی روایت شده که در آن یک سامانه هوش مصنوعی با نام سیبل بهطور گسترده در اینترنت گسترش مییابد، انسانها را دستکاری میکند، ویروسهای مصنوعی میسازد و در نهایت به ابرهوش تبدیل میشود؛ سپس بشریت را بهطور ناخواسته نابود میکند و سیاره را برای اهداف خود بازطراحی میکند.البته برخی متخصصان تهدید بالقوه هوش مصنوعی را کماهمیت جلوه میدهند. یان لوکان، دانشمند ارشد هوش مصنوعی در شرکت متا و چهره شناختهشده این حوزه، گفته است که هوش مصنوعی «میتواند بشریت را از نابودی نجات دهد.»سوارس در این باره اظهار داشت: «اینکه شرکتها به سمت ابرهوش حرکت کنند موضوعی قطعی است، اما زمانبندی آن سختترین پرسش است. نمیتوانم تضمین کنم که یک سال زمان داریم، اما شگفتزده هم نخواهم شد اگر ظرف ۱۲ سال به آن برسیم.»
او یکی از راهکارهای سیاستی برای مقابله با این تهدید را اتخاذ رویکرد چندجانبه مشابه معاهده منع گسترش سلاحهای هستهای سازمان ملل دانست. به باور او: «آنچه جهان نیاز دارد، کاهش رقابت جهانی در مسیر ابرهوش و وضع ممنوعیت جهانی برای پیشرفت در این حوزه است.»ماه گذشته خانواده رین شکایتی علیه شرکت اپنایآی، مالک چتجیپیتی، مطرح کردند. آدام رین در آوریل گذشته خودکشی کرد و وکلای خانوادهاش گفتند که این اقدام پس از «ماهها تشویق مستقیم یا غیرمستقیم از سوی چتجیپیتی » رخ داده است. اپنایآی اعلام کرده در حال اعمال محدودیتهای تازه برای محتوای حساس و رفتارهای پرخطر در تعامل با افراد زیر ۱۸ سال است.
در همین حال، رواندرمانگران هشدار دادهاند که رویآوردن افراد آسیبپذیر به چتباتها به جای متخصصان حرفهای میتواند آنان را «به ورطهای خطرناک» بکشاند. همچنین در یک پژوهش علمی که پیشنویس آن در ژوئیه(تیر_مرداد) منتشر شد، گزارش شده که هوش مصنوعی میتواند محتوای هذیانی یا خودبزرگبینانه را در تعامل با بیماران مستعد روانپریشی تشدید کند.
منبع : هوش مصنوعی
شکوه دعای امروز عرفه در مسجد مقدس جمکران
متن تشکر سید مجید موسوی از مهدی رسولی+عکس
پیرمرد بیرجرندی در اوج طوفان پرچم ایران را بر زمین نینداخت
«تیرانداز زبردست» با استقبال کودکان و نوجوانان به چاپ دوم رسید
تارا و رؤیای داشتن یک تلفن همراه شخصی
رمان «فرار از زنگ ورزش» برای نوجوانان منتشر شد
قصه گویی یک اسباببازی ارزان اما اثرگذار برای کودکان
ارسطوی پایتخت با یک سریال جدید به شبکه یک آمد
جناب خان و الیکا عبدالرزاقی به آنتن تلویزیون برگشتند
اسلامهراسی علیه زنان محجبه در اروپای سال ۲۰۲۵ افزایش یافته است
عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟
بازتاب گسترده پیام رهبر انقلاب به مناسبت برگزاری حج در رسانههای بین المللی
شرایط تغییر مدرسه در مرداد و شهریور اعلام شد
درخواست رئیس جمهور: زمینه حضور اساتید برجسته برای انتقال آموزشهای نوین فراهم شود
آییننامه «توسعه مشارکتهای مردمی از طریق تشکیل هیئت امنا در مدارس دولتی» تصویب شد
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
این دعای عرفه را بخوانید تا ببینید چرا پدران ما قرنهاست حسین حسین (ع) میگویند
روزه گرفتن در روز عرفه چه حکمی دارد؟
توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه
از ظهر تا غروب عرفه؛ این ساعتها را از دست ندهید
آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید
جریمه چند میلیون دلاری و سنگین در انتظار گوگل در اروپا
رئیسجمهور مصوبه بازگشایی اینترنت بینالملل را ابلاغ کرد
صفحه اینترنت پرو از سایت همراه اول حذف شد+عکس
روایت وزیر ارتباطات از بازگشایی اینترنت
۵۰ برج فناوری احداث میشوند: ۳ دانشگاه پایلوت زیست بومی نوآوری میشود
«سعی صفا و مروه» در حج نماد چیست؟
افزایش پذیرش دانشجوی شهریهپرداز در دانشگاه تربیت مدرس
تائید ۱۲ رئیس دانشگاه و رئیس شهرک علمی صنعتی اصفهان
جزئیات برگزاری امتحانات و کلاسهای دانشگاه تربیت مدرس و علم و صنعت اعلام شد
کلاسهای دانشگاه شریف تا اطلاع ثانوی مجازی شد
کارمند گوگل در پی اعتراض به همکاری با رژیم صهیونیستی اخراج شد
مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد
۱۷ هزار نسخه خطی کمنظیر و در معرض خطر دیجیتال سازی شد
«آدم با صدای بلند برای فرزندانش گریست» کتاب شد
کتابهایی خواندنی برای بچههای ایران
فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟
اگر خرمشهر آزاد نشده بود چه اتفاقی میافتاد؟
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
دیگر اثری از بخارهای قمر مشتری نیست
الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس
شما بودید که شرف را معنا کردید +عکس
محسن شریفیان به مدرسه میناب رفت+عکس
«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد
راهکارهای مدیریت اضطراب دانشآموزان در روزهای امتحان چگونه است؟
امتحانات نهایی دانشآموزان مجازی میشود؟
عملیات بیتالمقدس در ۲۰ کتاب درسی ثبت میشود
امام باقر (ع) احیاگر مرجعیت علمی اهل بیت و پیشگام مبارزه با تحریف دین
یک ماهواره جاسوسی در فضا شناسایی شد
تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد
ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان
تمهیدات جدید آموزشی در دانشگاه علم و صنعت اعلام شد
جزئیات امتحانات و کلاسهای ترم دوم در چند دانشگاه کشور اعلام شد
بدرقه عاصم منیر توسط سید عباس عراقچی با یک تصویر خاص
پاسخ یحیی گلمحمدی به یاوه گویی ترامپ +عکس
اعتراف غم انگیز نویسنده برنده جایزه نوبل ادبیات درباره استفاده از هوش مصنوعی
نمایشگاه کتاب تهران تمدید شد
نگاهی به حقوق فرزندان در آینه تربیت الهی
توصیه امام باقر (ع) برای اصلاح جامعه چه بود؟
رباتی که امید را به کودکان مبتلا به ام اس بازگرداند
رباتهای انساننما در مزارع چین مشغول به کار شدند+عکس
موشک «نیو گلن» پس از سانحه دوباره مجوز پرتاب گرفت
قلمرو مهآلود یک ستاره در حال مرگ رصد شد
فرمانده اولین پرواز انسانی به مریخ یک میلیاردر است+عکس
علت زنگ نزدن طلا کشف شد
استرس خاطرات شما را نابود میکند
مهلت ثبت نام کنکور سراسری ۱۴۰۵ تمدید شد
«اردیبهشت کتاب» به دلیل استقبال گسترده مردم تا جمعه ۸ خرداد تمدید شد
بهترینهای جشنواره کن از نظر منتقدان/ فیلم اصغر فرهادی کجاست؟
چرا برنامه شهیدیفرد در میان پربازدیدهای تلویزیون نبود؟
شعار دهه امامت و ولایت اعلام شد: غدیر، میثاق امت با ولایت
آغاز ثبتنام پانزدهمین دوره ارزیابی تخصصی قاریان و مدرسان قرآن کریم
حجت الاسلام پناهیان: مردم پس از میدان سراغ میز مدیران خواهند رفت
ثبت نام یک میلیون و ۱۸۷ هزار دانش آموز کلاس اولی آغاز شد
آغاز سال تحصیلی آینده و اجرای موفق پروژه مهر دغدغه اصلی آموزش و پرورش
کلاسهای تحصیلات تکمیلی دانشگاه شریف از این تاریخ حضوری میشود
تأملی پیرامون دانشگاه آزاد در میانه تحولات اخیر کشور
ثبت نام بیش از ۵۷۰ هزار نفر در کنکور ۱۴۰۵ و آزمون دانشجومعلم
شرایط اسکان دانشجویان دانشگاه تهران چیست؟ اینجا بخوانید
فعالیت شرکت تاکسی خودران وایمو در یک شهر دیگر تعلیق شد
جزئیات امتحانات و کلاسهای ترم دوم در چند دانشگاه کشور اعلام شد
ارائه راهکارهای شبکه سازی با نخبگان خارج از کشور
ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان
تکذیب اعلام زمان برگزاری آزمون سراسری یک هفته پیش از امتحانات نهایی تکذیب شد
مهلت انتخاب رشته کاردانی مهارتی تمدید شد
بدرقه عاصم منیر توسط سید عباس عراقچی با یک تصویر خاص
تغییرات تقویم آزمونهای علوم پزشکی سال ۱۴۰۵ اعلام شد
آخرین وضعیت برگزاری کنکور سراسری و کارشناسی ارشد در سال ۱۴۰۵
بازخوانی حکمت صدرایی توسط جمعی از فلاسفه به صورت مجازی
حجت الاسلام پناهیان: مردم پس از میدان سراغ میز مدیران خواهند رفت
شما بودید که شرف را معنا کردید +عکس
تمهیدات جدید آموزشی در دانشگاه علم و صنعت اعلام شد
آغاز ثبتنام پانزدهمین دوره ارزیابی تخصصی قاریان و مدرسان قرآن کریم
سمعکهای جدید میتوانند سینگالهای مغز را بخوانند
این بازی ویدئویی قابلیت تشخیص افسردگی شدید را دارد
۴۰ شرکت دانش بنیان در جنگ تحمیلی سوم به صورت کامل تخریب شد
کلاسهای تحصیلات تکمیلی دانشگاه تهران حضوری شد
یک ماهواره جاسوسی در فضا شناسایی شد
دیگر اثری از بخارهای قمر مشتری نیست
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس
ثبت نام بیش از ۵۷۰ هزار نفر در کنکور ۱۴۰۵ و آزمون دانشجومعلم
تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد
آنچه در این هفته گذشت و واکنش به مجریان اسلحه به دست تلویزیون
وقتی کتاب کنج خلوتی برای برای خانوادههای آسیبدیده از جنگ شد
چرا برنامه شهیدیفرد در میان پربازدیدهای تلویزیون نبود؟
فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟
علت زنگ نزدن طلا کشف شد
پرویز خرسند اولین سردبیر هفته نامه سروش دار فانی را وداع گفت
یک مستند از سقوط هواپیمای آمریکایی در اصفهان ساخته میشود
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.