اختصاصی شبکه علمی ثریا- ممکن است در مورد رباتهای قاتل، رباتهای کشتار یا پایاندهندهها که رسماً به آنها سلاحهای خودمختار کشنده (LAWs) گفته میشود از فیلمها و کتابها شنیده اید. اما با پیچیدهتر شدن سلاحهای هوش مصنوعی، نگرانی در مورد ترس از عدم پاسخگویی و خطر نقص فنی این رباتها بیشتر میشود. قبلاً دیدهایم که هوش مصنوعی به اصطلاح خنثی، چگونه الگوریتمهای جنسیتگرایانه و سیستمهای تعدیل محتوای نامناسب را ایجاد کرده است که عمدتاً هم به دلیل درک نداشتن سازندگان آنها از این فناوری است. اما در جنگ، این نوع سوء تفاهم ها می تواند غیرنظامیان را بکشد یا مذاکرات را خراب کند. به عنوان مثال، یک الگوریتم تشخیص هدف می تواند برای شناسایی مخازن از تصاویر ماهوارهای آموزش داده شود. اما اگر تمام تصاویری که برای آموزش سیستم استفاده میشوند، سربازانی را در اطراف تانک نشان میدادند، چه؟ ممکن است یک وسیله نقلیه غیرنظامی که از محاصره نظامی عبور می کند را با یک هدف اشتباه بگیرد.
چرا ما به سلاح های خودمختار نیاز داریم؟
غیرنظامیان در بسیاری از کشورها (مانند ویتنام، افغانستان و یمن) به دلیل شیوه ساخت و استفاده از سلاحهای پیشرفتهتر توسط ابرقدرتهای جهانی آسیب دیدهاند. بسیاری از مردم استدلال میکنند که بیشتر ضرر کردهاند تا سود، و اخیراً به تهاجم روسیه به اوکراین در اوایل سال 2022 اشاره کردهاند. در اردوگاه دیگر افرادی هستند که می گویند یک کشور باید بتواند از خود دفاع کند، که به معنای همگام شدن با فناوری نظامی کشورهای دیگر است. هوش مصنوعی میتواند در شطرنج و پوکر از انسانها پیشی بگیرد. در دنیای واقعی نیز از انسان ها بهتر عمل می کند. به عنوان مثال مایکروسافت ادعا می کند که نرم افزار تشخیص گفتار آن دارای نرخ خطای 1٪ در مقایسه با نرخ خطای انسانی حدود 6٪ است. بنابراین تعجب آور نیست که ارتش ها به آرامی کنترل الگوریتم ها را به دست می گیرند. اما چگونه میتوانیم از اضافه کردن روباتهای قاتل به فهرست طولانی چیزهایی که آرزو میکردیم هرگز اختراع نکرده بودیم اجتناب کنیم؟
اول از همه: دشمنت را بشناس
دپارتمان دفاع ایالات متحده سیستم سلاح خودران را اینگونه تعریف میکند: «سیستم تسلیحاتی که پس از فعال شدن، میتواند بدون مداخله بیشتر توسط اپراتور انسانی، اهدافی را انتخاب کرده و درگیر کند». بسیاری از سیستم های رزمی در حال حاضر با این معیار مطابقت دارند. رایانههای روی پهپادها و موشکهای مدرن الگوریتمهایی دارند که میتوانند اهداف را شناسایی کرده و با دقت بسیار بیشتری نسبت به اپراتور انسانی به سمت آنها شلیک کنند. سلاحهای مجهز به هوش مصنوعی نیز وجود دارد که برای حمله به مردم نیز طراحی شدهاند، از رباتهای نگهبانی گرفته تا پهپادهای کامیکازه سرگردان که در جنگ اوکراین استفاده میشوند. بنابراین، اگر میخواهیم بر استفاده از قوانین تأثیر بگذاریم، باید تاریخ سلاحهای مدرن را درک کنیم.
قوانین جنگ
توافقنامههای بینالمللی، مانند کنوانسیونهای ژنو، رفتاری را برای رفتار با اسیران جنگی و غیرنظامیان در هنگام درگیری ایجاد میکنند. آنها یکی از معدود ابزارهایی هستند که ما برای کنترل نحوه جنگیدن داریم. متأسفانه، استفاده از سلاح های شیمیایی توسط ایالات متحده در ویتنام، و توسط روسیه در افغانستان، دلیلی بر عدم موفقیت این اقدامات است. مین های زمینی از سال 2015 سالانه حداقل 5000 سرباز و غیرنظامی را مجروح کرده و جان خود را از دست داده اند و در سال 2017 حدود 9440 نفر کشته شده اند. گزارش مین و مهمات خوشه ای 2022 می گوید: "تلفات... در هفت سال گذشته، به دنبال بیش از یک دهه کاهش تاریخی، به طرز نگران کننده ای بالا بوده است. سال 2021 نیز از این قاعده مستثنی نبود. این روند عمدتاً نتیجه افزایش درگیری و آلودگی توسط مین های دست ساز مشاهده شده از سال 2015 است. غیرنظامیان بیشترین کشتهها را داشتند. از بین قربانیان ثبت شده نیمی از آنها کودک بودند." علیرغم بهترین تلاشهای ICBL، شواهدی وجود دارد که هم روسیه و هم اوکراین (عضو معاهده اتاوا) از مینهای زمینی در طول تهاجم روسیه به اوکراین استفاده میکنند. اوکراین همچنین برای هدایت حملات توپخانه ای به هواپیماهای بدون سرنشین یا اخیراً برای «حملات کامیکازه» به زیرساخت های روسیه متکی است.
آینده ما
اما سلاحهای پیشرفتهتر مجهز به هوش مصنوعی چطور است؟ کمپین توقف رباتهای قاتل نه مشکل کلیدی قوانین را فهرست میکند که بر عدم پاسخگویی و غیرانسانیسازی ذاتی کشتار ناشی از آن تمرکز دارد. در حالی که این انتقاد معتبر است، ممنوعیت کامل قوانین به دو دلیل غیر واقعی است. اول، مانند معادن، جعبه پاند همچنین خطوط بین سلاحهای خودکار، قوانین و رباتمعنای روبات های قاتل برای آینده جنگ چیست؟ ممکن است در مورد رباتهای قاتل، رباتهای کشتار یا پایاندهندهها - که رسماً به آنها سلاحهای خودمختار کشنده (LAWs) گفته میشود- از فیلمها و کتابها شنیده باشید. و ایده تسلیحات فوقهوشمند که بیداد میکنند هنوز علمی تخیلی است. اما با پیچیدهتر شدن سلاحهای هوش مصنوعی، نگرانی عمومی در مورد ترس از عدم پاسخگویی و خطر نقص فنی بیشتر میشود.
قبلاً دیدهایم که هوش مصنوعی به اصطلاح خنثی چگونه الگوریتمهای جنسیتگرایانه و سیستمهای تعدیل محتوای نامناسب را ایجاد کرده است، عمدتاً به این دلیل که سازندگان آنها این فناوری را درک نکردهاند. اما در جنگ، این نوع سوء تفاهم ها می تواند غیرنظامیان را بکشد یا مذاکرات را خراب کند. به عنوان مثال، یک الگوریتم تشخیص هدف می تواند برای شناسایی مخازن از تصاویر ماهواره ای آموزش داده شود. اما اگر تمام تصاویری که برای آموزش سیستم استفاده میشوند، سربازانی را در اطراف تانک نشان میدادند، چه؟ ممکن است یک وسیله نقلیه غیرنظامی که از محاصره نظامی عبور می کند را با یک هدف اشتباه بگیرد.
چرا ما به سلاح های خودمختار نیاز داریم؟
غیرنظامیان در بسیاری از کشورها (مانند ویتنام، افغانستان و یمن) به دلیل شیوه ساخت و استفاده از سلاحهای پیشرفتهتر توسط ابرقدرتهای جهانی آسیب دیدهاند. بسیاری از مردم استدلال میکنند که بیشتر ضرر کردهاند تا سود، و اخیراً به تهاجم روسیه به اوکراین در اوایل سال 2022 اشاره کردهاند. در اردوگاه دیگر افرادی هستند که می گویند یک کشور باید بتواند از خود دفاع کند، که به معنای همگام شدن با فناوری نظامی کشورهای دیگر است. هوش مصنوعی میتواند در شطرنج و پوکر از انسانها پیشی بگیرد. در دنیای واقعی نیز از انسان ها بهتر عمل می کند. به عنوان مثال مایکروسافت ادعا می کند که نرم افزار تشخیص گفتار آن دارای نرخ خطای 1٪ در مقایسه با نرخ خطای انسانی حدود 6٪ است. بنابراین تعجب آور نیست که ارتش ها به آرامی کنترل الگوریتم ها را به دست می گیرند. اما چگونه میتوانیم از اضافه کردن روباتهای قاتل به فهرست طولانی چیزهایی که آرزو میکردیم هرگز اختراع نکرده بودیم اجتناب کنیم؟ اول از همه: دشمنت را بشناس.
دپارتمان دفاع ایالات متحده سیستم سلاح خودران را اینگونه تعریف میکند: «سیستم تسلیحاتی که پس از فعال شدن، میتواند بدون مداخله بیشتر توسط اپراتور انسانی، اهدافی را انتخاب کرده و درگیر کند». بسیاری از سیستم های رزمی در حال حاضر با این معیار مطابقت دارند. رایانههای روی پهپادها و موشکهای مدرن الگوریتمهایی دارند که میتوانند اهداف را شناسایی کرده و با دقت بسیار بیشتری نسبت به اپراتور انسانی به سمت آنها شلیک کنند. گنبد آهنین اسرائیل یکی از چندین سامانه دفاعی فعال است که می تواند بدون نظارت انسان با اهدافی درگیر شود. در حالی که گنبد آهنین برای دفاع موشکی طراحی شده است، ممکن است به طور تصادفی افراد را بکشد. اما این خطر در سیاست بینالملل قابل قبول تلقی میشود، زیرا گنبد آهنین به طور کلی سابقه قابل اعتمادی در حفاظت از جان غیرنظامیان دارد. سلاحهای مجهز به هوش مصنوعی نیز وجود دارد که برای حمله به مردم نیز طراحی شدهاند، از رباتهای نگهبانی گرفته تا پهپادهای کامیکازه سرگردان که در جنگ اوکراین استفاده میشوند. قوانین در حال حاضر اینجا هستند. بنابراین، اگر میخواهیم بر استفاده از قوانین تأثیر بگذاریم، باید تاریخ سلاحهای مدرن را درک کنیم.
قوانین جنگ
توافقنامههای بینالمللی، مانند کنوانسیونهای ژنو، رفتاری را برای رفتار با اسیران جنگی و غیرنظامیان در هنگام درگیری ایجاد میکنند. آنها یکی از معدود ابزارهایی هستند که ما برای کنترل نحوه جنگیدن داریم. متأسفانه، استفاده از سلاح های شیمیایی توسط ایالات متحده در ویتنام، و توسط روسیه در افغانستان، دلیلی بر عدم موفقیت این اقدامات است. بدتر از آن زمانی است که بازیکنان کلیدی از ثبت نام خودداری کنند. کمپین بین المللی برای ممنوع کردن مین های زمینی (ICBL) از سال 1992 با سیاستمداران برای ممنوعیت مین ها و مهمات خوشه ای (که به طور تصادفی بمب های کوچک را در منطقه وسیعی پراکنده می کند) لابی کرده است. در سال 1997، معاهده اتاوا شامل ممنوعیت این سلاحها بود که 122 کشور آن را امضا کردند. اما آمریکا، چین و روسیه خرید نکردند.
مین های زمینی از سال 2015 سالانه حداقل 5000 سرباز و غیرنظامی را مجروح کرده و جان خود را از دست داده اند و در سال 2017 حدود 9440 نفر کشته شده اند. گزارش مین و مهمات خوشه ای 2022 می گوید: "تلفات... در هفت سال گذشته، به دنبال بیش از یک دهه کاهش تاریخی، به طرز نگران کننده ای بالا بوده است. سال 2021 نیز از این قاعده مستثنی نبود. این روند عمدتاً نتیجه افزایش درگیری و آلودگی توسط مین های دست ساز مشاهده شده از سال 2015 است. غیرنظامیان بیشترین نماینده را داشتند. از قربانیان ثبت شده که نیمی از آنها کودک بودند." علیرغم بهترین تلاشهای ICBL، شواهدی وجود دارد که هم روسیه و هم اوکراین (عضو معاهده اتاوا) از مینهای زمینی در طول تهاجم روسیه به اوکراین استفاده میکنند. اوکراین همچنین برای هدایت حملات توپخانه ای به هواپیماهای بدون سرنشین یا اخیراً برای «حملات کامیکازه» به زیرساخت های روسیه متکی است.
آینده ما
اما سلاحهای پیشرفتهتر مجهز به هوش مصنوعی چطور؟ کمپین توقف رباتهای قاتل نه مشکل کلیدی قوانین را فهرست میکند که بر عدم پاسخگویی و غیرانسانیسازی ذاتی کشتار ناشی از آن تمرکز دارد. تقریباً مطمئناً در آینده شاهد سلاحهای بیشتری با هوش مصنوعی خواهیم بود.
ایجاد ممنوعیتهای صحیح :
جعبه سیاه هوش مصنوعی:
سیستمهایی که کاربر هیچ اطلاعاتی در مورد الگوریتم فراتر از ورودیها و خروجیها ندارد.
هوش مصنوعی غیرقابل اعتماد:
سیستمهایی که تست ضعیفی از خود نشان دادهاند
و برای داشتن دیدگاهی در مورد قوانین، لازم نیست در حوزه هوش مصنوعی متخصص باشید یا از پیشرفت های جدید هوش مصنوعی نظامی آگاه باشید. وقتی در مورد استفاده از هوش مصنوعی در جنگها می خوانید یا می شنوید، از خود بپرسید: آیا این کار موجه است؟ آیا زندگی غیرنظامیان را حفظ می کند؟ اگر نه، با جوامعی که برای کنترل این سیستمها کار میکنند، تعامل کنید.
ورود ترجمه یک اثر دیگر از ایلان پاپه به نمایشگاه کتاب
بازدید هیات روسی از دانشگاه امیرکبیر با هدف گسترش همکاری
صعود ۸ پلهای دانشگاه صنعتی شریف در رتبهبندی آسیایی تایمز ۲۰۲۴
خیرین ۳۰۰ میلیارد تومان به دانشگاه تهران کمک کردند
۲۵۰ واحد دانشگاهی پیام نور آماده واگذاری شد
جذب دانشجویان و گردشگران خارجی، مهمترین برنامه معاونت بینالملل دانشگاه علوم پزشکی مشهد
درخواست صحرائی برای حضور دانشآموزان در محیطهای مختلف یادگیری با توجه به موضوع درس
جزئیات برگزاری یک جشن دخترانه در ورزشگاه شهید شیرودی
برگزاری نشست تخصصی اولویتدهی به کودکان در حمایتهای اجتماعی؛ از ایده تا اجرا
پلهای کابلی در دانشکده فنی مهندسی عمران دانشگاه تهران سادهسازی شدند
بسترهای انگیزشی در دانشجویان برای آشنایی با پزشکی بازساختی ایجاد شود
دانشگاه آزاد اسلامی را پایگاهی از حوزه علمیه میدانیم
کتابی برای فیلمسازان خلاق ایرانی
فروش ۷۴ میلیارد تومانی مجازی و حضوری نمایشگاه کتاب
نامزدهای ششمین دوره جایزه ارغوان معرفی شدند
برگزاری جشنواره فرهنگی و هنری ویژه دانشجویان دانشگاه تهران
کتاب آشپزی دوره صفوی به چاپ ششم رسید
رییس جمهور از نمایشگاه کتاب بازدید کرد
۱۱ ملک آموزش و پرورش شهرستانهای استان تهران در انتظار مولدسازی
تخصیص ۱۰۵ هزار نیرو به آموزش و پرورش در سال جاری
آغاز هفته خوابگاهها از امروز/ اعلام برنامههای وزارت علوم
فرصت دانشجویان و اساتید برای ثبت نام یارانه اعتباری خرید کتاب
گسترش همکاری دانشگاه صنعتی شریف و دانشگاه وارث الانبیا عراق
زمان برگزاری آزمون زبان MSRT درتیر ۱۴۰۳ اعلام شد
تولیدات دانشگاهها نظم دنیا را تغییر داده است
راهاندازی ۱۰۰ واحد مسکونی متاهلی برای دانشجویان و کارکنان دانشگاه علوم پزشکی تهران
تعلیق استاد دانشگاه واشنگتن به دلیل حمایت از فلسطین
پذیرش ۲۶ هزار دانشجوی دکتری در دانشگاهها/ نحوه محاسبه نمره دکتری
تمام اقدامات برای دستیاران پزشکی/ از افزایش حقوق تا بورسیه تحصیلی
کمکهای خیرین ۱۰ درصد بودجه کل دانشگاه تهران را تشکیل میدهد
لایحه تقویت مدارس دولتی به مجلس میرود
راهنمای عملی آزمونهای نهایی دوره دوم متوسطه نظری منتشر شد
نحوه برگزاری امتحانات نهایی و تصحیح اوراق دانشآموزان اعلام شد
شرایط به کارگیری معلمان آزاد در مدارس غیردولتی
آغاز به کار رویداد تخصصی پزشکی بازساختی پزشکی آینده در شیراز
پژوهشکده معتمد جهاد دانشگاهی می تواند یکی از کانونهای اصلی مهاجرت معکوس نخبگان باشد
استادان نمونه دانشگاه علامهطباطبائی معرفی شدند
استاد پاسخگو نسل پاسخگو تربیت میکند
برنامه وزارت علوم در هفته خوابگاههای دانشجویی اعلام شد
مجموعه ۱۴ جلدی به دنیا آمدهام رونمایی میشود
تحویل حدود ۱۲ هزار کلاس درس به دانشآموزان در مهرماه
صحرایی: لایحه تقویت مدارس دولتی به مجلس خواهد رفت
بررسی صلاحیت نامزدهای دومین آئین اعطای نشان عالی دانش دانشگاه تهران و علوم پزشکی تهران
مدیران دانشجویی دانشگاهها زمینه زیست سالم دانشجویی را فراهم کنند
دانشگاه علامه طباطبایی میزبان سومین دوره از جشنواره برهان است
مشارکت حدود یک میلیون نفر از دانشآموزان و فرهنگیان در طرح مسطورا
نشان ملی معلمی بهزودی در شورای عالی انقلاب فرهنگی تصویب خواهد شد
مقدمات ملی شدن صنعت نشر فراهم است
زمان انتشار نتایج اولیه کنکور ارشد و معرفی شدگان دکتری اعلام شد
تشریح جزئیات برگزاری مجدد نوبت اول کنکور برای داوطلبان سیلزده
علم نافع چارهگشا و راهگشای تربیت عالم و تولید علم
شخصیت دختر کاپشنصورتی با گوشواره قلبی رونمایی شد
تاسیس کرسی آموزش زبان فارسی در دانشگاههای زیمبابوه
دریافت پول هنگام ثبتنام صرفا برای کتاب، بیمه و فرم مدرسه مجاز است
امسال ۱۰۲ هزار معلم جذب آموزش و پرورش میشوند
بخش زیادی از ۳۰ میلیون گیمر کشور دانشجو هستند
برنامه وزارت علوم برای طرح امریه دکتری استعدادهای درخشان
ضرورت دستیابی به روش های کاربردی در آموزش مداوم پزشکی
پورعباس با حکم رئیس جمهور رییس سازمان سنجش شد
تصویر دیدنی از رنگین کمان امروز تهران
آیفون تاشو به زودی با ظاهری شیک تولید میشود+عکس
تصویب سند ملی معماری و شهرسازی ایرانی- اسلامی
تأیید انتخاب رئیس دانشگاه صنعتی امیرکبیر
نسل جدید بمبافکنها برای رقابت با آمریکا در راه است
فضاپیمای پرسروصدای بوئینگ هنگام پرتاب مشکل پیدا کرد+عکس
آیپد ایر ۲۰۲۴ با ظاهری چشمنواز و رنگهایی جذاب+عکس
رولزرویس کولینان ۲۰۲۵ با ظاهری خشن میآید+عکس
ضرورت توجه به هنرِ حکمی در دانشگاهها
آغاز بررسی جزئیات پیشنویس سند ملی توسعه علوم و فناوریهای کوانتومی
قسمتهای داخلی همه خودروها در این فصل سرطانزا میشوند
سیاهچالههای فضایی را چطور ببینیم؟
۳۸هزار میلیارد عملیات در ثانیه کاری که تراشه اپل انجام میدهد
راه حل عالی و جدید برای گرمایش زمین پیدا شد
نقشه متروی فضایی برای سفرهای فضایی منتشر شد+عکس
جواهری در گونی در نمایشگاه کتاب رونمایی شد
کتاب جدید بهناز ضرابی زاده با نام پری خانه ما رونمایی میشود
نوزدهمین مجمععمومی دانشگاهها و مؤسسات آموزش عالی کشور برگزار میشود
جامعه اسلامی دانشجویان اشغال گذرگاه رفح را محکوم کرد
معدن بعد از نفت دومین زمینه ثروت آفرینی برای کشور است
امروز؛ آخرین مهلت ثبتنام آزمون زبان MSRT اردیبهشت ۱۴۰۳
کشف اتفاقی یک شهاب سنگ در لرستان+عکس
ربان انساننمای زن چری به ایران میآید+عکس
تلاش سیا برای دزدیدن زیردریایی هستهای
اولین پارتی شبیه سازی شده با هوش مصنوعی برگزار شد
آیفون تاشو به زودی با ظاهری شیک تولید میشود+عکس
نقشه متروی فضایی برای سفرهای فضایی منتشر شد+عکس
راه حل عالی و جدید برای گرمایش زمین پیدا شد
رولزرویس کولینان ۲۰۲۵ با ظاهری خشن میآید+عکس
سدان ال ۹۰ هم بومی سازی شد+عکس
فضاپیمای پرسروصدای بوئینگ هنگام پرتاب مشکل پیدا کرد+عکس
پیش بینی دانشمندان درباره مرگ زمین و پایان حیات
۳۸هزار میلیارد عملیات در ثانیه کاری که تراشه اپل انجام میدهد
آیپد ایر ۲۰۲۴ با ظاهری چشمنواز و رنگهایی جذاب+عکس
سیاهچالههای فضایی را چطور ببینیم؟
نشان ملی معلمی بهزودی در شورای عالی انقلاب فرهنگی تصویب خواهد شد
برنامه وزارت علوم برای طرح امریه دکتری استعدادهای درخشان
هر رشتهای تأسیس شود پیوست اشتغال خواهد داشت
مرسدس بنز ترکیبی از دو خودروی خود را ساخت+عکس
خفاش سرچکشی موجودی بازمانده دوران باستانی+عکس
مقایسه صحنه اعتراضات دانشجویی در ایران و آمریکا
خودروی شیک خارجی که نوه پژو ۴۰۵ است+عکس
انتشار کلید اولیه پنجاه و یکمین دوره آزمون دستیاری پزشکی
ضرورت مشارکت ذینفعان حوزه علوم انسانی در تدوین سیاستها
باغ گیاه شناسی ملی ایران
تصویر دیدنی از رنگین کمان امروز تهران
شخصیت دختر کاپشنصورتی با گوشواره قلبی رونمایی شد
مقدمات ملی شدن صنعت نشر فراهم است
مجموعه ۱۴ جلدی به دنیا آمدهام رونمایی میشود
آغاز بررسی جزئیات پیشنویس سند ملی توسعه علوم و فناوریهای کوانتومی
نسل جدید بمبافکنها برای رقابت با آمریکا در راه است
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.