اختصاصی شبکه علمی ثریا- ممکن است در مورد رباتهای قاتل، رباتهای کشتار یا پایاندهندهها که رسماً به آنها سلاحهای خودمختار کشنده (LAWs) گفته میشود از فیلمها و کتابها شنیده اید. اما با پیچیدهتر شدن سلاحهای هوش مصنوعی، نگرانی در مورد ترس از عدم پاسخگویی و خطر نقص فنی این رباتها بیشتر میشود. قبلاً دیدهایم که هوش مصنوعی به اصطلاح خنثی، چگونه الگوریتمهای جنسیتگرایانه و سیستمهای تعدیل محتوای نامناسب را ایجاد کرده است که عمدتاً هم به دلیل درک نداشتن سازندگان آنها از این فناوری است. اما در جنگ، این نوع سوء تفاهم ها می تواند غیرنظامیان را بکشد یا مذاکرات را خراب کند. به عنوان مثال، یک الگوریتم تشخیص هدف می تواند برای شناسایی مخازن از تصاویر ماهوارهای آموزش داده شود. اما اگر تمام تصاویری که برای آموزش سیستم استفاده میشوند، سربازانی را در اطراف تانک نشان میدادند، چه؟ ممکن است یک وسیله نقلیه غیرنظامی که از محاصره نظامی عبور می کند را با یک هدف اشتباه بگیرد.
چرا ما به سلاح های خودمختار نیاز داریم؟
غیرنظامیان در بسیاری از کشورها (مانند ویتنام، افغانستان و یمن) به دلیل شیوه ساخت و استفاده از سلاحهای پیشرفتهتر توسط ابرقدرتهای جهانی آسیب دیدهاند. بسیاری از مردم استدلال میکنند که بیشتر ضرر کردهاند تا سود، و اخیراً به تهاجم روسیه به اوکراین در اوایل سال 2022 اشاره کردهاند. در اردوگاه دیگر افرادی هستند که می گویند یک کشور باید بتواند از خود دفاع کند، که به معنای همگام شدن با فناوری نظامی کشورهای دیگر است. هوش مصنوعی میتواند در شطرنج و پوکر از انسانها پیشی بگیرد. در دنیای واقعی نیز از انسان ها بهتر عمل می کند. به عنوان مثال مایکروسافت ادعا می کند که نرم افزار تشخیص گفتار آن دارای نرخ خطای 1٪ در مقایسه با نرخ خطای انسانی حدود 6٪ است. بنابراین تعجب آور نیست که ارتش ها به آرامی کنترل الگوریتم ها را به دست می گیرند. اما چگونه میتوانیم از اضافه کردن روباتهای قاتل به فهرست طولانی چیزهایی که آرزو میکردیم هرگز اختراع نکرده بودیم اجتناب کنیم؟
اول از همه: دشمنت را بشناس
دپارتمان دفاع ایالات متحده سیستم سلاح خودران را اینگونه تعریف میکند: «سیستم تسلیحاتی که پس از فعال شدن، میتواند بدون مداخله بیشتر توسط اپراتور انسانی، اهدافی را انتخاب کرده و درگیر کند». بسیاری از سیستم های رزمی در حال حاضر با این معیار مطابقت دارند. رایانههای روی پهپادها و موشکهای مدرن الگوریتمهایی دارند که میتوانند اهداف را شناسایی کرده و با دقت بسیار بیشتری نسبت به اپراتور انسانی به سمت آنها شلیک کنند. سلاحهای مجهز به هوش مصنوعی نیز وجود دارد که برای حمله به مردم نیز طراحی شدهاند، از رباتهای نگهبانی گرفته تا پهپادهای کامیکازه سرگردان که در جنگ اوکراین استفاده میشوند. بنابراین، اگر میخواهیم بر استفاده از قوانین تأثیر بگذاریم، باید تاریخ سلاحهای مدرن را درک کنیم.
قوانین جنگ
توافقنامههای بینالمللی، مانند کنوانسیونهای ژنو، رفتاری را برای رفتار با اسیران جنگی و غیرنظامیان در هنگام درگیری ایجاد میکنند. آنها یکی از معدود ابزارهایی هستند که ما برای کنترل نحوه جنگیدن داریم. متأسفانه، استفاده از سلاح های شیمیایی توسط ایالات متحده در ویتنام، و توسط روسیه در افغانستان، دلیلی بر عدم موفقیت این اقدامات است. مین های زمینی از سال 2015 سالانه حداقل 5000 سرباز و غیرنظامی را مجروح کرده و جان خود را از دست داده اند و در سال 2017 حدود 9440 نفر کشته شده اند. گزارش مین و مهمات خوشه ای 2022 می گوید: "تلفات... در هفت سال گذشته، به دنبال بیش از یک دهه کاهش تاریخی، به طرز نگران کننده ای بالا بوده است. سال 2021 نیز از این قاعده مستثنی نبود. این روند عمدتاً نتیجه افزایش درگیری و آلودگی توسط مین های دست ساز مشاهده شده از سال 2015 است. غیرنظامیان بیشترین کشتهها را داشتند. از بین قربانیان ثبت شده نیمی از آنها کودک بودند." علیرغم بهترین تلاشهای ICBL، شواهدی وجود دارد که هم روسیه و هم اوکراین (عضو معاهده اتاوا) از مینهای زمینی در طول تهاجم روسیه به اوکراین استفاده میکنند. اوکراین همچنین برای هدایت حملات توپخانه ای به هواپیماهای بدون سرنشین یا اخیراً برای «حملات کامیکازه» به زیرساخت های روسیه متکی است.
آینده ما
اما سلاحهای پیشرفتهتر مجهز به هوش مصنوعی چطور است؟ کمپین توقف رباتهای قاتل نه مشکل کلیدی قوانین را فهرست میکند که بر عدم پاسخگویی و غیرانسانیسازی ذاتی کشتار ناشی از آن تمرکز دارد. در حالی که این انتقاد معتبر است، ممنوعیت کامل قوانین به دو دلیل غیر واقعی است. اول، مانند معادن، جعبه پاند همچنین خطوط بین سلاحهای خودکار، قوانین و رباتمعنای روبات های قاتل برای آینده جنگ چیست؟ ممکن است در مورد رباتهای قاتل، رباتهای کشتار یا پایاندهندهها - که رسماً به آنها سلاحهای خودمختار کشنده (LAWs) گفته میشود- از فیلمها و کتابها شنیده باشید. و ایده تسلیحات فوقهوشمند که بیداد میکنند هنوز علمی تخیلی است. اما با پیچیدهتر شدن سلاحهای هوش مصنوعی، نگرانی عمومی در مورد ترس از عدم پاسخگویی و خطر نقص فنی بیشتر میشود.
قبلاً دیدهایم که هوش مصنوعی به اصطلاح خنثی چگونه الگوریتمهای جنسیتگرایانه و سیستمهای تعدیل محتوای نامناسب را ایجاد کرده است، عمدتاً به این دلیل که سازندگان آنها این فناوری را درک نکردهاند. اما در جنگ، این نوع سوء تفاهم ها می تواند غیرنظامیان را بکشد یا مذاکرات را خراب کند. به عنوان مثال، یک الگوریتم تشخیص هدف می تواند برای شناسایی مخازن از تصاویر ماهواره ای آموزش داده شود. اما اگر تمام تصاویری که برای آموزش سیستم استفاده میشوند، سربازانی را در اطراف تانک نشان میدادند، چه؟ ممکن است یک وسیله نقلیه غیرنظامی که از محاصره نظامی عبور می کند را با یک هدف اشتباه بگیرد.
چرا ما به سلاح های خودمختار نیاز داریم؟
غیرنظامیان در بسیاری از کشورها (مانند ویتنام، افغانستان و یمن) به دلیل شیوه ساخت و استفاده از سلاحهای پیشرفتهتر توسط ابرقدرتهای جهانی آسیب دیدهاند. بسیاری از مردم استدلال میکنند که بیشتر ضرر کردهاند تا سود، و اخیراً به تهاجم روسیه به اوکراین در اوایل سال 2022 اشاره کردهاند. در اردوگاه دیگر افرادی هستند که می گویند یک کشور باید بتواند از خود دفاع کند، که به معنای همگام شدن با فناوری نظامی کشورهای دیگر است. هوش مصنوعی میتواند در شطرنج و پوکر از انسانها پیشی بگیرد. در دنیای واقعی نیز از انسان ها بهتر عمل می کند. به عنوان مثال مایکروسافت ادعا می کند که نرم افزار تشخیص گفتار آن دارای نرخ خطای 1٪ در مقایسه با نرخ خطای انسانی حدود 6٪ است. بنابراین تعجب آور نیست که ارتش ها به آرامی کنترل الگوریتم ها را به دست می گیرند. اما چگونه میتوانیم از اضافه کردن روباتهای قاتل به فهرست طولانی چیزهایی که آرزو میکردیم هرگز اختراع نکرده بودیم اجتناب کنیم؟ اول از همه: دشمنت را بشناس.
دپارتمان دفاع ایالات متحده سیستم سلاح خودران را اینگونه تعریف میکند: «سیستم تسلیحاتی که پس از فعال شدن، میتواند بدون مداخله بیشتر توسط اپراتور انسانی، اهدافی را انتخاب کرده و درگیر کند». بسیاری از سیستم های رزمی در حال حاضر با این معیار مطابقت دارند. رایانههای روی پهپادها و موشکهای مدرن الگوریتمهایی دارند که میتوانند اهداف را شناسایی کرده و با دقت بسیار بیشتری نسبت به اپراتور انسانی به سمت آنها شلیک کنند. گنبد آهنین اسرائیل یکی از چندین سامانه دفاعی فعال است که می تواند بدون نظارت انسان با اهدافی درگیر شود. در حالی که گنبد آهنین برای دفاع موشکی طراحی شده است، ممکن است به طور تصادفی افراد را بکشد. اما این خطر در سیاست بینالملل قابل قبول تلقی میشود، زیرا گنبد آهنین به طور کلی سابقه قابل اعتمادی در حفاظت از جان غیرنظامیان دارد. سلاحهای مجهز به هوش مصنوعی نیز وجود دارد که برای حمله به مردم نیز طراحی شدهاند، از رباتهای نگهبانی گرفته تا پهپادهای کامیکازه سرگردان که در جنگ اوکراین استفاده میشوند. قوانین در حال حاضر اینجا هستند. بنابراین، اگر میخواهیم بر استفاده از قوانین تأثیر بگذاریم، باید تاریخ سلاحهای مدرن را درک کنیم.
قوانین جنگ
توافقنامههای بینالمللی، مانند کنوانسیونهای ژنو، رفتاری را برای رفتار با اسیران جنگی و غیرنظامیان در هنگام درگیری ایجاد میکنند. آنها یکی از معدود ابزارهایی هستند که ما برای کنترل نحوه جنگیدن داریم. متأسفانه، استفاده از سلاح های شیمیایی توسط ایالات متحده در ویتنام، و توسط روسیه در افغانستان، دلیلی بر عدم موفقیت این اقدامات است. بدتر از آن زمانی است که بازیکنان کلیدی از ثبت نام خودداری کنند. کمپین بین المللی برای ممنوع کردن مین های زمینی (ICBL) از سال 1992 با سیاستمداران برای ممنوعیت مین ها و مهمات خوشه ای (که به طور تصادفی بمب های کوچک را در منطقه وسیعی پراکنده می کند) لابی کرده است. در سال 1997، معاهده اتاوا شامل ممنوعیت این سلاحها بود که 122 کشور آن را امضا کردند. اما آمریکا، چین و روسیه خرید نکردند.
مین های زمینی از سال 2015 سالانه حداقل 5000 سرباز و غیرنظامی را مجروح کرده و جان خود را از دست داده اند و در سال 2017 حدود 9440 نفر کشته شده اند. گزارش مین و مهمات خوشه ای 2022 می گوید: "تلفات... در هفت سال گذشته، به دنبال بیش از یک دهه کاهش تاریخی، به طرز نگران کننده ای بالا بوده است. سال 2021 نیز از این قاعده مستثنی نبود. این روند عمدتاً نتیجه افزایش درگیری و آلودگی توسط مین های دست ساز مشاهده شده از سال 2015 است. غیرنظامیان بیشترین نماینده را داشتند. از قربانیان ثبت شده که نیمی از آنها کودک بودند." علیرغم بهترین تلاشهای ICBL، شواهدی وجود دارد که هم روسیه و هم اوکراین (عضو معاهده اتاوا) از مینهای زمینی در طول تهاجم روسیه به اوکراین استفاده میکنند. اوکراین همچنین برای هدایت حملات توپخانه ای به هواپیماهای بدون سرنشین یا اخیراً برای «حملات کامیکازه» به زیرساخت های روسیه متکی است.
آینده ما
اما سلاحهای پیشرفتهتر مجهز به هوش مصنوعی چطور؟ کمپین توقف رباتهای قاتل نه مشکل کلیدی قوانین را فهرست میکند که بر عدم پاسخگویی و غیرانسانیسازی ذاتی کشتار ناشی از آن تمرکز دارد. تقریباً مطمئناً در آینده شاهد سلاحهای بیشتری با هوش مصنوعی خواهیم بود.
ایجاد ممنوعیتهای صحیح :
جعبه سیاه هوش مصنوعی:
سیستمهایی که کاربر هیچ اطلاعاتی در مورد الگوریتم فراتر از ورودیها و خروجیها ندارد.
هوش مصنوعی غیرقابل اعتماد:
سیستمهایی که تست ضعیفی از خود نشان دادهاند
و برای داشتن دیدگاهی در مورد قوانین، لازم نیست در حوزه هوش مصنوعی متخصص باشید یا از پیشرفت های جدید هوش مصنوعی نظامی آگاه باشید. وقتی در مورد استفاده از هوش مصنوعی در جنگها می خوانید یا می شنوید، از خود بپرسید: آیا این کار موجه است؟ آیا زندگی غیرنظامیان را حفظ می کند؟ اگر نه، با جوامعی که برای کنترل این سیستمها کار میکنند، تعامل کنید.
تشکیل ائتلاف جهانی نخبگان دانشگاهی برای کمک به احقاق حق مردم فلسطین
مسابقات ملی سدید» بستری برای رشد و تقویت مهارتهای ارتباطی در دانشجویان است
فرصت انتخاب رشته داوطلبان آزمون دکتری سال ۱۴۰۳ دوباره تمدید شد
رایزن علمی و سرپرست دانشجویان ایرانی در کشور عراق منصوب شد
ایجاد ظرفیت فرا مرزی در تور تجاری گرجستان صنعت ساختمان
تدوین آئیننامه تاسیس و اداره موزههای دانشگاهها و مراکز آموزشی و پژوهشی کشور
یمن جایگزین مهمان ویژه نمایشگاه کتاب شد
کتاب تفسیر سوره تغابن منتشر شد
وعده صادق خروجی دانشگاهها بود
جشنواره گل و گلابگیری میمند - استان فارس
دلایل مدرسههراسی»و راههای ترغیب دانشآموز به مدرسه
نیاز به فضاهایی برای شادی دختران و سپری کردن اوقات فراغت آنان داریم
اپراتور اختصاصی هوش مصنوعی راهاندازی می شود
جهاد تبیین دستاوردهای نظام بزرگترین رسالت ما در آموزش و پرورش است
کادر؛ فراتر از قلمرو عکاسی
ملاکهای افزایش شهریه مدارس غیردولتی
محکومیت شدید برخوردهای خشونت آمیز علیه اساتید و دانشجویان غربی
تجمع دانشگاههای ایران در حمایت از خیزش دانشگاهیان آمریکایی
واکنش رییس دانشگاه تهران به سرکوب اعتراضات دانشجویان آمریکایی
قرنطینهشدن کتابهای مشکوک به آرسنیک در کتابخانه ملی فرانسه
عرضه صفات الهی در کتابفروشیها
عرضه سه نمایشنامه جدید سوره مهر در نمایشگاه کتاب
پیام نوریها میتوانند از امروز محل آزمون پایان ترم خود را تغییر دهند
دانشگاه امیرکبیر حرکت شجاعانه دانشگاهیان آمریکا و اروپا در حمایت از مردم غزه را ستود
مهارت آموزی معلمان در دستور کار آموزش و پرورش باشد
وجدان بیدار دانشگاهیان جهان در مقابل نسل کشی غزه خروشید
قدردانی وزیر علوم از دستاندرکاران حفظ سلامت کنکور
دهه سرآمدی آموزش در دانشگاهها از امروز آغاز شد
دانشجویان و اساتیدِ ایرانی، حمایت از مردم فلسطین را رسالت اصلی خود بدانند
امروز، آخرین مهلت انتخاب رشته دکتری
ارائه خدمات مشاورهای – آموزشی، آنلاین و حضوری مرکز روانشناختی جهت برای عموم
کدام دانشگاههای آمریکا صحنه اعتراضات دانشجویی حمایت از غزه است؟
۴ هزار و ۱۹۳ نفر از دانشجویان متاهل وام تحصیلی دریافت کردند
تجمع دانشگاهیان دانشگاه تهران درحمایت از خیزش دانشجویان در آمریکا
شورای عالی انقلاب فرهنگی در نظارت و پیگیری مصوباتش جدی است
محدودیت اعطای پایههای تشویقی اعضای هیات علمی لغو شد
ساحل شگفت انگیز دَستیر
کلید اولیه نوبت اول کنکور سراسری سال ۱۴۰۳ سهشنبه منتشر میشود
اجرای طرح سمپاد مهارتی در 11 استان کشور
دبیر شورای عالی انقلاب فرهنگی: با قاطعیت میگوییم که تخلف در آزمون امسال صفر بوده است
افتتاح همزمان ۷ نیروگاه خورشیدی مدارس در ۶ استان
رفتار غیرانسانی آمریکا نسبت به دانشجویان معترض شرمآور است/ دانشگاهیان جهان باید خون گریه کنند
جمعه ۷ اردیبهشت نمایش «یاخته» باحضور خبرنگاران و عکاسان روی صحنه میرود
چالش کمبود معلم در استان مرکزی کاهش مییابد
بازدید رئیس ستاد برگزاری آزمونهای سراسری اردبیل از حوزههای امتحانی کنکور
لوگوی نود سالگی دانشگاه تهران منتشر شد
رمان جدید اکبر والایی چاپ شد/بر فراز کشتزاردر بازار نشر
زندگی عشایر فارس
تحویل واحدهای مسکونی دانشگاه صنعتی امیرکبیر تا پایان شهریور
جذب امریه سربازی در پژوهشگاه ابن سینا جهاددانشگاهی
امتیاز ویژه دانشجو معلمانی که زودتر از فارغالتحصیلی سرکلاس درس میروند
آخرین آمار توزیع کارت کنکور اعلام شد
برخی ابزارهای جاسوسی کنکور را در بدن کار گذاشتند/ داوطلبان کانالهای تقلب را ترک کنند
کنکوریها اضطراب نداشته باشند/ فرصت جبران وجود دارد
فهرست دانشگاههای خارج از کشور مورد تایید وزارت بهداشت اعلام شد
نتایج اولیه کنکور ۱۴۰۳ نیمه مرداد اعلام می شود
اختصاص 10 امتیاز رتبهبندی به 5709 دانشجومعلم دانشگاه فرهنگیان
کتاب «اُمّ علاء» در نمایشگاه کتاب عرضه میشود
تمهیدات لازم برای کنکور ۱۴۰۳ اندیشیده شد
رقابت کنکور ۱۴۰۳ با آزمون علوم ریاضی و علوم انسانی آغاز شد
جزییات آزمون اختصاصی پذیرش دانشجو – معلم در کنکور ۱۴۰۳
اینترنت در زمان برگزاری نوبت اول کنکور ۱۴۰۳ قطع نمیشود
مراسم تقدیر از دست اندرکاران جشنواره جایزه ملی ثریا برگزار شد
60 درصد پروژهای مدرسهسازی در حال ساخت با مشارکت مردم است
منتخبین فرهنگی مجلس حضور در کمیسیون آموزش را در اولویت قرار دهند
مراقبت کنید تا اخلال و مشکلی در برگزاری کنکور سراسری رخ ندهد
ایجاد زیرساخت هوشمند رصد رشته مقاطع و رشته محلهای علوم پزشکی
پیگیر اجرای هدفمندسازی یارانههای دانشجویی در سال جدید هستیم
بیش از ۸ هزار عضو هیات علمی خانم در دانشگاهها فعالیت میکنند
ساعت ۱۲ امشب آخرین فرصت دریافت کارت ورود به جلسه کنکور ۱۴۰۳
نسلکُشی در فلسطین قلب همه بشریت را به درد آورده است
خبر خوش وزیر علوم برای اعضای هیأت علمی در شرف بازنشستگی
مراد صحرایی : ۱۰۰۰ هنرستان جدید در کشور ساخته می شود
از موج متلاطم بیثباتی مدیریتی تا بودجه دولتی؛ دلایل عدم اجرای ناکافی سندتحول بنیادین
پژوهشهای چراغ خاموش امنیت ایران را رقم زد
تظاهرات دانشجویان آرژانتین در پی کاهش ارائه آموزش عالی دولتی
کتابی که برای آشنایی با افغانستانیها باید خوانده شود
رییس سازمان بسیج اساتید: ۵۰ بسته سیاستی به مسئولان ارائه شد
پویش سلامت دهان و دندان ۱۷ تا ۱۹ اردیبهشت برگزار میشود
آییننامه مدرسه تراز سند تحول بنیادین نهایی شده است
پیشفروش شنل نامرئی کننده آغاز شد+عکس
یک صفحه جدید به واتساپ اضافه میشود+عکس
بن سلمان از ساخت پروژه بلندپروازانهاش منصرف شد
دانشمندان قلب ماه را دیدند+عکس
ناسا برای بازگشت از سیاره سرخ دست به دامن ایلان ماسک شد
نمونه ایرانی پدافند ضدهوایی که مشابه روسی است+عکس
ورود قدرتمندترین گوشی نوبیا به بازار
انقلابی بزرگ در صنعت ترانزیت و موتورهای دیزلی اتفاق افتاد
رونمایی از سریعترین مرسدس بنز AMG+عکس
باتری این ریزسیاهچاله فضایی میتواند انرژی چند نسل یک خانواده را تامین کند
برای اولین بار اشعه ایکس برآمده از اتمها کشف شد
علت فیلتر دسکورد اعلام شد
هزینه نگهداری از خودروهای لوکس آمریکایی چقدر است؟
چین جنگندههای رادارگریز F۲۲ آمریکا را فلج کرد+عکس
پدافند ضدهوایی ایران که شبیه اس ۳۰۰ روسیه است+عکس
جاسوس همهفن حریف اوکراینیها که در جنگ با روسیه به کمکشان میآید
سریع ترین موشکهای مافوق صوت در سال ۲۰۲۴ معرفی شدند+عکس
نتایج اولیه آزمون استخدامی آموزش و پرورش اعلام شد
دوربین بامزهای که بدون عکس گرفتن شما را شگفت زده میکند+عکس
انتصاب در آموزش و پرورش
پیشثبتنام مدارس غیردولتی براساس شهریه سال گذشته است
برگزاری زنگ آموزش همزمان با گرامیداشت هفته زمین پاک در مدارس شهر تهران
آغاز پذیرش دانشجوی دکتری بدون آزمون در دانشگاه آزاد
پویش سلامت دهان و دندان ۱۷ تا ۱۹ اردیبهشت برگزار میشود
شاسیبلند جدید چینی که با مدل تسلا مو نمیزند+عکس
پیشتازی ۲۶ درصدی داوطلبان زن در نوبت اول کنکور
آثار جشنواره مد و لباس نقش تنپوش در حال داوری است
آخرین محور رویداد من یک دانشآموزم با نام «امام مهربانی کلید خورد
آییننامه مدرسه تراز سند تحول بنیادین نهایی شده است
برگزاری 90 رویداد در دانشگاه تهران به مناسبت جشن 90 سالگی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.