به گزارش ثریا شرکت متا در تصمیمی بحثبرانگیز، قصد دارد وظیفه ارزیابی ریسک محصولات خود را به میزان قابل توجهی از بازبینهای انسانی به سیستمهای هوش مصنوعی واگذار کند. این غول فناوری در نظر دارد تا ۹۰ درصد از این ارزیابیها را به هوش مصنوعی بسپارد، با هدف افزایش سرعت در فرایند بررسی و عرضه محصولات جدید در پلتفرمهایی نظیر اینستاگرام و واتساپ.
اسناد داخلی فاششده نشان میدهد که متا حتی استفاده از هوش مصنوعی را در حوزههای بسیار حساسی مانند خطرات مرتبط با کودکان و مسائل «تمامیت» (integrity) بررسی میکند. مفهوم «تمامیت» شامل مقابله با محتوای خشونتآمیز، اطلاعات نادرست، نفرتپراکنی، آزار و اذیت و سایر تهدیدهای اخلاقی و اجتماعی در پلتفرمهای این شرکت است و حفظ امنیت آنلاین کاربران را هدف قرار میدهد.
کارمندان فعلی و سابق متا در گفتگو با رسانهها هشدار دادهاند که هوش مصنوعی ممکن است خطراتی جدی را که توسط گروههای انسانی قابل شناسایی هستند، نادیده بگیرد. این نگرانیها در حالی مطرح میشود که در گذشته، بهروزرسانیها و ویژگیهای جدید پیش از عرضه عمومی توسط انسانها به دقت بررسی میشدند تا از بروز مشکلات احتمالی جلوگیری شود.
طبق گزارشها، متا طی دو ماه گذشته تمرکز خود را بر استفاده از هوش مصنوعی برای ارزیابی ریسک دوچندان کرده است. اکنون تیمهای محصول باید پرسشنامهای را تکمیل و برای بررسی به سیستم هوش مصنوعی ارسال کنند. این سیستم اغلب یک «تصمیم فوری» در مورد حوزههای پرریسک صادر میکند و تیمها موظف به اقدام بر اساس آن هستند تا بتوانند محصول را عرضه کنند.
یکی از مدیران پیشین متا این رویکرد را به معنای «پذیرش ریسک بیشتر و پیامدهای منفی تغییرات کمتر محصولات که پیش از بروز مشکلات در جهان قابل پیشگیری خواهند بود» توصیف کرده است. در مقابل، متا در بیانیهای اعلام کرده که همچنان از «تخصص انسانی» برای ارزیابی مسائل جدید و پیچیده استفاده خواهد کرد و تصمیمگیری درباره موارد «کمریسک» را به هوش مصنوعی خواهد سپرد. این شرکت بر اهمیت حفظ تعادل میان نوآوری و مسئولیتپذیری تاکید دارد.
این خبر در حالی منتشر میشود که تنها چند روز از انتشار آخرین گزارش فصلی متا درباره تمامیت پلتفرمهایش میگذرد. این گزارش، که اولین مورد پس از تغییر سیاستهای شرکت در زمینه تعدیل محتوا و راستیآزمایی است، نشاندهنده کاهش حجم محتوای حذفشده و افزایش جزئی در موارد آزار و اذیت، خشونت و محتوای گرافیکی بوده است. این آمارها میتواند نگرانیها در مورد کاهش نظارت انسانی و اتکای بیش از حد به هوش مصنوعی را تشدید کند.
منبع: ایسنا