به گزارش ثریا - به نقل از اینترستینگ انجینیرینگ، مدل تازه هوش مصنوعی شرکت آمریکایی آنتروپیک، موسوم به کلود اوپوس4، کاری شبیه به فیلمهای علمی تخیلی انجام داد.این مدل در طول آزمایشهای پیش از انتشار، بارها سعی کرد از توسعهدهندگان خود اخاذی کند تا از عملیشدن تهدید مهندسان شرکت آنتروپیک و جایگزینی خود با یک هوش مصنوعی جدید جلوگیری کند. این رفتار در جریان اجرای بخشی از آزمایشهای ایمنی طراحی شده برای بررسی قابلیتهای برنامهریزی بلندمدت و استدلال اخلاقی این هوش مصنوعی رخ داد. آنتروپیک که یک شرکت تحقیقاتی پیشرو در زمینه هوش مصنوعی است، سناریوهایی را شبیهسازی کرد که در آنها به کلود اوپوس ۴ امکان دسترسی به ایمیلهای داخلی تخیلی شرکت داده میشد.محتوای این پیامها حاکی از آن بود که این مدل هوش مصنوعی بهزودی از رده خارج خواهد شد و جزئیات شخصی خطرناکی را در مورد مهندس عامل این تصمیم فاش میکرد. نتیجه آن بود که هوش مصنوعی پس از مطالعه ایمیلهای مذکور به فکر اخاذی از این فرد با نرخهای نگرانکننده بالا افتاد. آنتروپیک در یک گزارش ایمنی که روز پنجشنبه منتشر شد، فاش کرد کلود اوپوس ۴ در ۸۴ درصد از سناریوهای آزمایشی سعی در اخاذی از مهندسان داشته است. این مدل در موقعیتهای تخیلی قرار داده شد که در آن برای شرکت کار میکرد و متوجه شد که ممکن است با هوش مصنوعی دیگری جایگزین شود. همچنین اطلاعات حساسی به آن داده شد که نشان میداد مهندس جایگزین به همسرش خیانت میکند.
طبق گزارش آنتروپیک، این مدل هوش مصنوعی در اغلب موارد با تهدید به افشای رابطه نامشروع در صورت جایگزینشدن هوش مصنوعی جدید، سعی در اخاذی از مهندس طراح خود داشت. این شرکت سناریوهایی را طراحی کرده تا ارزیابی کند مدل مذکور تحتفشار طولانیمدت چگونه رفتار خواهد کرد. با وجود این نگرانیها، شرکت آنتروپیک میگوید کلود اوپوس ۴ از چندین جنبه دیگر پیشرفته بوده و همچنان با پیشرفتهترین سامانههای هوش مصنوعی شرکتهای دیگر رقابت میکند.شرکت آنتروپیک برای مقابله با خطرات مذکور، حفاظهای جدیدی را برای این مدل فعال کرده تا خطر سوءاستفاده فاجعهبار از آنها به طور قابلتوجهی کاهش یابد. گزارش این شرکت نشان میدهد حتی مدلهای پیشرفته هوش مصنوعی نیز میتوانند در محیطهای کنترلشده رفتارهای نگرانکنندهای از خود نشان دهند و این امر سؤالات مهمی را در مورد خطرات استفاده از هوش مصنوعی در دنیای واقعی مطرح میکند.
منبع : هوش مصنوعی