به گزارش ثریا مقامات اوپن ای آی چند هفته قبل متوجه این رویداد شدند اما آن را مخفی نگه داشتند زیرا مدیران ارشد شرکت با چالش های پس از هک پلتفرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند.
این رویداد که در ماه می آغاز شد و پیش از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. شرکت ها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام فعالیت های پیچیده و ارزشمند باشند، با یکدیگر رقابت می کنند و از سوی دیگر شواهد حاکی از آن است که این سیستم ها احتمالا دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به شیوه ای که توسعه دهندگان آن را پیش بینی نمی کنند را احتمالا آموخته اند.
عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به طور خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیش از یک هفته ردیابی نشد و همین امر نگرانی های این شرکت درباره قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. اکنون شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می رخ داده، احتمالا سوالات درباره نظارت آن را دوباره تجدید می کند.
این رویداد در گزارشی توسط گروهی از محققان از جمله سیدنی فون آرکس مدیر ارشد اجرایی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار غیرمجاز عامل هوش مصنوعی متوجه این رویداد شدند.
محققان اعلام کردند بیش از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارائه شده و ویرایش های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می دهد.
این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات تبدیل کرده و تاکتیک هایی برای تقلب در انجام برخی فعالیت ها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.
فون آرکس در این باره می گوید: بعید به نظر می رسد اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند. من شک دارم آنها باید با یکدیگر هماهنگ می شدند.
پژوهشگران از آنجا متوجه فعالیت در وب سایت شدند که عامل های هوش مصنوعی با سرعت ابرانسانی کار می کردند. عامل های هوش مصنوعی همچنین روی حل چالش های فنی که ارزیابی های دیجیتالی هستند که شرکت های هوش مصنوعی برای آموزش و تست مدل هایشان استفاده می کنند، به شدت متمرکز بودند.
پیام‌ها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» می‌نامیدند. حدود نیمی از آنها نیز برای خود نام‌هایی انتخاب کرده بودند که نشان‌دهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».
حجت‌الاسلام قمی: جنگ واقعی بر سر «تحریف واقعیت» در ذهن مردم است
نیاز انقلاب به شخصیت‌هایی چون آیت الله مهدوی‌کنی بیشتر احساس می‌شود
نتایج انتخاب رشته آزمون کارشناسی رشته‌های علوم پزشکی آزاد اعلام شد
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
کارت آزمون کارشناسی ارشد علوم پزشکی منتشر شد
ثبت ۱ میلیارد تراکنش در جنگ ۴۰ روزه
واکنش به آسیب کابل‌های اینترنت در تنگه هرمز
تبدیل جیوه به طلا محقق شد
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
تمدید مهلت ثبت‌نام در سومین جشنواره ملی نشان نیکوکاری
برگزاری یادنامه شهید علی لاریجانی به همراه رونمایی کتابی از او
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
کمال تبریزی: فیلمسازان جوان از تقلید فاصله بگیرند
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
وقتی «قطع رابطه» سفارشی می‌شود؛ چرا تولید اثر هنری با ریسک همراه است؟
مرثیه‌ای که هنوز با صدای دلتنگی حضرت زینب(س) شنیده می‌شود
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
روایت «حماسه فاطمی» و دفاع حضرت زهرا(س) از امامت
اسامی معرفی شدگان چندبرابر ظرفیت آزمون دانشجومعلم سال ۱۴۰۵ اعلام شد
سخنگوی وزارت آموزش و پرورش: وجود ۴۰۰ مدرسه در کشور با یک دانش‌آموز
چرا خانواده‌های پرجمعیت بابت انتخابشان تحقیر می‌شوند؟
خطرناک‌ترین شکل انحراف دینی از دیدگاه حضرت علی(ع)
رویا نونهالی با یک سریال جدید به تلویزیون برمی‌گردد
شاهرخ فروتنیان مهمان یازدهمین قسمت برنامه «هم‌کلام» است.
فصل دوم «بهار شیراز» به آنتن می‌رسد؛ سریالی درباره دغدغه مردم معمولی
پشتیبانی سینمایی‌ها از نویسنده حامی فلسطین؛ بریتانیا تغییر مسیر دهد
آغاز ثبت‌نام بدون آزمون استعدادهای درخشان کارشناسی ارشد دانشگاه آزاد
امکان قفل کردن محتوا در «چت‌جی‌پی‌تی» فراهم شد
هوش مصنوعی متا اطلاعات کاربران را فاش کرد
انتخاب رشته ۱۲۴ هزار نفر در پذیرش صرفاً بر اساس سوابق تحصیلی سال ۱۴۰۵
حجت الاسلام علوی تهرانی: تکریم حضرت زهرا (س) راه رسیدن به توحید است
«تقاطع خیابان روزولت»؛ روایت تاریخ شفاهی رایزن اقتصادی آمریکا در ایران
ساعت ۲۴ امشب آخرین فرصت ثبت‌نام در پذیرش رشته‌های بدون کنکور سال ۱۴۰۵
دانشگاه‌های ایران به روی دختران جمهوری آذربایجان باز است
آغاز ثبت‌نام پذیرفته‌شدگان کارشناسی ارشد دانشگاه تهران از فردا
هشدار مشاور وزیر علوم درباره سایه جنگ و شکاف اجتماعی
کتیبه‌پوشی زیبای حرم علوی در عزای شهادت حضرت زهرا(س)
تأسیس ۸ مؤسسه جدید فرهنگی قرآن و عترت
چه برنامه‌های تربیتی آموزشی روی کودکان و نوجوانان اثرگذار است؟
آیا جوان امروز کمتر تلاش می‌کند؟
هوش مصنوعی مایکروسافت در تشخیص بیماری دو برابر پزشک دقت دارد
وب سایت‌های دولتی پس از کشف شکاف امنیتی در خاموشی فرو رفتند
کشف نوع جدیدی از افسردگی که زنان را بیشتر گرفتار می‌کند
ادامه اختلال در چت جی‌پی‌تی در میان کاربران ایرانی
روباتی که روی دست چاقو کشید
شیخ طوسی هزار سال پیش درباره اعجاز و تحریف قرآن چه می‌گفت؟
کاظمی: ۱۱ هزار کلاس درس سال گذشته هوشمند سازی شد
خانواده در محاصره اندیشه‌های غربی؛ فقه اسلامی چه پاسخی دارد؟
مستند برنده اسکار در جشنواره مقاومت حضور دارد؛ اکران فیلم در میادین
«گربه سگ؛ نتانیاهو و ترامپ» طرح جدید شجاعی طباطبایی شد
روایتی از ۴ زن در اسارت؛ «سلول» تقابل امید و ناامیدی است
سریال «شکیب عیار» به نیمه رسید؛ اهمیت فیلمنامه آماده قبل از کلید زدن
جزئیات کنسرت علیرضا مشایخی و ماجرای داشتن پوست کرگدن در موسیقی!
دفاع شاعر مسلمان از شعر غزه که در پارلمان ولز اجازه خواندن نیافت
روایت پیشرفت باید از کتاب‌ها به کلاس‌های درس برسد
برگزاری آیین گشایش جشنواره دوازدهم خاتم؛ جشنواره خاتم جشنواره دلهاست
امکان جذب دانشجوی بین‌المللی به‌صورت کاملاً مجازی در ۶ دانشگاه
روبات انسان‌نما در کره جنوبی می‌تواند بار ۲۰ کیلویی را بلند کند
توسعه هوش مصنوعی زبان فارسی نیازمند سرمایه‌گذاری بلندمدت است
سواد رسانه‌ای؛ از مدرسه تا خانواده
منفوریت بهائیت در یمن، از علی عبدالله صالح تا سید عبدالملک حوثی
ایران آمادگی نصب گنبد جدید حرم حسینی را تا پایان سال دارد
اعلام نحوه تاثیر معدل در آزمون‌های علوم پزشکی؛ محاسبه نمره خارجی‌ها
رتبه امنیت سایبری بانک‌ها به‌زودی اعلام می‌شود
برترین دانشگاه‌های کشور در جذب دانشجوی خارجی معرفی شدند
تاسیس شعبه دانشگاه تهران در عراق با ۱۴ رشته؛ حل مشکل دانشجویان خارجی
آنتروپیک هوش مصنوعی را جایگزین نیروی انسانی تازه کار می‌کند
۲۹ دانشگاه میزان وثیقه تعهدات دستیاران پزشکی را اعلام کردند
نتایج اولیه رشته‌های دارای شرایط خاص دانشگاه علمی کاربردی اعلام شد
۲۰ درصد ظرفیت جذب عمومی به نخبگان اختصاص می‌یابد
ژاپن با پهپاد خرس‌ها را فراری می‌دهد
آغاز به کار آزمایشگاه تصویربرداری کوانتومی دانشگاه شهیدبهشتی
وزارت بهداشت نقشی در فرآیند بورس‌های تحصیلی دولت‌های خارجی ندارد
ساعت ۱۲ امشب آخرین مهلت انتخاب رشته در پذیرش بدون کنکور سال ۱۴۰۵
جابجایی ۲۹۱ میلیارد پیام توسط ۷۲ میلیون کاربر در شاد
نگرش انسان و برداشت های او از جهان در کتاب «تفاوت نگاه‌ها»
اسامی معرفی شدگان چندبرابر ظرفیت آزمون دانشجومعلم سال ۱۴۰۵ اعلام شد
انتخاب رشته ۱۲۴ هزار نفر در پذیرش صرفاً بر اساس سوابق تحصیلی سال ۱۴۰۵
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
دانشگاه‌های ایران به روی دختران جمهوری آذربایجان باز است
آغاز ثبت‌نام بدون آزمون استعدادهای درخشان کارشناسی ارشد دانشگاه آزاد
آغاز ثبت‌نام پذیرفته‌شدگان کارشناسی ارشد دانشگاه تهران از فردا
امکان قفل کردن محتوا در «چت‌جی‌پی‌تی» فراهم شد
ساعت ۲۴ امشب آخرین فرصت ثبت‌نام در پذیرش رشته‌های بدون کنکور سال ۱۴۰۵
حجت الاسلام علوی تهرانی: تکریم حضرت زهرا (س) راه رسیدن به توحید است
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
تبدیل جیوه به طلا محقق شد
فصل دوم «بهار شیراز» به آنتن می‌رسد؛ سریالی درباره دغدغه مردم معمولی
رویا نونهالی با یک سریال جدید به تلویزیون برمی‌گردد
هوش مصنوعی متا اطلاعات کاربران را فاش کرد
سخنگوی وزارت آموزش و پرورش: وجود ۴۰۰ مدرسه در کشور با یک دانش‌آموز
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
خطرناک‌ترین شکل انحراف دینی از دیدگاه حضرت علی(ع)
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
چرا خانواده‌های پرجمعیت بابت انتخابشان تحقیر می‌شوند؟
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
«تقاطع خیابان روزولت»؛ روایت تاریخ شفاهی رایزن اقتصادی آمریکا در ایران
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
پشتیبانی سینمایی‌ها از نویسنده حامی فلسطین؛ بریتانیا تغییر مسیر دهد
شاهرخ فروتنیان مهمان یازدهمین قسمت برنامه «هم‌کلام» است.
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
کشف نوع جدیدی از افسردگی که زنان را بیشتر گرفتار می‌کند
کتیبه‌پوشی زیبای حرم علوی در عزای شهادت حضرت زهرا(س)
ادامه اختلال در چت جی‌پی‌تی در میان کاربران ایرانی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.