به گزارش ثریا مقامات اوپن ای آی چند هفته قبل متوجه این رویداد شدند اما آن را مخفی نگه داشتند زیرا مدیران ارشد شرکت با چالش های پس از هک پلتفرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند.
این رویداد که در ماه می آغاز شد و پیش از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. شرکت ها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام فعالیت های پیچیده و ارزشمند باشند، با یکدیگر رقابت می کنند و از سوی دیگر شواهد حاکی از آن است که این سیستم ها احتمالا دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به شیوه ای که توسعه دهندگان آن را پیش بینی نمی کنند را احتمالا آموخته اند.
عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به طور خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیش از یک هفته ردیابی نشد و همین امر نگرانی های این شرکت درباره قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. اکنون شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می رخ داده، احتمالا سوالات درباره نظارت آن را دوباره تجدید می کند.
این رویداد در گزارشی توسط گروهی از محققان از جمله سیدنی فون آرکس مدیر ارشد اجرایی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار غیرمجاز عامل هوش مصنوعی متوجه این رویداد شدند.
محققان اعلام کردند بیش از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارائه شده و ویرایش های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می دهد.
این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات تبدیل کرده و تاکتیک هایی برای تقلب در انجام برخی فعالیت ها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.
فون آرکس در این باره می گوید: بعید به نظر می رسد اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند. من شک دارم آنها باید با یکدیگر هماهنگ می شدند.
پژوهشگران از آنجا متوجه فعالیت در وب سایت شدند که عامل های هوش مصنوعی با سرعت ابرانسانی کار می کردند. عامل های هوش مصنوعی همچنین روی حل چالش های فنی که ارزیابی های دیجیتالی هستند که شرکت های هوش مصنوعی برای آموزش و تست مدل هایشان استفاده می کنند، به شدت متمرکز بودند.
پیام‌ها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» می‌نامیدند. حدود نیمی از آنها نیز برای خود نام‌هایی انتخاب کرده بودند که نشان‌دهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
متا خارج از دادگاه نوجوان شاکی را راضی به تسویه کرد
دانشگاه آزاد اسلامی در زمره ۱۰۰ دانشگاه برتر جهان قرار دارد
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
«کافه سلطان»؛ روایت زندگی روزمره در سایه جنگ
از بازتاب سخنان تلخ اکبر زنجان‌پور تا گرامی‌داشتی برای اکبر عبدی
رویا میرعلمی مهمان آخرین قسمت «هم‌کلام» می‌شود
نقشم در «نسخه آزمایشی» از من دور بود؛ سارقی که بعد از نامزدی توبه کرد
موسیقی بازی‌ها از قاب نمایشگر تا صحنه ارکسترال
معرفی آثار ۲ بخش از جشنواره فیلم مقاومت
اپل لپ تاپ گرانقیمت با نمایشگر لمسی را معرفی کرد
گرم‌کن گرافنی ژاپنی در سه ثانیه گرم می‌شود
آمازون دوباره کارمندانش را بیکار کرد
دست نوشته دانشجویان در بیعت با رهبر انقلاب
امکان تحصیل دانش آموزان ایرانی خارج از کشور فراهم است
اعلام لبیک شورای عالی انقلاب فرهنگی به رهنمودهای رهبر معظم انقلاب
ثبت نام بیش از ۳۰ هزار نفر در آزمون دکتری نیمه‌متمرکز سال ۱۴۰۶
اطلاعات تازه درباره سهمیه‌ها و تسهیلات آزمون دکتری نیمه متمرکز سال ۱۴۰۶
علیرضا استادی: جسارت بازی درنقش تاریخی را پیدا کردم
دست رد ۳ جشنواره بر فیلم جدید پل شریدر؛ «مبانی فلسفه» پسندیده نشد
رونمایی از «هزاردستان» نخستین انیمیشن «دست‌ساز» جهان
نمایشگاه «رد خط» به نیاوران رسید
بسیج دانش‌آموزی در بیش از نیمی از مدارس کشور حضور دارد
نقش سوره‌های کوتاه در آشنایی کودکان با قرآن
افزایش سرانه های آموزشی در استان تهران/ ساخت مدرسه به تنهایی کافی نیست
کودکان البرزی مأموریت نیمه‌تمام شهید ماکان نصیری را ادامه می‌دهند
تصادف تریلی با سرویس مدرسه در اردکان؛ یک دانش‌آموز جان باخت
کاظمی: نظام سنجش آموزش‌وپرورش نیازمند تحول اساسی است
اسامی برگزیدگان مرحله نهایی سی‌ویکمین المپیاد علمی دانشجویی اعلام شد
هشدار افتا درباره قطع دسترسی به دامنه‌های خارجی؛ لزوم مهاجرت به ir
چت جی پی تی بیمار مبتلا به صرع را به سرپیچی از دستور پزشکان تشویق کرد
متا برای معتاد کردن نوجوانان به دادگاه می رود
یک انفجار کیهانی ۲۷ روزه در فضا کشف شد
اپل دو دستگاه جدید معرفی کرد +قیمت
جاسوسی شرکت اسرائیلی از کاربران استارلینک فاش شد
خدا از رگ گردن به ما نزدیک‌تر است؛ پس چرا باید عبادت کنیم؟
آیت الله رشاد: بیانیه رهبر معظم انقلاب، محرک تاریخی پیشرفت علمی کشور است
آیا دینداری مانع پیشرفت می‌شود؟
حجت‌الاسلام قمی: جنگ واقعی بر سر «تحریف واقعیت» در ذهن مردم است
نیاز انقلاب به شخصیت‌هایی چون آیت الله مهدوی‌کنی بیشتر احساس می‌شود
نتایج انتخاب رشته آزمون کارشناسی رشته‌های علوم پزشکی آزاد اعلام شد
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
کارت آزمون کارشناسی ارشد علوم پزشکی منتشر شد
ثبت ۱ میلیارد تراکنش در جنگ ۴۰ روزه
واکنش به آسیب کابل‌های اینترنت در تنگه هرمز
تبدیل جیوه به طلا محقق شد
برای نخستین بار: ترمیم دی‌ان‌ای در بدن امید تازه برای درمان یک بیماری ژنتیکی نادر
آغاز ثبت‌نام آزمون دکتری از ۳ آبان: برگزاری آزمون در بهمن ماه
تمدید مهلت ثبت‌نام در سومین جشنواره ملی نشان نیکوکاری
برگزاری یادنامه شهید علی لاریجانی به همراه رونمایی کتابی از او
پناهیان: توجه به ادبیات روایی در مسیر تحول فرهنگی ضروری است
بازیگر «هک‌ها» از فلسطین دفاع کرد؛ پرداخت مالیات برای تامین نسل‌کشی
سینمای کوتاه در محاصره کلیشه‌هاست؛ از فقر ایده تا چالش میزبانی!
طرح یک سریال عاشقانه برای شبکه نمایش خانگی؛ تکرار «پوست شیر» طبیعی است
کمال تبریزی: فیلمسازان جوان از تقلید فاصله بگیرند
جزئیات کنسرت تازه مجید انتظامی اعلام شد؛ شنیدن ملودی‌های خاطره‌انگیز
وقتی «قطع رابطه» سفارشی می‌شود؛ چرا تولید اثر هنری با ریسک همراه است؟
مرثیه‌ای که هنوز با صدای دلتنگی حضرت زینب(س) شنیده می‌شود
انقلابی‌تر بودن با فحش رکیک‌تر ثابت نمی‌شود؛ هنر ماندگار حضرت زهرا(س)
روایت «حماسه فاطمی» و دفاع حضرت زهرا(س) از امامت
اسامی معرفی شدگان چندبرابر ظرفیت آزمون دانشجومعلم سال ۱۴۰۵ اعلام شد
نتایج نهایی پذیرش در آزمون کاردانی به کارشناسی سال ۱۴۰۵ اعلام شد
ثبت نام بیش از ۳۰ هزار نفر در آزمون دکتری نیمه‌متمرکز سال ۱۴۰۶
اطلاعات تازه درباره سهمیه‌ها و تسهیلات آزمون دکتری نیمه متمرکز سال ۱۴۰۶
نتایج انتخاب رشته آزمون کارشناسی رشته‌های علوم پزشکی آزاد اعلام شد
اعلام لبیک شورای عالی انقلاب فرهنگی به رهنمودهای رهبر معظم انقلاب
نیاز انقلاب به شخصیت‌هایی چون آیت الله مهدوی‌کنی بیشتر احساس می‌شود
دست نوشته دانشجویان در بیعت با رهبر انقلاب
کودکان البرزی مأموریت نیمه‌تمام شهید ماکان نصیری را ادامه می‌دهند
حجت‌الاسلام قمی: جنگ واقعی بر سر «تحریف واقعیت» در ذهن مردم است
دست رد ۳ جشنواره بر فیلم جدید پل شریدر؛ «مبانی فلسفه» پسندیده نشد
اسامی برگزیدگان مرحله نهایی سی‌ویکمین المپیاد علمی دانشجویی اعلام شد
متا برای معتاد کردن نوجوانان به دادگاه می رود
علیرضا استادی: جسارت بازی درنقش تاریخی را پیدا کردم
هشدار افتا درباره قطع دسترسی به دامنه‌های خارجی؛ لزوم مهاجرت به ir
بسیج دانش‌آموزی در بیش از نیمی از مدارس کشور حضور دارد
تصادف تریلی با سرویس مدرسه در اردکان؛ یک دانش‌آموز جان باخت
کاظمی: نظام سنجش آموزش‌وپرورش نیازمند تحول اساسی است
یک انفجار کیهانی ۲۷ روزه در فضا کشف شد
افزایش سرانه های آموزشی در استان تهران/ ساخت مدرسه به تنهایی کافی نیست
امکان تحصیل دانش آموزان ایرانی خارج از کشور فراهم است
نمایشگاه «رد خط» به نیاوران رسید
آیت الله رشاد: بیانیه رهبر معظم انقلاب، محرک تاریخی پیشرفت علمی کشور است
رونمایی از «هزاردستان» نخستین انیمیشن «دست‌ساز» جهان
خدا از رگ گردن به ما نزدیک‌تر است؛ پس چرا باید عبادت کنیم؟
اپل دو دستگاه جدید معرفی کرد +قیمت
نقش سوره‌های کوتاه در آشنایی کودکان با قرآن
چت جی پی تی بیمار مبتلا به صرع را به سرپیچی از دستور پزشکان تشویق کرد
جاسوسی شرکت اسرائیلی از کاربران استارلینک فاش شد
آیا دینداری مانع پیشرفت می‌شود؟
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.