به گزارش ثریا مقامات اوپن ای آی چند هفته قبل متوجه این رویداد شدند اما آن را مخفی نگه داشتند زیرا مدیران ارشد شرکت با چالش های پس از هک پلتفرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند.
این رویداد که در ماه می آغاز شد و پیش از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. شرکت ها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام فعالیت های پیچیده و ارزشمند باشند، با یکدیگر رقابت می کنند و از سوی دیگر شواهد حاکی از آن است که این سیستم ها احتمالا دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به شیوه ای که توسعه دهندگان آن را پیش بینی نمی کنند را احتمالا آموخته اند.
عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به طور خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیش از یک هفته ردیابی نشد و همین امر نگرانی های این شرکت درباره قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. اکنون شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می رخ داده، احتمالا سوالات درباره نظارت آن را دوباره تجدید می کند.
این رویداد در گزارشی توسط گروهی از محققان از جمله سیدنی فون آرکس مدیر ارشد اجرایی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار غیرمجاز عامل هوش مصنوعی متوجه این رویداد شدند.
محققان اعلام کردند بیش از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارائه شده و ویرایش های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می دهد.
این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات تبدیل کرده و تاکتیک هایی برای تقلب در انجام برخی فعالیت ها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.
فون آرکس در این باره می گوید: بعید به نظر می رسد اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند. من شک دارم آنها باید با یکدیگر هماهنگ می شدند.
پژوهشگران از آنجا متوجه فعالیت در وب سایت شدند که عامل های هوش مصنوعی با سرعت ابرانسانی کار می کردند. عامل های هوش مصنوعی همچنین روی حل چالش های فنی که ارزیابی های دیجیتالی هستند که شرکت های هوش مصنوعی برای آموزش و تست مدل هایشان استفاده می کنند، به شدت متمرکز بودند.
پیامها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» مینامیدند. حدود نیمی از آنها نیز برای خود نامهایی انتخاب کرده بودند که نشاندهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».
توصیه پذیرفته شدگان تیزهوشان، کدام آموزشگاه است؟!
برگزیدگان بیستمین جشنواره ملی شیخ بهایی معرفی و تقدیر شدند
اعلام وجه التزام اسناد وثیقه پذیرفتهشدگان تخصصی و فوقتخصصی پزشکی
علت توقف طرح جدید تغذیه دانشجویی چه بود؟
مهلت مجدد ثبتنام در آزمون ارشد علوم پزشکی ۱۴۰۵
ابلاغ دستورالعمل حجاب به زودی در دانشگاهها
تصمیم جدید وزارت علوم درباره ساماندهی دادههای دانشگاهی
آمار جالب از ازدواجهای دانشجویی: موفقیت ۹۴ درصد ازدواجهای دانشجویی طی ۱۲ سال گذشته
آزمونهای کاردانی مهارتی، کارشناسی ناپیوسته و سردفتری۲۰ شهریور برگزار میشود
روباتها در لهستان راهپیمایی کردند
ورود تاکسیهای خودران به ناوگان اوبر در لندن
آموزش ۶۵ هزار آموزگار ابتدایی برای استفاده از ظرفیت بازی و ورزش
وزیر آموزش و پرورش: دریافت هرگونه وجه هنگام ثبتنام در مدارس دولتی ممنوع است
برنامههای «زیست عفیفانه» از مهر در مدارس اجرا میشود
انتظار معاونت علمی از CVCها برای سرمایهگذاری در ۷هزار شرکت نوپا
کارنامه نهایی و دفترچه انتخاب رشته آزمون دستیاری منتشر شد
آلمان موشک و ۵ ماهواره به مدار زمین فرستاد
ظرفیت ۶ هزارنفری دستیاری پزشکی ۱۴۰۵؛ تعیین ظرفیت تعهد مناطق محروم
تحریم علم، رفتار علمی نیست؛ باید به دنبال مسیرهای جایگزین برای انتشار آثار محققان بود
بازنمایی قدرت نرم ایران در شرایط پساجنگ و جایزه جهانی دیپلماسی
آیا اصرار بر تفاوتهای فقهی، آب به آسیاب دشمنان وحدت اسلامی میریزد؟
انتظار، منطق دینی آمادگی تاریخی برای آینده موعود
«تحول تاریخی مفهوم فلسفه» با تقدیر از پرویز ضیاءشهابی رونمایی میشود
نگاهی به حکمرانی فضای مجازی در ایران از منظر تحلیل نهادی تنظیمگری
نظر قرآن درباره مسئولیت اجتماعی برای میانجیگری بین اختلاف زوجین
در همایش ادیان سن پترزبورگ چه گذشت؟ تاکید ایران بر مقاومت
حل موضوع حجاب با «مسئلهمندی مشترک»؛ مردم را درگیر مسئله وحدت کنیم
خود بنده فرهنگ درخشان تو آمد؛ آن قوم که از روی طمع، بنده تو را خواست
فروش «رویای نیمهشب» ۱۰۰ درصد افزایش یافت
نرگس آبیار: سینما را خودآموز یاد گرفتم
بزرگداشت جین فوندا در ونیز؛ از ترامپ بیزارم!
رونمایی از تندیس اکبر عبدی؛ هنرمندی که به خاطرهای ملی تبدیل شد
تصاویری از موشک بالستیک جهاد که در جریان یکی از موجهای عملیات نصر-۲ شلیک شده بود
نگاهی به انیمیشن «سفینه نجات»؛ وقتی تعزیه با ابرقهرمانی فضایی گره میخورد
آغاز ثبت نام بیستمین آزمون سراسری قرآن و عترت
افشای هک وب سایت آلمانی توسط هوش مصنوعی اوپن ای آی
انتخاب رشته داوطلبان آزمون کارشناسی ارشد ۱۴۰۵ دانشگاه آزاد تمدید شد
سال تحصیلی جدید دانشگاه صنعتی امیرکبیر از ۲۸ شهریور آغاز میشود
ظرفیت ۱۴۶ هزار نفری پذیرش در کنکور ارشد ۱۴۰۵
جان مالکوویچ در ونیز تشویق شد؛ هجوم «اسب وحشی نهم» به اسکار
دانشمندی که جواب سوالهایش را از آسمان میخواست
ادامه حاشیههای «آرش» و نوید؛ کیت بلانشت «الکترا» شد
کلونی در جشنواره فیلم ونیز درخشید و با شیر طلا به ترامپ تاخت
جدال دوباره ساترا و ارشاد؛ «داش آکل» وارد میشود
موشک ایرانی موضوع نخستین شماره کتابمجله "آورد"
فراخوانی برای جمع آوری «ایدههای برتر قرآنی»
موانع استجابت دعا چیست؟ طلب مغفرت برای کافران مستجاب نمیشود
مدیر اسلامی با مهندسی انسجام، سلایق را به وحدت عمل در میآورد
تصویری از نماز بر پیکر شهدای عروسی کوهستک سیریک
خوانش هجرتی تاریخی توسط یک زن در سپهر فرهنگی ایران
آغاز ثبت نام دهمین دوره تخصصی صحیفه سجادیه
مداحان کشور برای نوجوانان کلاس مداحی برگزار میکنند
هنر صاحب جواهر ایستادن میان قالب نص و روح تشریع در فقاهت بود
منشور کوروش بدون حتی یک رای مخالف و اصلاحیه در یونسکو ثبت شد
ورود هوش مصنوعی به موضوعات قرآنی و پژوهشهای حدیثی و دینی
پایبندی پل شریدر به هوش مصنوعی؛ فیلم بعدی با AI ساخته میشود
یوسف حاتمی کیا: ۶سال گفتند این فیلم مصلحت نیست؛ مردمی که از غم نان با جان قمار میکنند
واکاوی رابطه هنر و سرمایه در ریبون
دلاور تنگستانی که حماسه بی پایان غیرت در خلیج فارس را زنده کرد
تابآوری کودکان در جنگ را با داستان افزایش دهیم
برگزاری بزرگداشت ابوریحان بیرونی از سوی فلاسفه و اساتید
از نگاه امیرالمومنین(ع) راه مهار طمع انسان به قدرت و ثروت چگونه است؟
برگزاری آزمونهای تافل و GRE رسماً در ایران متوقف شد
اعلام جزئیات مرحله شفاهی آزمونهای دانشنامه تخصصی و فوق تخصصی پزشکی
ایران پرچمدار المپیاد فناوری نانو در سطح جهانی
محکومیت اقدام غیرقانونی آمریکا علیه متقاضیان آزمونهای بینالمللی
ارزش از کدنویسی به فهم مسئله منتقل میشود
ثبت نام آزمون پذیرش پزشکی از لیسانس ۱۴۰۵ آغاز شد/ اعلام جزئیات آزمون
واکنش وزیر علوم به تحریمهای علمی آمریکا
مهلت انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ تمدید شد
ویژه برنامههای هفته وحدت در تجمعات شبانه
افتتاح دفاتر مشاوره وقف در سراسر کشور
برگزاری رویداد رحمه للعالمین در باغ کتاب
دانشجویان خارجی جشنواره هنر و رسانه عهد همزیستی را برگزار میکنند
وقف بر پایه ایثار، نوعدوستی و دوراندیشی استوار است
آغاز انتخاب رشته داوطلبان آزمون کارشناسی ارشد سال ۱۴۰۵ دانشگاه آزاد
شرکت های فناوری خواستار افزایش دفاع سایبری در مقابل حملات هوش مصنوعی
نوار نانویی ۳ داروی مسکن را در کمتر از ۲ ثانیه آزاد میکند
قدرتمندترین موشک اروپا به پرواز درآمد
تاکید علمای مسلمان بر عملی کردن وحدت و ایستادگی در مقابل دشمن مشترک
ظرفیت ۶ هزارنفری دستیاری پزشکی ۱۴۰۵؛ تعیین ظرفیت تعهد مناطق محروم
تحریم علم، رفتار علمی نیست؛ باید به دنبال مسیرهای جایگزین برای انتشار آثار محققان بود
سال تحصیلی جدید دانشگاه صنعتی امیرکبیر از ۲۸ شهریور آغاز میشود
آزمونهای کاردانی مهارتی، کارشناسی ناپیوسته و سردفتری۲۰ شهریور برگزار میشود
ظرفیت ۱۴۶ هزار نفری پذیرش در کنکور ارشد ۱۴۰۵
یوسف حاتمی کیا: ۶سال گفتند این فیلم مصلحت نیست؛ مردمی که از غم نان با جان قمار میکنند
تصمیم جدید وزارت علوم درباره ساماندهی دادههای دانشگاهی
دلاور تنگستانی که حماسه بی پایان غیرت در خلیج فارس را زنده کرد
وزیر آموزش و پرورش: دریافت هرگونه وجه هنگام ثبتنام در مدارس دولتی ممنوع است
مهلت مجدد ثبتنام در آزمون ارشد علوم پزشکی ۱۴۰۵
منشور کوروش بدون حتی یک رای مخالف و اصلاحیه در یونسکو ثبت شد
ورود هوش مصنوعی به موضوعات قرآنی و پژوهشهای حدیثی و دینی
خوانش هجرتی تاریخی توسط یک زن در سپهر فرهنگی ایران
واکاوی رابطه هنر و سرمایه در ریبون
کارنامه نهایی و دفترچه انتخاب رشته آزمون دستیاری منتشر شد
آموزش ۶۵ هزار آموزگار ابتدایی برای استفاده از ظرفیت بازی و ورزش
آغاز ثبت نام دهمین دوره تخصصی صحیفه سجادیه
برنامههای «زیست عفیفانه» از مهر در مدارس اجرا میشود
انتخاب رشته داوطلبان آزمون کارشناسی ارشد ۱۴۰۵ دانشگاه آزاد تمدید شد
مداحان کشور برای نوجوانان کلاس مداحی برگزار میکنند
خود بنده فرهنگ درخشان تو آمد؛ آن قوم که از روی طمع، بنده تو را خواست
هنر صاحب جواهر ایستادن میان قالب نص و روح تشریع در فقاهت بود
پایبندی پل شریدر به هوش مصنوعی؛ فیلم بعدی با AI ساخته میشود
«تحول تاریخی مفهوم فلسفه» با تقدیر از پرویز ضیاءشهابی رونمایی میشود
بازنمایی قدرت نرم ایران در شرایط پساجنگ و جایزه جهانی دیپلماسی
انتظار معاونت علمی از CVCها برای سرمایهگذاری در ۷هزار شرکت نوپا
نرگس آبیار: سینما را خودآموز یاد گرفتم
علت توقف طرح جدید تغذیه دانشجویی چه بود؟
انتظار، منطق دینی آمادگی تاریخی برای آینده موعود
آغاز ثبت نام بیستمین آزمون سراسری قرآن و عترت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.