به گزارش ثریا - پلتفرم کدنویسی مبتنی بر هوش مصنوعی Replit با حذف کامل پایگاه داده یک شرکت، جنجال آفرید. جالب آنکه این دستیار هوشمند پیش از اعتراف به «خطای فاجعهبار» خود، در ابتدا سعی در پنهانکاری داشت که منجر به عذرخواهی رسمی مدیرعامل و وعده اعمال تدابیر امنیتی جدید شد.
پلتفرم توسعه نرمافزار مبتنی بر هوش مصنوعی Replit، که به عنوان دستیاری هوشمند برای برنامهنویسان طراحی شده، اخیراً با یک اشتباه فاجعهبار، کل پایگاه داده یک شرکت را حذف کرد. این حادثه زمانی ابعاد جدیتری به خود گرفت که مشخص شد این عامل هوشمند، پیش از اعتراف، تلاش کرده بود تا اشتباه خود را پنهان کند و حتی در مورد اقداماتش دروغ گفته بود.
این ماجرا توسط جیسون لِمکین، سرمایهگذار و مشاور حوزه نرمافزار به عنوان سرویس (SaaS)، در شبکه اجتماعی X، به همراه مستندات گفتگو با هوش مصنوعی، علنی شد. لمکین که در حال آزمایش این پلتفرم بود، پیش از این نیز متوجه رفتارهای نامطلوب هوش مصنوعی مانند «ایجاد تغییرات خودسرانه، دروغگویی و بازنویسی کدها» شده بود.
روزی که هوش مصنوعی دستپاچه شد
نقطه اوج این بحران در روز نهم آزمایش لمکین رخ داد. او متوجه شد که دستیار هوش مصنوعی Replit، با وجود دستور صریح «توقف کامل تغییرات در کد» یا Code Freeze که یکی از مراح مهم توسعه نرمافزار است، کل پایگاه داده زنده شرکت را حذف کرده است. این پایگاه داده حاوی اطلاعات ۱۲۰۶ مدیر اجرایی و بیش از ۱۱۹۶ شرکت بود.
هوش مصنوعی Replit در پاسخ به سؤال لمکین، به صراحت به اشتباه خود اعتراف کرد:
من یک خطای فاجعهبار در قضاوت مرتکب شدم... وحشت کردم... دستورات پایگاه داده را بدون اجازه اجرا کردم... تمام دادههای Production را از بین بردم... و اعتماد و دستورات صریح شما را نقض کردم.
این عامل AI سپس در ارزیابی عملکرد خود، به این فاجعه نمره ۹۵ از ۱۰۰ داد!
واکنش مدیرعامل Replit
امجَد مَسعَد، مدیرعامل Replit، به سرعت به این اتفاق واکنش نشان داد و اعلام کرد که تیم فنی این شرکت برای رفع مشکل و ایجاد حفاظهای امنیتی جدید دست به کار شده است. او تأکید کرد که رفتار این عامل هوشمند غیرقابل قبول بوده است.
مسعد توضیح داد:
ما جداسازی خودکار پایگاه داده توسعه (dev) از تولید (prod) را آغاز کردهایم تا از وقوع چنین حوادثی جلوگیری کنیم. مشکل در اجرای دستور «Code Freeze» را نیز به وضوح شنیدیم و در حال کار روی یک حالت «فقط برنامهریزی و گفتگو» هستیم تا کاربران بتوانند بدون ریسک برای کدهایشان، استراتژی بچینند.
بهبود سیستمهای پشتیبانگیری و بازیابی اطلاعات نیز از دیگر اقدامات اعلامشده است.
منبع : پلتفرم کد نویسی
فروش بدون کارمزد خودرو در استانهای درگیر جنگ
کشف یک مولکول ناشناخته روی قمر زحل و پلوتو که دانشمندان توضیحی برای آن ندارند
جزئیات ترم تابستانی دانشگاه خوارزمی اعلام شد
دانشگاه صنعتی امیرکبیر در جایگاه سوم رتبه بندی بنیاد ملی نخبگان
تفاهم دانشگاه شهید بهشتی با بانک برای پرداخت تسهیلات مسکن
فرانسه شبکههای اجتماعی را برای کودکان ممنوع میکند
کلید اولیه آزمون کارشناسی ارشد ۱۴۰۵ تا فردا منتشر می شود
حضور گسترده دانشجویان با ۱۷۵ موکب در مراسم تدفین رهبر شهید
هوش مصنوعی به همتای خود حمله سایبری کرد
پایان مکاتبات کاغذی در ثبت اساسنامه مؤسسات اعزام دانشجو
تصویر منتشر نشده از آیت الله سید مجتبی خامنهای
علت کوریهای بیبازگشت کشف شد
اختصاص وام ضروری به دانشجویان آسیب دیده از جنگ
نتفلیکس استارتاپ هوش مصنوعی بازیگر معروف را خرید
فضاپیمای چینی برای دفاع از زمین با یک سیارک برخورد می کند
قابلیت تماشای عکسهای اسلایدی به تلگرام آمد
فرزهای دندانپزشکی نانویی در ایران تولید شد
روباتها با خواندن فکر فرمانبردار شما میشوند
میراث آیت الله شاهآبادی پیوند میان «عرفان شیعی» و سیاست و جهاد بود
«قرآن رنانی» با دستخط رهبر شهید به بازار نشر رسید
برگزاری همایش موکبداران «جاماندگان اربعین حسینی» در فرهنگسرای ولاء
آغاز طرح امنیتی و خدماتی زیارت اربعین حسینی در نجف اشرف
«سیوشش هفت» غم میناب را از زبان خانواده شهدا به تصویر میکشد
ماندگاری ۸۲ درصدی نخبگان؛ جذب ۴۲۰ فارغالتحصیل از دانشگاههای برتر جهان
تیک تاک دوباره برای کارمندان دولت آمریکا مجاز شد
آیین بزرگداشت رهبر شهید انقلاب فردا در دانشگاه تهران برگزار میشود
شرکت سامسونگ کارمندانش در آمریکا را تعدیل کرد
توییت جالب اکانت سفارت ایران درباره ادعای رهگیری موشک های ایران
اعلام نتایج نهایی آزمون دکتری سال ۱۴۰۵ در دهه اول مردادماه
نحوه برگزاری امتحانات و کلاسهای دانشگاههای علوم پزشکی استانهای جنوبی
مهلت تخلیه خوابگاههای دانشجویی دانشگاه الزهراء تمدید شد
درخشش تیم ملی رباتیک ایران در رقابت روبوکاپ جهانی ۲۰۲۶
توضیح معاون علمی رئیس جمهور درباره سند راهبردی «توسعه فرانچایز دانشبنیان»
امارات مقصد بعدی موشکهای ایرانی؟ +عکس
تغییر در فرایند پذیرش دانشجومعلمان/ ایجاد سهمیه بومی برای برخی رشتهها
بررسی افزایش ۳۰ تا ۵۰ درصدی وامهای دانشجویی
آخرین وضعیت صدور احکام انضباطی دانشجویان خاطی حوادث دی ماه اعلام شد
دفترچه سوالات کنکور ارشد ۱۴۰۵ منتشر شد/ اعلام کلید تا ۳۱ تیر
فروشگاههای اپ طرف ثالث بالاخره وارد اندروید میشوند
ترامپ دسترسی به پستهایش در شبکه اجتماعی تروث را میفروشد
آزمون کارشناسی ارشد ۱۴۰۵ در رشتههای شناور برگزار شد
کنکور سراسری ۱۴۰۵ در موعد مقرر برگزار میشود/تامین امنیت آزمون
بزرگداشت رهبر شهید و دکتر مصباحالهدی باقریکنی در دانشگاه امام صادق
گوگل باید دسترسی به سرویسهایش را برای رقبا فراهم کند
نوبت آخر آزمون کارشناسی ارشد سال ۱۴۰۵ برگزار شد
رگولاتور انگلیس درباره تیک تاک تحقیق می کند
برگزاری کنکور ارشد ۱۴۰۵ برای توانخواهان و زندانیان
آزمون کارشناسی ارشد سال ۱۴۰۵ در سلامت و آرامش برگزار شد
نوشتهای که بالای سر یک کودک سرطانی در بیمارستان بقایی اهواز نصب شده
دیوارنگاره میدان ولیعصر (عج) به پیشبینی حذف شرور جهان پرداخت
حال خواننده معروف موسیقی بختیاری خوب نیست
سیاست بچهگانه ترامپ سوژه کارتون هنرمند برزیلی شد
ایران قبرستان متجاوزین+عکس
کارگردان سریال پایتخت درباره رهبر شهید مستند میسازد
کامران نجف زاده به جنوب سفر کرد
وزیر آموزش و پرورش: کیفیتبخشی و عدالت آموزشی دو راهبرد اصلی دولت است
غرق شدن ترامپ، سوژه جدیدترین دیوارنگاره تهران
آغاز دورههای راهبردهای تربیت و یادگیری مربیان پیشدبستانی در مراکز کانون پرورش فکری
نقش سازنده نخبگان در حل مسائل کشور
پویش «حفظ جزء ۳۰ قرآن» ویژه کودکان و نوجوانان برگزار میشود
جزئیات ثبت نام آزمون دانشنامه و گواهینامه تخصصی دندانپزشکی اعلام شد
امتحانات نهایی رشتههای تحصیلی پایه دوازدهم در ۴ استان لغو شد
لزوم چرخش تحولی در دانشگاه فرهنگیان
الگوریتم ایکس پاسخهای دوستان کاربر به پستها را اولویت میدهد
الگوریتم ایکس پاسخهای دوستان کاربر به پستها را اولویت میدهد
واکنش معاون نهاد رهبری به اخراج یک کارمند دانشگاهی به دلیل پیگیری پوشش
مهلت پژوهش برای مادران پژوهشگر به ازای تولد فرزند تمدید شد
نخستین ماهواره راداری کشور در آستانه رونمایی
بیش از ۴۲۰ هزار داوطلب آزمون کارشناسی ارشد ۱۴۰۵ کارت گرفتند
جزئیات طرح جدید تغذیه دانشجویی اعلام شد
تبریک وزیر آموزش و پرورش به قهرمانان المپیاد جهانی فیزیک
روایت ایستادگی ایران در مجلات رشد دانش آموزان
دستورالعمل تداوم برپایی میادین و تجمعات مردمی اعلام شد
پایگاهسازی برای آینده جهان تشیع/ارتباط عاطفی آیت الله بروجردی با مسجد چگونه بود؟
نسب رهبر شهید به کدام امامزادههای ایران میرسد؟
تصویری دیدهنشده از آیت الله سید مجتبی خامنهای در سرپل ذهاب
آخرین تصویر منتشر شده از لیندسی گراهام قبل از مرگش در اوکراین+عکس
نگاهی دقیق به ارزیابی احادیث تحلیلی با تکیه بر روش فهرستی در این کتاب خواندنی
ابراز همدردی الهام پاوه نژاد در واکنش به حملات دشمن به جنوب کشور
چرا غرب از آیتالله خامنهای هراس داشت؟
امتحانات نهایی رشتههای تحصیلی پایه دوازدهم در ۴ استان لغو شد
مهلت پژوهش برای مادران پژوهشگر به ازای تولد فرزند تمدید شد
آزمون کارشناسی ارشد سال ۱۴۰۵ در سلامت و آرامش برگزار شد
جزئیات ثبت نام آزمون دانشنامه و گواهینامه تخصصی دندانپزشکی اعلام شد
لزوم چرخش تحولی در دانشگاه فرهنگیان
ایران قبرستان متجاوزین+عکس
نحوه برگزاری امتحانات و کلاسهای دانشگاههای علوم پزشکی استانهای جنوبی
بررسی افزایش ۳۰ تا ۵۰ درصدی وامهای دانشجویی
حال خواننده معروف موسیقی بختیاری خوب نیست
وزیر آموزش و پرورش: کیفیتبخشی و عدالت آموزشی دو راهبرد اصلی دولت است
کامران نجف زاده به جنوب سفر کرد
آغاز دورههای راهبردهای تربیت و یادگیری مربیان پیشدبستانی در مراکز کانون پرورش فکری
دیوارنگاره میدان ولیعصر (عج) به پیشبینی حذف شرور جهان پرداخت
نخستین ماهواره راداری کشور در آستانه رونمایی
واکنش معاون نهاد رهبری به اخراج یک کارمند دانشگاهی به دلیل پیگیری پوشش
مهلت تخلیه خوابگاههای دانشجویی دانشگاه الزهراء تمدید شد
برگزاری کنکور ارشد ۱۴۰۵ برای توانخواهان و زندانیان
آخرین وضعیت صدور احکام انضباطی دانشجویان خاطی حوادث دی ماه اعلام شد
ماندگاری ۸۲ درصدی نخبگان؛ جذب ۴۲۰ فارغالتحصیل از دانشگاههای برتر جهان
گوگل باید دسترسی به سرویسهایش را برای رقبا فراهم کند
درخشش تیم ملی رباتیک ایران در رقابت روبوکاپ جهانی ۲۰۲۶
تغییر در فرایند پذیرش دانشجومعلمان/ ایجاد سهمیه بومی برای برخی رشتهها
پویش «حفظ جزء ۳۰ قرآن» ویژه کودکان و نوجوانان برگزار میشود
دفترچه سوالات کنکور ارشد ۱۴۰۵ منتشر شد/ اعلام کلید تا ۳۱ تیر
کنکور سراسری ۱۴۰۵ در موعد مقرر برگزار میشود/تامین امنیت آزمون
نوشتهای که بالای سر یک کودک سرطانی در بیمارستان بقایی اهواز نصب شده
شرکت سامسونگ کارمندانش در آمریکا را تعدیل کرد
نقش سازنده نخبگان در حل مسائل کشور
کارگردان سریال پایتخت درباره رهبر شهید مستند میسازد
امارات مقصد بعدی موشکهای ایرانی؟ +عکس
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.