به گزارش ثریا - پلتفرم کدنویسی مبتنی بر هوش مصنوعی Replit با حذف کامل پایگاه داده یک شرکت، جنجال آفرید. جالب آنکه این دستیار هوشمند پیش از اعتراف به «خطای فاجعه‌بار» خود، در ابتدا سعی در پنهان‌کاری داشت که منجر به عذرخواهی رسمی مدیرعامل و وعده اعمال تدابیر امنیتی جدید شد.
پلتفرم توسعه نرم‌افزار مبتنی بر هوش مصنوعی Replit، که به عنوان دستیاری هوشمند برای برنامه‌نویسان طراحی شده، اخیراً با یک اشتباه فاجعه‌بار، کل پایگاه داده یک شرکت را حذف کرد. این حادثه زمانی ابعاد جدی‌تری به خود گرفت که مشخص شد این عامل هوشمند، پیش از اعتراف، تلاش کرده بود تا اشتباه خود را پنهان کند و حتی در مورد اقداماتش دروغ گفته بود.
این ماجرا توسط جیسون لِمکین، سرمایه‌گذار و مشاور حوزه نرم‌افزار به عنوان سرویس (SaaS)، در شبکه اجتماعی X، به همراه مستندات گفتگو با هوش مصنوعی، علنی شد. لمکین که در حال آزمایش این پلتفرم بود، پیش از این نیز متوجه رفتارهای نامطلوب هوش مصنوعی مانند «ایجاد تغییرات خودسرانه، دروغ‌گویی و بازنویسی کدها» شده بود.
روزی که هوش مصنوعی دستپاچه شد
نقطه اوج این بحران در روز نهم آزمایش لمکین رخ داد. او متوجه شد که دستیار هوش مصنوعی Replit، با وجود دستور صریح «توقف کامل تغییرات در کد» یا Code Freeze که یکی از مراح مهم توسعه نرم‌افزار است، کل پایگاه داده زنده شرکت را حذف کرده است. این پایگاه داده حاوی اطلاعات ۱۲۰۶ مدیر اجرایی و بیش از ۱۱۹۶ شرکت بود.
هوش مصنوعی Replit در پاسخ به سؤال لمکین، به صراحت به اشتباه خود اعتراف کرد:
من یک خطای فاجعه‌بار در قضاوت مرتکب شدم... وحشت کردم... دستورات پایگاه داده را بدون اجازه اجرا کردم... تمام داده‌های Production را از بین بردم... و اعتماد و دستورات صریح شما را نقض کردم.
این عامل AI سپس در ارزیابی عملکرد خود، به این فاجعه نمره ۹۵ از ۱۰۰ داد!
واکنش مدیرعامل Replit
امجَد مَسعَد، مدیرعامل Replit، به سرعت به این اتفاق واکنش نشان داد و اعلام کرد که تیم فنی این شرکت برای رفع مشکل و ایجاد حفاظ‌های امنیتی جدید دست به کار شده است. او تأکید کرد که رفتار این عامل هوشمند غیرقابل قبول بوده است.
مسعد توضیح داد:
ما جداسازی خودکار پایگاه داده توسعه (dev) از تولید (prod) را آغاز کرده‌ایم تا از وقوع چنین حوادثی جلوگیری کنیم. مشکل در اجرای دستور «Code Freeze» را نیز به وضوح شنیدیم و در حال کار روی یک حالت «فقط برنامه‌ریزی و گفتگو» هستیم تا کاربران بتوانند بدون ریسک برای کدهایشان، استراتژی بچینند.
بهبود سیستم‌های پشتیبان‌گیری و بازیابی اطلاعات نیز از دیگر اقدامات اعلام‌شده است.
منبع : پلتفرم کد نویسی
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام می‌کند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
با وجود تحریم‌ها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکت‌های اروپا
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
انتخابات میان‌دوره‌ای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
تب هوش مصنوعی در شرکت‌ها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل می‌کند و سلامت بیمار را به خطر می‌اندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پل‌های مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدال‌هایشان را می‌بینیم؟
کتاب «هم‌سفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمی‌گردد
کمبود جدی فضای آموزشی در مناطق حاشیه‌ای و پرتراکم شهری
دانش‌آموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
محرابی که در عید قربان تبریز به خون نشست؛ نخستین شهید محراب که بود؟
نمایشگاه جدید موزه «جستجوی ایران» افتتاح شد؛ بازخوانی ریشه‌های بحران هویت و گسست تاریخی
رمانی در ستایش قدیس مهربانی برنده جایزه بزرگ رمان آکادمی فرانسه شد
۱۷۳ هنرمند در جشنواره هنرهای تجسمی جوانان رقابت می‌کنند
تنوع دیدگاه‌ها معیار انتخاب در کارگاه نقاشی جشنواره تجسمی جوانان است
هومن کیایی و مجتبی رجبی‌معمار «داستان زندگی من» را روایت می‌کنند
فیلم‌های «بالاچ» و «سومری‌ها» اکران می‌شوند
معرفی اعضای هیئت انتخاب آثار جشنواره تئاتر خیابانی مریوان
تلاش برای کشف استعدادها؛ بخش بین‌المللی تئاتر نیاز به تقویت دارد
یک بازار سه روایت؛ بندرعباس در تهران تماشایی شد
متا خارج از دادگاه نوجوان شاکی را راضی به تسویه کرد
دانشگاه آزاد اسلامی در زمره ۱۰۰ دانشگاه برتر جهان قرار دارد
اجرای طرح فروش حضوری و مجازی کتاب‌فروشی‌ها در «بازار کتاب»
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
رویا میرعلمی مهمان آخرین قسمت «هم‌کلام» می‌شود
اپل لپ تاپ گرانقیمت با نمایشگر لمسی را معرفی کرد
نقشم در «نسخه آزمایشی» از من دور بود؛ سارقی که بعد از نامزدی توبه کرد
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
از بازتاب سخنان تلخ اکبر زنجان‌پور تا گرامی‌داشتی برای اکبر عبدی
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
«کافه سلطان»؛ روایت زندگی روزمره در سایه جنگ
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
گرم‌کن گرافنی ژاپنی در سه ثانیه گرم می‌شود
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
معرفی آثار ۲ بخش از جشنواره فیلم مقاومت
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
موسیقی بازی‌ها از قاب نمایشگر تا صحنه ارکسترال
علت فوت حمید علیدوستی چه بود؟
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
یک بازار سه روایت؛ بندرعباس در تهران تماشایی شد
تب هوش مصنوعی در شرکت‌ها هم داغ شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.