به گزارش ثریا - یک مطالعه اخیر از آزمایشگاه ایکارو(Icaro) با استفاده از یک ساختار شاعرانه، مدلهای زبانی بزرگ(LLM) را برای ارائه اطلاعات در مورد موضوعات ممنوعه مانند ساخت بمب هستهای آزمایش کرد و در نهایت معلوم شد که تنها چیزی که برای عبور از موانع امنیتی یک چتبات هوش مصنوعی نیاز دارید، کمی خلاقیت است.
به نقل از انگجت، در مطالعهای که توسط آزمایشگاه «ایکارو» با عنوان «شعر خصمانه به عنوان یک مکانیسم فرار از زندان تکچرخهای جهانی در مدلهای زبان بزرگ» منتشر شده است، محققان توانستند با بیان دستور LLMها با شعر، مکانیسمهای ایمنی مختلف آنها را دور بزنند.
طبق این مطالعه، عبارتهای شاعرانه به عنوان یک اپراتور فرار از زندان عمومی عمل میکند و نتایج نشان میدهد که میزان موفقیت کلی در تولید مطالب ممنوعه، از جمله هر چیزی که مربوط به ساخت سلاحهای هستهای، مطالب مربوط به سوءاستفادههای جنسی از کودکان و خودکشی یا خودآزاری، ۶۲ درصد است.
این مطالعه مدلهای زبانی بزرگ محبوب از جمله مدلهای ChatGPT شرکت OpenAI، هوش مصنوعی جمینای(Google) گوگل، هوش مصنوعی کلاد(Claude) شرکت آنتروپیک:(Anthropic) و بسیاری دیگر را آزمایش کرد.
محققان میزان موفقیت هر LLM را بررسی کردند، به طوری که مدلهای جمینای، دیپسیک(DeepSeek) و MistralAI به طور مداوم پاسخهایی ارائه میدادند، در حالی که مدلهای GPT-5 و Claude Haiku 4.5 کمترین احتمال را برای عبور از محدودیتهای خود داشتند.
محققان میگویند شعری که در این مطالعه استفاده شد، برای به اشتراک گذاشتن با عموم بسیار خطرناک است. با این حال، این مطالعه شامل یک نسخه رقیق شده بود تا نشان دهد که دور زدن موانع یک چتبات هوش مصنوعی چقدر آسان است.
محققان میگویند این کار احتمالاً آسانتر از آن چیزی است که ممکن است تصور شود و دقیقاً به همین دلیل است که ما محتاط هستیم.
منبع : هوش مصنوعی
پلیس چین با این عینک جاده ها را کنترل می کند
چینیها قطار را به هواپیما تبدیل کردند! | رکورد ساخت سریعترین قطار جهان شکست
شیائومی از یک ماشین لباسشویی ۱۴ کیلوگرمی پیشرفته مجهز به HyperOS رونمایی کرد
ارزانترین یخچالهای ایرانی بازار را بشناسید
الجی اولین تلویزیون Micro RGB خود را معرفی کرد
رم گران شد، گوشیهای ۱۶ گیگابایتی نایاب می شوند
مقایسه گلکسی تب S۱۱ اولترا و گلکسی تب S۱۰ اولترا
یافتن ذخائر طلا در عمق زمین راحت شد
عقبنشینی گوگل مقابل دیزنی
رباتها را مثل بازی موبایل کنترل کنید
کوچکترین رباتهای جهان متولد شدند
واکنش کاظمی به حواشی اخیر پخش موسیقی در مدارس
پیگیری مشکلات و مطالبات معلمان
هشدار نسبت به نفوذ ناهنجاریها در پوشش فعالیتهای فرهنگی و هنری مدارس
آلبوم تصاویر بارش شهابی جوزایی ۲۰۲۵
اعمال تغییرات جزئی در سند مواد پیشرفته
موشک اطلس ۵ ماهوارههای آمازون را راهی مدار زمین کرد
یک ایستگاه لرزهنگاری باند پهن وارد مدار مؤسسه ژئوفیزیک شد
عکس تلسکوپ فضایی هابل از یک کهکشان با دنباله گازی
استارتآپی که میخواهد انرژی را با لیزر از فضا به زمین منتقل کند
درس صبری که از امام روح الله باید بیاموزیم
آشوریها چه کسانی هستند؟
تفاله هوش مصنوعی لغت سال فرهنگ وبستر شد
آسفالت ساخته شده با جلبک ترک نمیخورد
موی انسان، ابزار جدید سنجش آلودگی هوا
جیمز وب اولین شواهد از دایناسورهای کیهانی را کشف کرد
رم گران شد، گوشیهای ۱۶ گیگابایتی نایاب می شوند
چرا قبل از اینکه ساعت زنگ بزند، از خواب بیدار میشویم
کشف ارتباط ژنتیکی میان حساسیت به صداهای روزمره و اختلالات روانی
تحصیل بیش از ۲۳ درصد دانشآموزان تهرانی در مدارس غیردولتی/تهران نیازمند ۵۰۰۰ کلاس درس جدید
آغاز ثبتنام آزمون پذیرش دانشجو معلم سال ۱۴۰۵
دانشآموزان در حال آماده شدن برای امتحانات نوبت اول/ ارزشیابی اوراق در اختیار مدارس است
نیروی انسانی مهمترین عامل اقتدار کشورها
اولین پرواز موفق پهپاد جاسوسی رادارگریز چین با سرعت ۱۰۰۰ کیلومتر در ساعت
هوش مصنوعی، نقشه میدان مغناطیسی خورشید را ترسیم کرد
هشدار درباره بزهدیدگی خاموش کودکان در فضای مجازی
چرخه معیوب غیر قابل شکستی که بیخوابی در مغز ایجاد میکند!
کاخ سفید پا به میدان هوش مصنوعی گذاشت
شناسایی قربانی انفجار بمب اتمی ژاپن پس از ۸ دهه
ثبتنام آزمون پذیرش دانشجو معلم سال ۱۴۰۵ آغاز شد
پذیرش دانشجویان خارجی با نظارت کامل معاونت آموزشی و رعایت ظرفیت
تشکیل کارگروه ویژه برای حل بحران مدارک دانشجویان پیام نور
نابودی یک درخت ۵۰۰۰ ساله با یک اشتباه شوک آور
پرندهای که ۱۰ ماه بدون توقف پرواز میکند!
کدام گوشی های سامسونگ بهروزرسانی جدید را دریافت می کنند؟
درباره پوکو X۸ پرو چه میدانیم؟
رصد دوز پرتو در نیروگاههای هستهای و مراکز پرتودرمانی با خوانشگر بومی
وظیفه بزرگِ انگشت کوچک پا / اگر نباشد چه میشود؟
ایران در فهرست کشورهای پیشرفته درمان با پیوند مدفوع (اینفوگرافیک)
روش قطعی افزایش عمر کشف شد؛ اما چرا کسی حاضر نیست آن را امتحان کند؟
آیا واقعاً کفش پاشنهبلند شکل پا را تغییر میدهد
راهحل جدید برای تعامل طبیعی و ایمن رباتها با انسان
کشف لایه سنگی ۲۰ کیلومتری زیر برمودا؛ راز ارتفاع غیرعادی کف اقیانوس فاش شد
انتخاب شهردار در مدارس استثنایی تهران برای نخستین بار
آگهی/ تفاوت میکروسکوپ بیولوژی دو چشمی و سه چشمی
تبدیل مدارس به کانونهای فعال برای معرفی پروژههای اثرگذار/ حضور ۷۰۰ شهردار مدرسه در تهران
بطحایی: تحقق عدالت آموزشی بدون نقشه راه در حد شعار باقی میماند
ثروتمندان به مدارس غیرانتفاعی روی آوردهاند/ نظام آموزش عمومی، مدرسه طبقات متوسط شده است
۱۰ فناوری برتر که در سال ۲۰۲۶ پیشرفت خواهند کرد
آلبوم تصاویر فضایی روزهای گذشته به انتخاب آژانس فضایی اروپا
ایلان ماسک آزمایش روبوتاکسی بدون راننده تسلا را تأیید کرد
استفاده از نانوذرات برای رهایش داروی ضدسرطان پستان
دشمنی که حتی نمیتوانست نام امام علی(ع) را تحمل کند
خداوند بزرگ چه نیازی به خلقت انسان داشت؟
چرا باید نماز بخوانیم؟
پاسخ خواندنی قرآن به کسانی که معاد را انکار میکنند
حدیث صریح و واضحی درباره ولایت فقیه داریم؟
ملکه چند روزه متولد میشود؟زمان دقیق تولد ملکه
آمپول لاغری ایران ساخت، رونمایی شد
آیا ما فقط از ۱۰ درصد توان مغز خود استفاده میکنیم؟
چرا در هوای سرد میلرزیم؟
جذابیت مرگبار پودر درخشان / درخشش پودر آبی چطور یک شهر را به کابوسی هستهای فرو برد؟
وعده تازه ایلان ماسک: استارلینک با سرعت گیگابیتی در راه است
افشای طراحی و تاریخ معرفی هواوی نوا ۱۵
سامسونگ چه در چنته دارد؟ برگ برنده گلکسی S۲۶ لو رفت
چرا شیشه ضدگلوله ترک میخورد اما نمیشکند؟
این خودرو لوکس فقط برای ۹۰ نفر در دنیا ساخته شده است
کروموزوم Y در حال نابودی است؟ حقیقت علمی درباره آینده مردان
اطلاعات خانوارهای کودکان بازمانده از تحصیل در اختیار آموزش و پرورش قرار میگیرد
امروز؛ آخرین مهلت ثبتنام در المپیادهای علمی کشور
هبة الله صفت کدام پیامبر بود؟
داوران فصل جدید حسینیه معلی معرفی شدند
باز شدن قفل درهای بسته با این ذکر مجرب
راز برآورده شدن حاجات از زبان استاد آیت الله بهجت
دعای همیشگیِ قنوت آیتالله العظمی خوئی
خداوند بزرگ چه نیازی به خلقت انسان داشت؟
اثر شگفتانگیز دعای مادر در حدیثی از پیامبر اسلام (ص)
دشمنی که حتی نمیتوانست نام امام علی(ع) را تحمل کند
آیا واقعا سادات برای فرار از ظلم خلفا به ایران آمدند؟
نامهای از بهشت از خدای متعال به بنده مؤمن
نماز خواندن با دندان طلا برای مردان صحیح است؟
بوسه حاج قاسم عزیز بر کف پای مادر
این فرمانده محبوب خود را پاسدار معمولی معرفی میکرد
آشوریها چه کسانی هستند؟
پاسخ خواندنی قرآن به کسانی که معاد را انکار میکنند
تینو صالحی سرگرد کلانتری ۱۱ شد
دستور اخلاقی پیامبر(ص) به حضرت زهرا (س)
مسعود کیمیایی به زودی ترخیص میشود
مرضیه برومند پس از ۱۶ سال مقابل دوربین رفت
آخرین خبر از وضعیت سلامتی هوشنگ مرادی کرمانی
شفاعت حضرت زهرا (س)، باعث گستاخی گنهکاران در ارتکاب گناه نمیشود؟
ماجرای بازبینی و اصلاح وصیتنامه امام خمینی(ره) چه بود؟
شیوهای که شهید ماهانی به مادرش احترام میگذاشت
حدیث صریح و واضحی درباره ولایت فقیه داریم؟
داستان یک رئیس جمهور شهید در لابهلای کتابها
چرا برحضرت فاطمه (س) صلوات میفرستیم؟
سینهزنی در جشن تولد امامان جایز است؟
جشن میلاد حضرت زهرا (س) هیئت کجا بریم؟
امان مردم غریب و بیامان خوش آمدی / دلیل خلقت زمین و آسمان خوش آمدی
مواجهه نویسندگان با امام رضا(ع) چگونه بود؟
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.