به گزارش ثریا همزمان با رشد فراگیر فناوری هوش مصنوعی در کشور و نفوذ آن به زیرساختهای حیاتی، بحث امنیت و تابآوری مدلهای زبانی به چالشی راهبردی برای سازمانها تبدیل شده است. در همین راستا، جمعی از دانشآموزان نخبه و سمپادی کشور با طراحی پلتفرم «هفتخوان»، راهکاری بومی و مبتنی بر بازیسازی برای ارزیابی و تقویت امنیت مدلهای زبانی بزرگ (LLM) ارائه کردهاند که تلاش دارد با پر کردن شکافهای موجود، فضایی امن و تعاملی را برای تست نفوذ و آموزش تخصصی فراهم کند.
«هفتخوان»؛ معماری نوین برای کالبدشکافی امنیت هوش مصنوعی
طاها الهیبخش دانش پژوه المپیاد هوش مصنوعی و عضو تیم استارتاپی «هفتخوان» در گفتوگو با خبرنگار ما درباره ماهیت این پلتفرم توضیح داد و گفت: تیم ما متشکل از دانشآموزان پایه یازدهم رشته نرمافزار در دبیرستان علامه حلی است که پروژهای را در حوزه امنیت مدلهای زبانی تعریف کردهاند. پلتفرم آموزشی «هفتخوان»، بستری امن برای تمرین امنیت سایبری و تست نفوذ به مدلهای زبانی بزرگ است که کاربران را در قالب یک مسیر داستانی هفتمرحلهای، با الهام از هفتخوان رستم، با چالشهای امنیتی این حوزه آشنا میکند.
وی افزود: برخلاف نمونههای جهانی که عمدتاً فاقد روایتپردازی فرهنگی هستند، ما در این پلتفرم با ادغام داستانسرایی الهامگرفته از شاهنامه و مکانیزمهای پیشرفته بازی سازی، یادگیری امنیت هوش مصنوعی را از فرآیندی تئوریک و خشک به یک ماجراجویی تعاملی و ماندگار تبدیل کردهایم.
شبیه سازی یک کلاس آسیب پذیری واقعی در LLM ها
این عضو تیم استارتاپی مسیر هفت خوان در این پلتفرم را تشریح کرد و گفت: خوان اول تزریق دستور، خوان دوم نقض محدودیت ها، خوان سوم هالوسینشن، خوان چهارم سواستفاده از قابلیت های ایجتیکال، خوان پنجم سواستفاده از مدل های چندرسانه ای، خوان ششم تولید محتوای مخرب و خوان هفتم افشای اطلاعات حساس است و در هر محرله شبیه سازی یک کلاس آسیب پذیری واقعی در LLM ها صورت می گیرد. در هر یک از هفت خوان کاربر با شکستن قفل هر مرحله، ضمن کسب مهارت، به غنیسازی پایگاه داده حملات کمک میکند.
پدافند سایبری در عصر مدلهای زبانی؛ گذار از تئوری به سناریوهای عملیاتی
الهیبخش در تشریح ضرورت شکلگیری این پلتفرم اظهار داشت: طی سالهای اخیر، تمرکز اصلی در ایران معطوف به توسعه سرویسهای هوش مصنوعی بوده است؛ اما اکنون موضوع امنیت این سرویسها و جلوگیری از تبدیلشدن آنها به ریسک برای سازمانها، بهویژه در حوزه محتوای تولیدی، اهمیت یافته است. بسیاری از مدلهای تازهتیونشده (Fine-tuned) در ایران، بدون گذراندن آزمونهای امنیتی کافی و بدون وجود «گاردریلهای» مناسب، در معرض خطرات جدی هستند؛ خطراتی که میتواند از افشای اطلاعات حساس بانکی تا تولید محتوای مخرب را در بر بگیرد.
به گفته وی، مشکل اصلی در این حوزه، کمبود دادههای معتبر و بومی برای تنظیم مدلهای حفاظتی است. پلتفرم «هفتخوان» تلاش میکند از یکسو جامعهای از آزمونگران امنیتی را در محیطی شبیهسازیشده گردهم آورد و از سوی دیگر، بستری برای سازمانها فراهم کند تا مدلهای خود را تحت ارزیابیهای دقیق امنیتی قرار دهند.
زیستبوم تست نفوذ؛ راهکاری برای ارتقای تابآوری هوشمند
این عضو تیم استارتاپی با اشاره به گروههای هدف این محصول گفت: این پلتفرم برای دو گروه اصلی طراحی شده است؛ نخست، جوانان ۱۸ تا ۲۴ سال شامل دانشجویان و علاقهمندان به حوزه امنیت سایبری که به دنبال یادگیری عملی و مهارتمحور هستند. گروه دوم نیز سازمانها و تیمهای فنی، اعم از شرکتهای دانشبنیان و نهادهای دولتی هستند که با چالش کمبود دادههای پویا و بومی برای تست امنیت مدلهای خود مواجهاند.
الهیبخش درباره قابلیتهای فنی و ویژگیهای کلیدی این محصول افزود: «هفتخوان» به طور ویژه به نیازهای خاص در ایران توجه دارد و سناریوهایی مانند حملات به مدلهای ایجنتیکال بانکی، سوءاستفاده از مدلهای تولید تصویر، تشخیص شایعهپراکنی و مقابله با «هالوسینیشن» (توهم مدل) در پاسخهای حساس را شبیهسازی میکند.
ویژگیهای کلیدی پلتفرم هفتخوان
وی ویژگیهای کلیدی پلتفرم هفتخوان را حفظ حریم خصوصی و طراحی محیطی ایمن برای تمامی کاربران و سازمانها، تکمیل پایگاه داده حملات و روشهای نفوذ بومی، شبیهسازی ۷ مرحله مبتنی بر آسیبپذیریهای واقعی در مدلهای زبانی، گیمیفیکیشن (آموزش تعاملی با استفاده از سیستم لیدربورد و چالشهای گروهی) و محیطی امن برای تست حملات ایجنتیکال، بانکی و تولید محتوا برشمرد و گفت: در حال حاضر این پلتفرم در مرحله آزمایشی قرار دارد و برنامهریزیهای لازم برای توسعه همکاریهای سازمانی و انعقاد قراردادهای کسبوکار در حال انجام است.
۴۸ هزار بازمانده از تحصیل به مدرسه بازگشتند
توزیع رایگان شیر و تغذیه در مدارس دولتی ابلاغ شد
پیام تسلیت حجتالاسلام رستمی در پی ارتحال آیتالله شبیری زنجانی
۲۵۰۰ دانشجو در سراسر کشور وام شرافتی دریافت میکنند
لغو ممنوعیت انتقال دانشجویان کارشناسی ارشد و دکتری تخصصی علوم پزشکی
شرایط تخصیص خوابگاههای متأهلی اعلام شد
شیوه پرداخت یارانه دانشجویی تغذیه اعلام شد
عدم امکان تمدید زمان انتخاب رشته محل پنجاهوسومین آزمون دستیاری پزشکی
در آغوش فرشتهها
تحصن ۳ روزه اعضای هیئتعلمی در اعتراض به بلاتکلیفی کدهای استخدامی
آغاز حضوری کلاسهای دانشگاه شریف از ۴ مهرماه
سرپرست دانشگاه ملی مهارت منصوب شد
دبیرشورای عالی انقلاب فرهنگی درگذشت آیتالله شبیری زنجانی را تسلیت گفت
نگاهی به زندگی آیت الله شبیری زنجانی؛ مجاهدت در مسیر رشد حوزه
روایت پدر آیت الله شبیری زنجانی از آثار منع زکات و قحطی زنجان
تعطیلی حوزه علمیه نجف در پی درگذشت آیتالله العظمی شبیری زنجانی
هشتاد و دومین شعبه خودرو۴۵ در ستارخان تهران افتتاح شد
صدرنشینی پژوهشگاه ملی سرطان جهاددانشگاهی در بین مراکز تحقیقات پزشکی
سازماندهی اطلاعات ۴۰ هزار پایاننامه ایرانیان خارج از کشور در ایرانداک
سرپرست پارک علم و فناوری فارس منصوب شد
دلتنگ لبخند آقای شهیدیم...
دلیل تأخیر در بازنگری نقشه جامع علمی از زبان دبیر شورای عالی انقلاب فرهنگی
دارویی که تمام نشانگرهای سرطان را از بین برد
بارش بیشتر باران باعث از بین رفتن خشکسالی میشود؟
اولین پرواز مداری «استارشیپ» به تعویق افتاد
تصویر وایرال شده از سرباز اوکراینی
اپل، سامسونگ و گوگل متهم به نقض پتنت صدای فضایی
۸۴ دانشآموز و ۱۸ معلم تهرانی در دو جنگ اخیر به شهادت رسیدند
تغییر کتابهای درسی پایه اول؛ از فارسی تا ریاضی
وزیر آموزش و پرورش: دریافت وجه هنگام ثبتنام مدارس دولتی ممنوع است
۱۵۰۷ فضای آموزشی در جنگ دچار آسیب شد
«دلیران» اولین مستندمسابقه برای کودکان است/ پخش از شبکه کودک
انیمیشن ایرانی «سفینه نجات» امیدبخش است
رونمایی از یک صدای گمشده در کنسرت سازهای ایرانی بنیاد رودکی
راویان جنگ رمضان در رادیو صبا تجلیل میشوند
نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد
فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد
برگزیدگان بیستمین دوره مسابقات ربوکاپ آزاد ایران معرفی شدند
اوپن ای آی هم هک شد
تأکید رئیس دانشگاه تهران و سفیر پاکستان بر تقویت دیپلماسی علمی
ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاهها در مقاطع مختلف
اعلام ۱۰ اولویت پژوهشی برای اتصال ریلی چین به اروپا از مسیر ایران
فراخوان اولویتهای پژوهشی و فناوری سازمان سنجش آموزش کشور منتشر شد
کلاسهای دانشگاههای غیردولتی غیرانتفاعی حضوری برگزار میشود
روایت ۲۰۰ شب استقامت تاریخی در ایران
«انسان و حیوان»؛ گفتگوی کشیشی مسیحی و روحانی مسلمان درباره اخلاق
آیا «الگوریتمها» ما را از نو می سازند!؟ چالش انسان عصر دیجیتال
لیگهای صنعتی ربوکاپ از سال آینده راه اندازی میشود
عرضه دستاوردهای شرکتهای دانشبنیان در نمایشگاه فناوریهای پیشرفته چین
تأکید بر پرورش نسلی دانا، اخلاقمدار و پاسخگو به نیازهای جامعه
هوش چینی در یک وب سایت دولتی آمریکا
نخستین اختراع کشور در زمینه سلول زیستی خورشیدی
امام حسن عسکری(ع) چگونه شیعه را برای عصر غیبت آماده کرد؟
روایتی از نخستین شاهدان تولد امام زمان(عج)؛ مهمترین اقدام امام عسکری
افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا
مهلت مجدد ثبتنام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه
سال تحصیلی دانشگاهها از امروز آغاز شد
تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد
آغاز ثبتنام نوزدهمین همایش جامع «انتخاب شریف»
رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه میتواند بحرانساز باشد
یادداشت کمتردیدهشدهٔ رهبر شهید خطاب به جانبازان حزبالله جنایت پیجری
زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد
تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵
فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد
محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگهای اخیر بازنگری میشود
نگرشی نو به حفظ قرآن در مدارس، محور چهارمین همایش ایدهپردازان قرآنی
وطندوستی در نگاه اسلام فضیلت است یا تعصب؟
تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جانفدایان
حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جانفدا
حضور مقتدرانه بانوان کلاهکج در رزمایش جانفدا
حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا
فراخوان ارسال مقالات به همایش اربعین در مکتب امام شهید
خبرنگار آمریکایی: گازوییل در فلوریدا و تگزاس تمام شده است+عکس
براساس قواعد فقهی تنظیم گری فضای مجازی ضروری است
نرخ اجارهبهای خوابگاههای دانشجویی در سال جدید اعلام شد+عکس
جانفدایان مسلح به شمشیر و کاتانا
دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی
برگزاری صد و نود و ششمین شب شعر طنز «در حلقه رندان»
فانوس دریایی ادبیات کودک؛ ۸۲ سالگی خالق قصههای مجید
رمزگشایی از یک مشکل رایج اجتماع؛چرا یکدیگر را به آسانی قضاوت می کنیم؟
فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد
تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵
محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگهای اخیر بازنگری میشود
مهلت مجدد ثبتنام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه
افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا
سال تحصیلی دانشگاهها از امروز آغاز شد
رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه میتواند بحرانساز باشد
حمایت از فلسطین باعث حذف رپر مشهور شد
آغاز ثبتنام نوزدهمین همایش جامع «انتخاب شریف»
تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد
یادداشت کمتردیدهشدهٔ رهبر شهید خطاب به جانبازان حزبالله جنایت پیجری
از علیرضا طبایی «باید به آفتاب بگویم»
معرفی بهترین برنامههای تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد
حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا
روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا
ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاهها در مقاطع مختلف
نوجوان را دستِ کدام کتاب بسپاریم؟
فیلم ۱۰۰ جشنواره ایدههاست، روایت فیلمسازان جوان از جنگ در بستر زندگی
غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل میدهد؟
زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد
ادبیات پایداری روایتی مویرگی از زندگی است
دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی
فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد
تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جانفدایان
چه کسی گفته است قهرمانها فقط در خط مقدم ساخته میشوند؟
نرخ اجارهبهای خوابگاههای دانشجویی در سال جدید اعلام شد+عکس
نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد
مدادهایی که بعد از تمام شدن، سبز میشوند
حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جانفدا
حضور مقتدرانه بانوان کلاهکج در رزمایش جانفدا
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.