به گزارش ثریا همزمان با رشد فراگیر فناوری هوش مصنوعی در کشور و نفوذ آن به زیرساختهای حیاتی، بحث امنیت و تابآوری مدلهای زبانی به چالشی راهبردی برای سازمانها تبدیل شده است. در همین راستا، جمعی از دانشآموزان نخبه و سمپادی کشور با طراحی پلتفرم «هفتخوان»، راهکاری بومی و مبتنی بر بازیسازی برای ارزیابی و تقویت امنیت مدلهای زبانی بزرگ (LLM) ارائه کردهاند که تلاش دارد با پر کردن شکافهای موجود، فضایی امن و تعاملی را برای تست نفوذ و آموزش تخصصی فراهم کند.
«هفتخوان»؛ معماری نوین برای کالبدشکافی امنیت هوش مصنوعی
طاها الهیبخش دانش پژوه المپیاد هوش مصنوعی و عضو تیم استارتاپی «هفتخوان» در گفتوگو با خبرنگار ما درباره ماهیت این پلتفرم توضیح داد و گفت: تیم ما متشکل از دانشآموزان پایه یازدهم رشته نرمافزار در دبیرستان علامه حلی است که پروژهای را در حوزه امنیت مدلهای زبانی تعریف کردهاند. پلتفرم آموزشی «هفتخوان»، بستری امن برای تمرین امنیت سایبری و تست نفوذ به مدلهای زبانی بزرگ است که کاربران را در قالب یک مسیر داستانی هفتمرحلهای، با الهام از هفتخوان رستم، با چالشهای امنیتی این حوزه آشنا میکند.
وی افزود: برخلاف نمونههای جهانی که عمدتاً فاقد روایتپردازی فرهنگی هستند، ما در این پلتفرم با ادغام داستانسرایی الهامگرفته از شاهنامه و مکانیزمهای پیشرفته بازی سازی، یادگیری امنیت هوش مصنوعی را از فرآیندی تئوریک و خشک به یک ماجراجویی تعاملی و ماندگار تبدیل کردهایم.
شبیه سازی یک کلاس آسیب پذیری واقعی در LLM ها
این عضو تیم استارتاپی مسیر هفت خوان در این پلتفرم را تشریح کرد و گفت: خوان اول تزریق دستور، خوان دوم نقض محدودیت ها، خوان سوم هالوسینشن، خوان چهارم سواستفاده از قابلیت های ایجتیکال، خوان پنجم سواستفاده از مدل های چندرسانه ای، خوان ششم تولید محتوای مخرب و خوان هفتم افشای اطلاعات حساس است و در هر محرله شبیه سازی یک کلاس آسیب پذیری واقعی در LLM ها صورت می گیرد. در هر یک از هفت خوان کاربر با شکستن قفل هر مرحله، ضمن کسب مهارت، به غنیسازی پایگاه داده حملات کمک میکند.
پدافند سایبری در عصر مدلهای زبانی؛ گذار از تئوری به سناریوهای عملیاتی
الهیبخش در تشریح ضرورت شکلگیری این پلتفرم اظهار داشت: طی سالهای اخیر، تمرکز اصلی در ایران معطوف به توسعه سرویسهای هوش مصنوعی بوده است؛ اما اکنون موضوع امنیت این سرویسها و جلوگیری از تبدیلشدن آنها به ریسک برای سازمانها، بهویژه در حوزه محتوای تولیدی، اهمیت یافته است. بسیاری از مدلهای تازهتیونشده (Fine-tuned) در ایران، بدون گذراندن آزمونهای امنیتی کافی و بدون وجود «گاردریلهای» مناسب، در معرض خطرات جدی هستند؛ خطراتی که میتواند از افشای اطلاعات حساس بانکی تا تولید محتوای مخرب را در بر بگیرد.
به گفته وی، مشکل اصلی در این حوزه، کمبود دادههای معتبر و بومی برای تنظیم مدلهای حفاظتی است. پلتفرم «هفتخوان» تلاش میکند از یکسو جامعهای از آزمونگران امنیتی را در محیطی شبیهسازیشده گردهم آورد و از سوی دیگر، بستری برای سازمانها فراهم کند تا مدلهای خود را تحت ارزیابیهای دقیق امنیتی قرار دهند.
زیستبوم تست نفوذ؛ راهکاری برای ارتقای تابآوری هوشمند
این عضو تیم استارتاپی با اشاره به گروههای هدف این محصول گفت: این پلتفرم برای دو گروه اصلی طراحی شده است؛ نخست، جوانان ۱۸ تا ۲۴ سال شامل دانشجویان و علاقهمندان به حوزه امنیت سایبری که به دنبال یادگیری عملی و مهارتمحور هستند. گروه دوم نیز سازمانها و تیمهای فنی، اعم از شرکتهای دانشبنیان و نهادهای دولتی هستند که با چالش کمبود دادههای پویا و بومی برای تست امنیت مدلهای خود مواجهاند.
الهیبخش درباره قابلیتهای فنی و ویژگیهای کلیدی این محصول افزود: «هفتخوان» به طور ویژه به نیازهای خاص در ایران توجه دارد و سناریوهایی مانند حملات به مدلهای ایجنتیکال بانکی، سوءاستفاده از مدلهای تولید تصویر، تشخیص شایعهپراکنی و مقابله با «هالوسینیشن» (توهم مدل) در پاسخهای حساس را شبیهسازی میکند.
ویژگیهای کلیدی پلتفرم هفتخوان
وی ویژگیهای کلیدی پلتفرم هفتخوان را حفظ حریم خصوصی و طراحی محیطی ایمن برای تمامی کاربران و سازمانها، تکمیل پایگاه داده حملات و روشهای نفوذ بومی، شبیهسازی ۷ مرحله مبتنی بر آسیبپذیریهای واقعی در مدلهای زبانی، گیمیفیکیشن (آموزش تعاملی با استفاده از سیستم لیدربورد و چالشهای گروهی) و محیطی امن برای تست حملات ایجنتیکال، بانکی و تولید محتوا برشمرد و گفت: در حال حاضر این پلتفرم در مرحله آزمایشی قرار دارد و برنامهریزیهای لازم برای توسعه همکاریهای سازمانی و انعقاد قراردادهای کسبوکار در حال انجام است.
اعلام آخرین مهلت اعلام آمادگی دانشگاهها برای برگزاری آزمون سامفا
دانشجویان تحصیلات تکمیلی از مهر ماه صاحب «ردا کارت» میشوند
ابلاغ دستور جدید وزارت علوم درباره پذیرش دانشجوی استاد محور
هوش مصنوعی اپل را وادار به محدودسازی برنامه کشف باگ کرد
اربعین چیزی ورای یک رویداد صرف مذهبی است/اربعین و مسئله سرمایه اجتماعی
اعلام نتایج نهایی مرحله نخست آزمون حفظ تخصصی قرآن
ماجرای کتاب دیده نشده مشروطیت چه بود؟
فراخوان بیستوهشتمین همایش کتاب سال حوزه تمدید شد
خدمترسانی بخشهای مختلف حرم مطهر حضرت عباس(ع) به زائران اربعین حسینی
زیارت اربعین، نقشهراه عبور از حیرت به بصیرت
آمار و بیوانفورماتیک به دانشکده هوش مصنوعی علم و فرهنگ اضافه شد
کشف یک قمر ناشناخته با ساختاری عجیب در سیارک «نیسا»
روباتی با دستان اره ای به نجات انسانها می رود
اینجا کربلاست؛ جایی که قاب عکس محبوب، مرهمی است بر دلهای خسته و بیتاب
تقویم آموزشی نیمسال اول دانشگاه خوارزمی اعلام شد
برچسب جدید تشخیص بیماری را متحول می کند
بخشنامه سازمان سنجش درباره جزئیات آزمون بسندگی زبان عربی
اوپن ای آی بهای ترجیح کارمندان خارجی به آمریکایی را می پردازد
آخرین وضعیت امنیت سایبری زیرساختهای راهآهن کشور
رئیس دانشگاه هنر شیراز ابقا شد
فرماندهان امروز ما اساتید دانشگاه و صاحبنظران حوزه علم و فناوری هستند
متا، آنتروپیک، گوگل و اوپن ای آی به کاخ سفید احضار شدند
پلتفرم ایرانی تست حملات سایبری به AI ساخته شد
ماجرای کاروانی در مشایه کربلا که چند مرجع تقلید در آن حاضر بودند
خوانشی از حکمرانی شبکهای، مشارکت اجتماعی و ظرفیت تمدنسازی اربعین
نوای «یالثارات الحسین» در پیادهروی جاماندگان تهران/طنین عشق در پایتخت
اربعین یک «تجربه همسرنوشتی» ایجاد کرد/وحدت نیازمند مراقبت است
تکمیل بزرگترین مجتمع اسکان زائران اربعین در کربلا
برگزاری محفل انس با قرآن ویژه اربعین حسینی در حرم عبدالعظیم
اربعین، مانور تمدن سازی مهدوی؛ وقتی قدرت نرم از مرزها فراتر می رود
کلید نهایی پنجاه و سومین دوره آزمون دستیاری پزشکی منتشر شد
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
رومینگ اربعین ارزانتر شد/ توصیه به استفاده از بستههای ایرانی
حال علامه امینی وقتی از مسیر مشایه به نزدیک کربلا میرسید، منقلب میشد
گوشهای از دلدادگی موکبداران عراقی در پیادهروی اربعین
اولین زیارت اربعین مادران داغدیده میناب؛ روایتی از دلهایی که سوخت
مریم همتیان بازیگر سینما و تئاتر درگذشت
داریوش فرضیایی بازیگر سریال جدید سیمافیلم شد
گانگستر مشهور سینما از دنیا رفت
مراسم یادبود اکبر عبدی برگزار شد؛ پخش سریال اکبر عبدی بعد از صفر
لطفاً زبان فارسی را تکه پاره نکنید!
پویش بزرگ کتابخوانی اربعین حسینی با محوریت «آب هرگز نمیمیرد» برگزار میشود
نخهای نازک هوشمند علائم حیاتی بدن را رصد میکند
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
برافراشتهشدن پرچم ایران در بینالحرمین
راهاندازی نخستین مرکز دانش تخصصی بازیهای رایانهای در کشور
رکورد سریع ترین پهپاد الکتریکی جهان شکسته شد
اعتباربخشی؛ کلید ارتقای نظام آموزش عالی
اهدای جایزه چهره برجسته علمی و فرهنگی جهاد دانشگاهی به شهید لاریجانی
ابر خوشه استارلینک صاحب ۲۴ ماهواره جدید شد
۴ خانواده آمریکایی از متا، تیک تاک، اسنپ و گوگل شکایت کردند
همدستی هوش مصنوعی آمازون و والمارت با تقلب در کالا
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
تاسیسات آبی هفت ایالت آمریکا تحت حملات هک
صدرنشینی دانشگاه علوم پزشکی تهران در رتبهبندی سایمگو ۲۰۲۶
وقتی لذت سلفی غمِ سوگ را میبلعد؛ ۲ حکم قضایی به نفع سینماگران ایرانی
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
«مرد عنکبوتی» با رکوردشکنی از راه رسید؛ درخشش «روز کاملاً جدید»
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
ورود بیش از سه میلیون زائر خارجی به عراق از اول محرم
موشک اسپیس ایکس با ماه تصادف میکند
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
کاهش ۵۰ درصدی خوردگی تجهیزات نیروگاهی با فناوری نانوحباب
توسعه دیپلماسی فناوری ایران و اتیوپی با محوریت صادرات دانشبنیان
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
رئیس دانشگاه الزهرا کربلا: نهضت حسینی مرزهای طایفهای را شکست داد
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اسپیس ایکس ماهواره جاسوسی به مدار زمین برد
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
اقدامات گسترده برای آمادهسازی زیرساختهای خوابگاهی دانشجویان
شروط جدید وزارت بهداشت برای ایجاد رشته و دوره جدید علوم پزشکی
کلید نهایی پنجاه و سومین دوره آزمون دستیاری پزشکی منتشر شد
تأکید اوقاف بر تسهیل فرآیندها برای توسعه پروژههای مذهبی و درمانی
کلید اولیه آزمون ارتقای دستیاری منتشر شد/ مشارکت ۹۶ درصدی دستیاران
اعتباربخشی؛ کلید ارتقای نظام آموزش عالی
نگاهی به الهیات و اخلاق جنگ و صلح از منظر اسلام و مسیحیت در همایشی بین المللی
شب شهدای میناب در اربعین/ پدر دو شهید: من از کربلا به کربلا آمدم
محدودیت آموزش مجازی برای دانشجویان خارجی رفع میشود
چسب زیستی الهامگرفته از صدف حسگرهای پوشیدنی را مقاومتر کرد
مهلت ثبتنام آزمونهای علوم پزشکی تا ۲۰ شهریور تمدید شد
انتخاب واحد دانشگاه آزاد اسلامی از تاریخ ۲۴ مرداد آغاز میشود
عدم امکان ثبت درخواست صدور دانشنامه در تعطیلات تابستانی پیام نور
۴ خانواده آمریکایی از متا، تیک تاک، اسنپ و گوگل شکایت کردند
طلب خونخواهی قائد شهید امت روی دیوارنگاره میدان ولیعصر (عج)
گوگلپلی ابزارهای تأیید سن را برای توسعهدهندگان گسترش میدهد
اربعین ۱۴۰۵ با دو شعار مشترک امت اسلامی برگزار میشود
سه تصمیم راهبردی دولت برای تقویت نقشآفرینی دانشگاهها در حکمرانی کشور
اهدای جایزه چهره برجسته علمی و فرهنگی جهاد دانشگاهی به شهید لاریجانی
نگاهی به سه قسمت ابتدایی یک سریال؛ وقتی همه کوریم!
همدستی هوش مصنوعی آمازون و والمارت با تقلب در کالا
نخهای نازک هوشمند علائم حیاتی بدن را رصد میکند
ایران عضو سازمان جهانی همکاری هوش مصنوعی شد
بیعت زنان با زینب کبری؛ آغازِ احیای تمدنِ مهدوی به دستِ زن
سهروردی به صراحت خود را احیاکننده «حکمت خسروانی ایرانی» قلمداد می کرد
برافراشتهشدن پرچم ایران در بینالحرمین
موشک اسپیس ایکس با ماه تصادف میکند
اربعین زیر پوشش ارتباطی/ از رومینگ تا اینترنت رایگان در مسیر زائران
راهاندازی نخستین مرکز دانش تخصصی بازیهای رایانهای در کشور
صدرنشینی دانشگاه علوم پزشکی تهران در رتبهبندی سایمگو ۲۰۲۶
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.