به گزارش ثریا - به نقل از «فیز»، مایکروسافت در گزارشی جدید از وجود شکافی جدی در مدلهای زبانی بزرگی که سرویسهای هوش مصنوعی را پشتیبانی میکنند، خبر داده است؛ شکافی که احتمالاً میتواند موضوع گفتوگوی کاربران را فاش کند.
پژوهشگران این شکاف را «Whisper Leak» نامیدهاند و دریافتهاند که تقریباً تمام مدلهای مورد آزمایش تحت تأثیر آن قرار گرفتهاند. هنگامی که کاربر با یک دستیار صوتی در موتورهای جستجو یا اپلیکیشنها چت میکند، اطلاعات از طریق قابلیت TLS (امنیت لایه انتقال) محافظت میشود؛ روشی که در بانکداری آنلاین نیز کاربرد دارد. این ارتباط ایمن به طور معمول اجازه نمیدهد افراد سودجو محتوای تایپشده توسط کاربران را بخوانند.
اما اکنون مایکروسافت کشف کرده است که متادیتا (شیوه انتقال پیامها در سراسر اینترنت) همچنان قابل مشاهده است. این شکاف، رمزگذاری را نقض نمیکند، اما از بخشهایی که در این فرآیند پنهان نمیشوند سوءاستفاده میکند.
پژوهشگران مایکروسافت در تحقیق خود، شیوهی آزمایش ۲۸ مدل زبانی بزرگ را برای شناسایی این شکاف توضیح دادهاند. آنها ابتدا دو مجموعه سؤال تهیه کردند: یکی شامل پرسشهایی درباره موضوعات حساس مانند پولشویی و دیگری شامل هزاران جستوجوی تصادفی و روزمره. در مرحلهی بعد، آنها الگوی ریتم دادهها را بهطور مخفیانه ثبت کردند.
سپس، برنامهای هوش مصنوعی را آموزش دادند تا بر اساس ریتم دادهها، بین موضوعات حساس و روزمره تمایز قائل شود. اگر این هوش مصنوعی میتوانست بدون خواندن متن رمزگذاریشده، موضوع گفتوگو را به درستی تشخیص دهد، وجود یک تهدید حریم خصوصی تأیید میشد.
نتایج نشان داد که هوش مصنوعی در بیشتر مدلها توانست موضوع گفتوگو را با دقت بیش از ۹۸ درصد حدس بزند. این نوع حمله میتواند حتی گفتوگوهای حساس را در ۱۰۰ درصد مواقع شناسایی کند، حتی اگر چنین گفتوگوهایی تنها در یک مورد از هر ۱۰ هزار محاوره رخ دهند. پژوهشگران سه روش مختلف را برای مقابله با این حملات آزمایش کردند، اما هیچیک از آنها نتوانستند حمله را بهطور کامل متوقف کنند.
منبع : . مدل های گفتگو
علی (ع) الگوی کامل انسانِ قهرمان و تولد در جهانی نمادین
چطور فوتبال به سلاح مخفی پنتاگون تبدیل شد؟
تصاویر کاتالوگ بزرگترین تولیدکننده آنتیبادی جنجال آفرین شد
آیا واقعا میتوان گسلهای تهران را فعال کرد؟
هوش مصنوعی ایلان ماسک طی ۴ روز یک جهان را نابود کرد
زمانبندی امتحانات دانشگاه شهیدبهشتی به دلیل برگزاری آزمون ارشد تغییرکرد
غدیر حلقهای است که سنتهای مذهبی را به فرهنگ ملی پیوند میزند
ریاکاریهای بنی عباس کتاب و منتشر شد
جشن مردمی غدیر؛ دانشگاه تربیتی تمدنسازی
وزیر آموزش و پرورش: هیچ ابزاری نمیتواند جای کتاب و کتابخوانی را بگیرد
اتاق ماهواره دانشگاه علم و صنعت به موزه جنگ تبدیل میشود
حسین گل گلاب مردی که با این شعر در ایران ماندگار شد
روایتی از غدیر فراتر از یک واقعه تاریخی در کتاب «زیارت غدیریه»
اصل ماجرای شایعه استعفای پزشکیان چه بود؟
راهاندازی رشته «موسیقی ردیف دستگاهی» در دانشگاه استاد فرشچیان
ثبت نام کودکان این کشور در اینستاگرام و تیک تاک ممنوع شد
چرا توصیه شده زیارت جامعه کبیره بخوانیم؟ مداومت آیت الله بهجت
نسخه بنیاد علم برای توقف افت علمی دانشگاهها
خسارت جنگ به ۶۰ شرکت فناوری دانشگاه شریف
حسین سیب سرخی به سوگ مادر نشست
گردهمایی اندیشمندان جهان اسلام در نشست بین المللی غدیر، ولایت و وحدت برگزار میشود
نمایشگاه عکس فیلمهای احمدرضا درویش با عنوان «سرزمین خورشید» افتتاح شد
آهنگ جدید علیرضا قربانی برای ایران منتشر شد
امام هادی(ع) چگونه تهدید محاصره را تبدیل به فرصت ایجاد شبکه وکالت کرد؟
پرفروشترین کتابهای نمایشگاه مجازی کتاب هفتم مشخص شدند
خانم خبرنگار: نقد کتاب گمشده امروز رسانههاست
جامعه ایرانی با تکیه بر دینداری و مقاومت سرمایهای عظیم برای کشور است
آیتالله رشاد: فهم معارف ولایت، توفیقی از جانب خداست
استاد داوری اردکانی: بود و نبود فلسفهای که با نظم زندگی در هماهنگی نباشد، یکی است
بازخوانی و تحلیل پیامهای رهبر انقلاب در دانشگاه آزاد اسلامی
مهلت ثبتنام کارشناسی ارشد پردیس بینالمللی دانشگاه امیرکبیر تمدید شد
احتمال تغییر در تقویم آموزشی دانشگاهها برای مدیریت بحران انرژی قوت گرفت
ایران با ارتقای دو پلهای در رتبه ۶ جهانی مدارک علمی پراستناد قرار گرفت
برنامه کامل زمان بندی آزمونهای سال ۱۴۰۵ اعلام شد
اعتراف به ضعفهای کاخ سفید در دوران بایدن در کتاب خاطرات همسرش
چگونه یک بنای ایرانی، معماری غرب را دگرگون کرد؟
در اینجا کتابها بیشتر از اسباببازی فروش رفتند
استوری پرواز همای به یاد شهدای جنگ رمضان
تصویر دیده نشده از شهید نصرالله و سپهبد سلامی و محمد پاکپور
«دولتشهر تنها»، خرده روایت هایی از روستاهای کردنشین و محله های تهران
شاهنامه چگونه سیستم ایمنی جامعه ایرانی را تقویت میکند؟
وزیر ارشاد: تجمعات خیابانی اکسیر شجاعت مردم ایران را تکثیر کرد
کاظمی: پیشنهادات تاثیر قطعی معدل در کنکور به شورای عالی انقلاب فرهنگی ارائه شد
وزیر آموزش و پرورش: نهضت عدالت آموزشی فقط مدرسهسازی نیست
امسال تمامی مراحل ثبت نام دانش آموزان غیرحضوری انجام میشود
امتحانات پایههای اول تا دهم از امروز آغاز میشود
محکومیت ۱۲ میلیاردی فرزاد فرزین باطل شد
عروسی خون در «کشتارگاه» را ببینید
بازدیدهای به وقت ایران ۱۰ میلیونی شد
زمان دقیق برگزاری کنکور سراسری و ارشد ۱۴۰۵ اعلام شد
مدل جدید چت جی پی تی تبدیل به سلاح بانک های ژاپنی در مقابل هکرها شد
میز مطالعات اجتماعی جنگ در وزارت علوم تأسیس شد
بازگشت تدریجی به محیطهای دانشگاهی آغاز شد
وطندوستی در ذهنیت ایرانی اصل مسلم است
«بچه مردم» به جشنواره زلین جمهوری چک میرود
«صبح روز چهلم» روی آنتن میرود؛ روایتی از جنگ رمضان
مستند «عروس لبنان» آماده نمایش شد
از تثبیت اجاره بهای سالنهای کنسرت چه خبر؟
رابرت دنیرو دوباره برای اسکورسیزی بازی میکند
توزیع ۳۰ هزار وعده غذایی میان زائران در حرم حضرت عباس(ع)
تمدید ثبت نام در مرحله دوم آزمون دکتری ۱۴۰۵ در دانشگاه علامه
آخرین مهلت پذیرش دکتری استادمحور بدون آزمون دردانشگاه علم و صنعت ایران
اینستاگرام، فیس بوک و واتساپ پولی میشوند؟
ساعت ۱۲ امشب آخرین فرصت ثبت نام در کنکور ۱۴۰۵
فیلم کوتاه «تامینا» روایت انسان های گرفتار انتخاب
فرماندهی رهبر شهید در بحرانها چگونه بود؟
از شروع «طوفان» با بازی کنت برانا تا اجرای نمایشی جدید در کاخ هنر
احیای موزه هنرهای معاصر اهواز با رویداد «سرزمین خورشید»
«آدابالحرب و الشجاعه»، نثری استوار از عشق به صلح و آیین جنگ
آزمون جایگزین دانشآموختگان پزشکی خارج از کشور برگزار شد
گوگلپلی و اپاستور در دسترس قرار گرفت
منع ثبت نام در کنکور ۱۴۰۵ برای ۳ گروه از داوطلبان
ظرفیت ۶۸۰ نفری برای فلوشیپ پزشکی
اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی
توضیح وزیر علوم درباره حضوری شدن کلاسها و امتحانات دانشگاهها
کلاس های تحصیلات تکمیلی دانشگاه تهران حضوری شد
معرفی۱۳۶مؤسسه غیرمجاز اعزام دانشجو به مراجع قضایی
عید قربان؛ تجلی بندگی و عبور از تعلقات در مکتب ادیان ابراهیمی
به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکانپذیر نیست
برگزاری پویش یکماهه حفظ سوره فتح در آستانه ماه محرم
منع ثبت نام در کنکور ۱۴۰۵ برای ۳ گروه از داوطلبان
ساعت ۱۲ امشب آخرین فرصت ثبت نام در کنکور ۱۴۰۵
به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکانپذیر نیست
آخرین مهلت پذیرش دکتری استادمحور بدون آزمون دردانشگاه علم و صنعت ایران
برنامه کامل زمان بندی آزمونهای سال ۱۴۰۵ اعلام شد
ظرفیت ۶۸۰ نفری برای فلوشیپ پزشکی
اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی
کارگردان و عضو خانه تئاتر دچار حادثه شد
توضیح وزیر علوم درباره حضوری شدن کلاسها و امتحانات دانشگاهها
جشنواره تورنتو به استقبال «اودیسه» نولان میرود
بازگشت تدریجی به محیطهای دانشگاهی آغاز شد
عید قربان؛ تجلی بندگی و عبور از تعلقات در مکتب ادیان ابراهیمی
معرفی۱۳۶مؤسسه غیرمجاز اعزام دانشجو به مراجع قضایی
برگزاری پویش یکماهه حفظ سوره فتح در آستانه ماه محرم
آزمون جایگزین دانشآموختگان پزشکی خارج از کشور برگزار شد
زمان دقیق برگزاری کنکور سراسری و ارشد ۱۴۰۵ اعلام شد
میز مطالعات اجتماعی جنگ در وزارت علوم تأسیس شد
بازدیدهای به وقت ایران ۱۰ میلیونی شد
کلاس های تحصیلات تکمیلی دانشگاه تهران حضوری شد
اینستاگرام، فیس بوک و واتساپ پولی میشوند؟
توزیع ۳۰ هزار وعده غذایی میان زائران در حرم حضرت عباس(ع)
«بچه مردم» به جشنواره زلین جمهوری چک میرود
رابرت دنیرو دوباره برای اسکورسیزی بازی میکند
محکومیت ۱۲ میلیاردی فرزاد فرزین باطل شد
احتمال تغییر در تقویم آموزشی دانشگاهها برای مدیریت بحران انرژی قوت گرفت
وطندوستی در ذهنیت ایرانی اصل مسلم است
از تثبیت اجاره بهای سالنهای کنسرت چه خبر؟
«صبح روز چهلم» روی آنتن میرود؛ روایتی از جنگ رمضان
ایران با ارتقای دو پلهای در رتبه ۶ جهانی مدارک علمی پراستناد قرار گرفت
گوگلپلی و اپاستور در دسترس قرار گرفت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.