به گزارش ثریا - به نقل از «فیز»، مایکروسافت در گزارشی جدید از وجود شکافی جدی در مدلهای زبانی بزرگی که سرویسهای هوش مصنوعی را پشتیبانی میکنند، خبر داده است؛ شکافی که احتمالاً میتواند موضوع گفتوگوی کاربران را فاش کند.
پژوهشگران این شکاف را «Whisper Leak» نامیدهاند و دریافتهاند که تقریباً تمام مدلهای مورد آزمایش تحت تأثیر آن قرار گرفتهاند. هنگامی که کاربر با یک دستیار صوتی در موتورهای جستجو یا اپلیکیشنها چت میکند، اطلاعات از طریق قابلیت TLS (امنیت لایه انتقال) محافظت میشود؛ روشی که در بانکداری آنلاین نیز کاربرد دارد. این ارتباط ایمن به طور معمول اجازه نمیدهد افراد سودجو محتوای تایپشده توسط کاربران را بخوانند.
اما اکنون مایکروسافت کشف کرده است که متادیتا (شیوه انتقال پیامها در سراسر اینترنت) همچنان قابل مشاهده است. این شکاف، رمزگذاری را نقض نمیکند، اما از بخشهایی که در این فرآیند پنهان نمیشوند سوءاستفاده میکند.
پژوهشگران مایکروسافت در تحقیق خود، شیوهی آزمایش ۲۸ مدل زبانی بزرگ را برای شناسایی این شکاف توضیح دادهاند. آنها ابتدا دو مجموعه سؤال تهیه کردند: یکی شامل پرسشهایی درباره موضوعات حساس مانند پولشویی و دیگری شامل هزاران جستوجوی تصادفی و روزمره. در مرحلهی بعد، آنها الگوی ریتم دادهها را بهطور مخفیانه ثبت کردند.
سپس، برنامهای هوش مصنوعی را آموزش دادند تا بر اساس ریتم دادهها، بین موضوعات حساس و روزمره تمایز قائل شود. اگر این هوش مصنوعی میتوانست بدون خواندن متن رمزگذاریشده، موضوع گفتوگو را به درستی تشخیص دهد، وجود یک تهدید حریم خصوصی تأیید میشد.
نتایج نشان داد که هوش مصنوعی در بیشتر مدلها توانست موضوع گفتوگو را با دقت بیش از ۹۸ درصد حدس بزند. این نوع حمله میتواند حتی گفتوگوهای حساس را در ۱۰۰ درصد مواقع شناسایی کند، حتی اگر چنین گفتوگوهایی تنها در یک مورد از هر ۱۰ هزار محاوره رخ دهند. پژوهشگران سه روش مختلف را برای مقابله با این حملات آزمایش کردند، اما هیچیک از آنها نتوانستند حمله را بهطور کامل متوقف کنند.
منبع : . مدل های گفتگو
«بچه مردم» به جشنواره زلین جمهوری چک میرود
«صبح روز چهلم» روی آنتن میرود؛ روایتی از جنگ رمضان
مستند «عروس لبنان» آماده نمایش شد
از تثبیت اجاره بهای سالنهای کنسرت چه خبر؟
رابرت دنیرو دوباره برای اسکورسیزی بازی میکند
توزیع ۳۰ هزار وعده غذایی میان زائران در حرم حضرت عباس(ع)
تمدید ثبت نام در مرحله دوم آزمون دکتری ۱۴۰۵ در دانشگاه علامه
آخرین مهلت پذیرش دکتری استادمحور بدون آزمون دردانشگاه علم و صنعت ایران
اینستاگرام، فیس بوک و واتساپ پولی میشوند؟
ساعت ۱۲ امشب آخرین فرصت ثبت نام در کنکور ۱۴۰۵
فیلم کوتاه «تامینا» روایت انسان های گرفتار انتخاب
فرماندهی رهبر شهید در بحرانها چگونه بود؟
از شروع «طوفان» با بازی کنت برانا تا اجرای نمایشی جدید در کاخ هنر
احیای موزه هنرهای معاصر اهواز با رویداد «سرزمین خورشید»
«آدابالحرب و الشجاعه»، نثری استوار از عشق به صلح و آیین جنگ
آزمون جایگزین دانشآموختگان پزشکی خارج از کشور برگزار شد
گوگلپلی و اپاستور در دسترس قرار گرفت
منع ثبت نام در کنکور ۱۴۰۵ برای ۳ گروه از داوطلبان
ظرفیت ۶۸۰ نفری برای فلوشیپ پزشکی
اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی
توضیح وزیر علوم درباره حضوری شدن کلاسها و امتحانات دانشگاهها
کلاس های تحصیلات تکمیلی دانشگاه تهران حضوری شد
معرفی۱۳۶مؤسسه غیرمجاز اعزام دانشجو به مراجع قضایی
عید قربان؛ تجلی بندگی و عبور از تعلقات در مکتب ادیان ابراهیمی
به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکانپذیر نیست
برگزاری پویش یکماهه حفظ سوره فتح در آستانه ماه محرم
جشنواره تورنتو به استقبال «اودیسه» نولان میرود
کارگردان و عضو خانه تئاتر دچار حادثه شد
شکوه دعای امروز عرفه در مسجد مقدس جمکران
متن تشکر سید مجید موسوی از مهدی رسولی+عکس
پیرمرد بیرجرندی در اوج طوفان پرچم ایران را بر زمین نینداخت
«تیرانداز زبردست» با استقبال کودکان و نوجوانان به چاپ دوم رسید
تارا و رؤیای داشتن یک تلفن همراه شخصی
رمان «فرار از زنگ ورزش» برای نوجوانان منتشر شد
قصه گویی یک اسباببازی ارزان اما اثرگذار برای کودکان
ارسطوی پایتخت با یک سریال جدید به شبکه یک آمد
جناب خان و الیکا عبدالرزاقی به آنتن تلویزیون برگشتند
اسلامهراسی علیه زنان محجبه در اروپای سال ۲۰۲۵ افزایش یافته است
عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟
بازتاب گسترده پیام رهبر انقلاب به مناسبت برگزاری حج در رسانههای بین المللی
شرایط تغییر مدرسه در مرداد و شهریور اعلام شد
درخواست رئیس جمهور: زمینه حضور اساتید برجسته برای انتقال آموزشهای نوین فراهم شود
آییننامه «توسعه مشارکتهای مردمی از طریق تشکیل هیئت امنا در مدارس دولتی» تصویب شد
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
این دعای عرفه را بخوانید تا ببینید چرا پدران ما قرنهاست حسین حسین (ع) میگویند
روزه گرفتن در روز عرفه چه حکمی دارد؟
توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه
از ظهر تا غروب عرفه؛ این ساعتها را از دست ندهید
آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید
جریمه چند میلیون دلاری و سنگین در انتظار گوگل در اروپا
رئیسجمهور مصوبه بازگشایی اینترنت بینالملل را ابلاغ کرد
صفحه اینترنت پرو از سایت همراه اول حذف شد+عکس
روایت وزیر ارتباطات از بازگشایی اینترنت
۵۰ برج فناوری احداث میشوند: ۳ دانشگاه پایلوت زیست بومی نوآوری میشود
«سعی صفا و مروه» در حج نماد چیست؟
افزایش پذیرش دانشجوی شهریهپرداز در دانشگاه تربیت مدرس
تائید ۱۲ رئیس دانشگاه و رئیس شهرک علمی صنعتی اصفهان
جزئیات برگزاری امتحانات و کلاسهای دانشگاه تربیت مدرس و علم و صنعت اعلام شد
کلاسهای دانشگاه شریف تا اطلاع ثانوی مجازی شد
کارمند گوگل در پی اعتراض به همکاری با رژیم صهیونیستی اخراج شد
مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد
۱۷ هزار نسخه خطی کمنظیر و در معرض خطر دیجیتال سازی شد
«آدم با صدای بلند برای فرزندانش گریست» کتاب شد
کتابهایی خواندنی برای بچههای ایران
فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟
اگر خرمشهر آزاد نشده بود چه اتفاقی میافتاد؟
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
دیگر اثری از بخارهای قمر مشتری نیست
الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس
شما بودید که شرف را معنا کردید +عکس
محسن شریفیان به مدرسه میناب رفت+عکس
«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد
راهکارهای مدیریت اضطراب دانشآموزان در روزهای امتحان چگونه است؟
امتحانات نهایی دانشآموزان مجازی میشود؟
عملیات بیتالمقدس در ۲۰ کتاب درسی ثبت میشود
امام باقر (ع) احیاگر مرجعیت علمی اهل بیت و پیشگام مبارزه با تحریف دین
یک ماهواره جاسوسی در فضا شناسایی شد
تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد
ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان
تمهیدات جدید آموزشی در دانشگاه علم و صنعت اعلام شد
ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان
جزئیات امتحانات و کلاسهای ترم دوم در چند دانشگاه کشور اعلام شد
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
تمهیدات جدید آموزشی در دانشگاه علم و صنعت اعلام شد
دیگر اثری از بخارهای قمر مشتری نیست
الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس
شما بودید که شرف را معنا کردید +عکس
تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد
کلاسهای دانشگاه شریف تا اطلاع ثانوی مجازی شد
افزایش پذیرش دانشجوی شهریهپرداز در دانشگاه تربیت مدرس
یک ماهواره جاسوسی در فضا شناسایی شد
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
محسن شریفیان به مدرسه میناب رفت+عکس
فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟
امتحانات نهایی دانشآموزان مجازی میشود؟
«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد
«آدم با صدای بلند برای فرزندانش گریست» کتاب شد
کتابهایی خواندنی برای بچههای ایران
مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد
عملیات بیتالمقدس در ۲۰ کتاب درسی ثبت میشود
راهکارهای مدیریت اضطراب دانشآموزان در روزهای امتحان چگونه است؟
امام باقر (ع) احیاگر مرجعیت علمی اهل بیت و پیشگام مبارزه با تحریف دین
۵۰ برج فناوری احداث میشوند: ۳ دانشگاه پایلوت زیست بومی نوآوری میشود
روزه گرفتن در روز عرفه چه حکمی دارد؟
به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکانپذیر نیست
اگر خرمشهر آزاد نشده بود چه اتفاقی میافتاد؟
۱۷ هزار نسخه خطی کمنظیر و در معرض خطر دیجیتال سازی شد
توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه
آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید
اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.