به گزارش ثریا - به نقل از «فیز»، مایکروسافت در گزارشی جدید از وجود شکافی جدی در مدلهای زبانی بزرگی که سرویسهای هوش مصنوعی را پشتیبانی میکنند، خبر داده است؛ شکافی که احتمالاً میتواند موضوع گفتوگوی کاربران را فاش کند.
پژوهشگران این شکاف را «Whisper Leak» نامیدهاند و دریافتهاند که تقریباً تمام مدلهای مورد آزمایش تحت تأثیر آن قرار گرفتهاند. هنگامی که کاربر با یک دستیار صوتی در موتورهای جستجو یا اپلیکیشنها چت میکند، اطلاعات از طریق قابلیت TLS (امنیت لایه انتقال) محافظت میشود؛ روشی که در بانکداری آنلاین نیز کاربرد دارد. این ارتباط ایمن به طور معمول اجازه نمیدهد افراد سودجو محتوای تایپشده توسط کاربران را بخوانند.
اما اکنون مایکروسافت کشف کرده است که متادیتا (شیوه انتقال پیامها در سراسر اینترنت) همچنان قابل مشاهده است. این شکاف، رمزگذاری را نقض نمیکند، اما از بخشهایی که در این فرآیند پنهان نمیشوند سوءاستفاده میکند.
پژوهشگران مایکروسافت در تحقیق خود، شیوهی آزمایش ۲۸ مدل زبانی بزرگ را برای شناسایی این شکاف توضیح دادهاند. آنها ابتدا دو مجموعه سؤال تهیه کردند: یکی شامل پرسشهایی درباره موضوعات حساس مانند پولشویی و دیگری شامل هزاران جستوجوی تصادفی و روزمره. در مرحلهی بعد، آنها الگوی ریتم دادهها را بهطور مخفیانه ثبت کردند.
سپس، برنامهای هوش مصنوعی را آموزش دادند تا بر اساس ریتم دادهها، بین موضوعات حساس و روزمره تمایز قائل شود. اگر این هوش مصنوعی میتوانست بدون خواندن متن رمزگذاریشده، موضوع گفتوگو را به درستی تشخیص دهد، وجود یک تهدید حریم خصوصی تأیید میشد.
نتایج نشان داد که هوش مصنوعی در بیشتر مدلها توانست موضوع گفتوگو را با دقت بیش از ۹۸ درصد حدس بزند. این نوع حمله میتواند حتی گفتوگوهای حساس را در ۱۰۰ درصد مواقع شناسایی کند، حتی اگر چنین گفتوگوهایی تنها در یک مورد از هر ۱۰ هزار محاوره رخ دهند. پژوهشگران سه روش مختلف را برای مقابله با این حملات آزمایش کردند، اما هیچیک از آنها نتوانستند حمله را بهطور کامل متوقف کنند.
منبع : . مدل های گفتگو
تابآوری کودکان در جنگ را با داستان افزایش دهیم
برگزاری بزرگداشت ابوریحان بیرونی از سوی فلاسفه و اساتید
از نگاه امیرالمومنین(ع) راه مهار طمع انسان به قدرت و ثروت چگونه است؟
برگزاری آزمونهای تافل و GRE رسماً در ایران متوقف شد
اعلام جزئیات مرحله شفاهی آزمونهای دانشنامه تخصصی و فوق تخصصی پزشکی
ایران پرچمدار المپیاد فناوری نانو در سطح جهانی
محکومیت اقدام غیرقانونی آمریکا علیه متقاضیان آزمونهای بینالمللی
ارزش از کدنویسی به فهم مسئله منتقل میشود
ثبت نام آزمون پذیرش پزشکی از لیسانس ۱۴۰۵ آغاز شد/ اعلام جزئیات آزمون
واکنش وزیر علوم به تحریمهای علمی آمریکا
مهلت انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ تمدید شد
ویژه برنامههای هفته وحدت در تجمعات شبانه
افتتاح دفاتر مشاوره وقف در سراسر کشور
برگزاری رویداد رحمه للعالمین در باغ کتاب
دانشجویان خارجی جشنواره هنر و رسانه عهد همزیستی را برگزار میکنند
وقف بر پایه ایثار، نوعدوستی و دوراندیشی استوار است
آغاز انتخاب رشته داوطلبان آزمون کارشناسی ارشد سال ۱۴۰۵ دانشگاه آزاد
شرکت های فناوری خواستار افزایش دفاع سایبری در مقابل حملات هوش مصنوعی
نوار نانویی ۳ داروی مسکن را در کمتر از ۲ ثانیه آزاد میکند
قدرتمندترین موشک اروپا به پرواز درآمد
تاکید علمای مسلمان بر عملی کردن وحدت و ایستادگی در مقابل دشمن مشترک
نزاع حجاب، از ابتدا نزاع بر سر قدرت زن بود
البرز زیر بار کمبود مدرسه؛ مهاجرت چالش بزرگ مدارس البرز
توانمند سازی و گذار از الفبا رویکرد جدید سواد آموزی استان سمنان
جزئیات بورسیه تحصیلی صنعت و مشاغل در پذیرش کارشناسی ارشد ۱۴۰۵
غرامت ۱۸ میلیارد دلاری متا برای فرار از شکایت ایالتهای آمریکا
واکنش دانشگاه صنعتی خواجه نصیر به کناره گیری رئیس آن
نفوذ هکرهای چینی به ناسا و سنای آمریکا ردیابی شد
موبایلهای آینده چگونه تغییر میکنند؟
از خیالپردازی سرامیک تاشاعرانگی کاغذ در ماه هنر؛ تکثرِ بودن در پایتخت
محمد اصفهانی در دومین شب از «روایت رحمت» روی صحنه میرود
در طبیعت چه خبر است؟ یک مجموعه خواندنی برای کودکان
پرچم ایران روایتی از خون، باور، ایستادگی و تمنای رسیدن
تاکید بر نقش هنرستانها در مقابله با چالشهای جنگ اقتصادی
کاظمی: دشمن تلاش میکند تا دولتها را از صف مردم جدا کند
امین و مهدیه احمدزاده؛ خواهر و برادر شهید مینابی
پذیرش برگزیدگان المپیادهای جغرافیا و علوم زمین بدون کنکور ابلاغ شد
نتایج آزمون صلاحیت گروه پرستاری سال ۱۴۰۵ اعلام شد
جزئیات آزمون مرحله انفرادی هجدهمین المپیاد علمی دانشجویان علوم پزشکی
دفترچه انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ منتشر شد
آغاز انتخاب رشته داوطلبان مجاز آزمون کارشناسیارشد سال ۱۴۰۵ از امروز
سینمای زیرزمینی ایران بررسی شد؛ از بحران بازنمایی تا اقتصاد نامرئی
روایت دبیر انجمن سرود کانون پرورش فکری از برگزاری یک جشنواره ملی
«حبیبی یا نبی»؛ نغمهای برای پیامبر رحمت
ریدلی اسکات با «ستاره های سگی» بدترین فیلمش را ساخت
«کوری» از پروندههای قضایی تا ممیزی؛ این سریال مروج مشروبات الکلی است؟
رازهایی که در یک کشو پنهان است؛ چه کسی دستخط قاتل را تقلید کرد؟
برای پویایی صنف باید صدای جوانها را جدی گرفت؛ سکوت معنا دارد
نسخه ویژه نابینایان «روزی روزگاری» منتشر میشود
وقتی مستند، حافظه میراث ملی را بیدار میکند
ایرانیخوانی نمایشنامه «تاجماه» برگزار شد
«رویای نیمه شب» و ضرورت ساخت آثار تلویزیونی با موضوع مهدویت
وقف رقیب اقتصاد کشور نیست
بیستمین آزمون سراسری قرآن پس از وقفه ای طولانی برگزار میشود
دانشمندی که هنوز رازهایش کشف نشده است؛ کیمیای رازی در تاریخ علم
تجلیل از ۴۵ چهره شاخص در اولین دوره جایزه جهانی دیپلماسی فرهنگی
تاسیس ۱۳ مؤسسه جدید فرهنگی قرآن و عترت
برگزاری آزمون بخش معارفی چهل و نهمین دوره مسابقات سراسری قرآن اوقاف
شرقشناسی بدون ایرانشناسی، امکان یا امتناع؟
متن نوبتدهی آرایشگاه برای عید؛ نمونههایی برای جذب مخاطب
دانشگاهها با ورزش تابآوری دانشجویان را تقویت کنند
راهنمای ثبتنام پذیرفتهشدگان دکتری دانشگاه علامه طباطبائی اعلام شد
پایان رویای «تنگه ترامپ» و غروب توهمات طاغوت روزگار در اعماق خلیج فارس
بهنام تشکر کارآگاه علوی جدید شد
برگزاری بزرگداشت ابن سینا با حضور اندیشمندان ایرانی و خارجی
تجربههای جهانی بازسازی پساجنگ در ۱۲ جلد کتاب
تلقی رایج از موسسات خیریه غلط است؛ انتشار نخستین گزارش زیست بوم خیریه
برگزاری جشنهای میلاد پیامبر مهربانیها با محوریت خونخواهی رهبر شهید
رجبی دوانی: نیازمند «انقلابی درون انقلاب» هستیم
آیا بین «امر تاریخی» و «امر ایمانی» می توان تمایزی مفهومی ایجاد کرد؟
ابنشهرآشوب روایات را دستکاری میکرد؟
تشخیص زودهنگام سرطان سینه با طراحی یک نانوزیستحسگر در دانشگاه تهران
استکبار جهانی به زبالهدان تاریخ میپیوندد؛ خونخواهی رهبر شهید حق ماست
حمایت مجری معروف اخبار عراق، از خلیج فارس+عکس
جدیدترین تصویر از آیت الله سیستانی
صعود دانشجوی دانشگاه آزاد به بام ایران با یاد دانشمند شهید دکتر طهرانچی +عکس
آغاز کلاسهای نیمسال اول دانشگاه صنعتی امیرکبیر از ۲۸ شهریور
حمله هکرهای ایرانی یک واحد تولید برق را در انگلیس تعطیل کرد
شکایت آمریکا از تیک تاک با ۴۰۰ میلیون دلار تسویه شد
واکنش قالیباف به جنگ اقتصادی ترامپ و داردستهاش+عکس
دفترچه انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ منتشر شد
آغاز انتخاب رشته داوطلبان مجاز آزمون کارشناسیارشد سال ۱۴۰۵ از امروز
جزئیات آزمون مرحله انفرادی هجدهمین المپیاد علمی دانشجویان علوم پزشکی
نتایج آزمون صلاحیت گروه پرستاری سال ۱۴۰۵ اعلام شد
پذیرش برگزیدگان المپیادهای جغرافیا و علوم زمین بدون کنکور ابلاغ شد
«حبیبی یا نبی»؛ نغمهای برای پیامبر رحمت
روایت دبیر انجمن سرود کانون پرورش فکری از برگزاری یک جشنواره ملی
بیستمین آزمون سراسری قرآن پس از وقفه ای طولانی برگزار میشود
ریدلی اسکات با «ستاره های سگی» بدترین فیلمش را ساخت
سینمای زیرزمینی ایران بررسی شد؛ از بحران بازنمایی تا اقتصاد نامرئی
تاسیس ۱۳ مؤسسه جدید فرهنگی قرآن و عترت
وقف رقیب اقتصاد کشور نیست
برگزاری آزمون بخش معارفی چهل و نهمین دوره مسابقات سراسری قرآن اوقاف
شرقشناسی بدون ایرانشناسی، امکان یا امتناع؟
«کوری» از پروندههای قضایی تا ممیزی؛ این سریال مروج مشروبات الکلی است؟
تجلیل از ۴۵ چهره شاخص در اولین دوره جایزه جهانی دیپلماسی فرهنگی
دانشمندی که هنوز رازهایش کشف نشده است؛ کیمیای رازی در تاریخ علم
وقتی مستند، حافظه میراث ملی را بیدار میکند
ثبت نام آزمون پذیرش پزشکی از لیسانس ۱۴۰۵ آغاز شد/ اعلام جزئیات آزمون
از خیالپردازی سرامیک تاشاعرانگی کاغذ در ماه هنر؛ تکثرِ بودن در پایتخت
جزئیات بورسیه تحصیلی صنعت و مشاغل در پذیرش کارشناسی ارشد ۱۴۰۵
«رویای نیمه شب» و ضرورت ساخت آثار تلویزیونی با موضوع مهدویت
محمد اصفهانی در دومین شب از «روایت رحمت» روی صحنه میرود
تاکید علمای مسلمان بر عملی کردن وحدت و ایستادگی در مقابل دشمن مشترک
ایرانیخوانی نمایشنامه «تاجماه» برگزار شد
نسخه ویژه نابینایان «روزی روزگاری» منتشر میشود
برای پویایی صنف باید صدای جوانها را جدی گرفت؛ سکوت معنا دارد
رازهایی که در یک کشو پنهان است؛ چه کسی دستخط قاتل را تقلید کرد؟
مهلت انتخاب رشته آزمون کارشناسیارشد سال ۱۴۰۵ تمدید شد
محکومیت اقدام غیرقانونی آمریکا علیه متقاضیان آزمونهای بینالمللی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.