به گزارش ثریا - به نقل از وایرد، محققان امنیتی یک نقطه‌ضعف در اتصال‌دهنده‌های (Connectors) شرکت اپن‌ای‌آی کشف کرده‌اند که به چت‌جی‌پی‌تی اجازه می‌دهد به سرویس‌های دیگر متصل شود. این نقص به هکرها امکان می‌دهد بدون نیاز به تعامل کاربر، اطلاعات حساسی را از گوگل درایو استخراج کنند.
مدل‌های جدید هوش مصنوعی مولد، دیگر صرفاً چت‌بات‌های تولید متن نیستند. این ابزارها می‌توانند به داده‌های شخصی شما متصل شوند و پاسخ‌های سفارشی ارائه دهند. برای مثال، چت‌جی‌پی‌تی می‌تواند به جیمیل یا تقویم مایکروسافت شما دسترسی پیدا کند. اما این اتصالات می‌توانند مورد سوءاستفاده قرار گیرند و محققان نشان داده‌اند که تنها یک سند آلوده برای این کار کافی است.مایکل بارگوری، در کنفرانس هکری بلک هت ر لاس‌وگاس، جزئیات این ضعف را فاش کرد. او با استفاده از یک حمله تزریق غیرمستقیم (Indirect Prompt Injection) به نام AgentFlayer نشان داد که چگونه می‌توان اطلاعات محرمانه، مانند کلیدهای API، را از یک حساب گوگل درایو استخراج کرد.
بارگوری گفت: «کاربر در به خطر افتادن یا سرقت اطلاعاتش هیچ دخالتی ندارد. ما نشان دادیم که این حمله کاملاً بدون نیاز به کلیک است؛ فقط کافی است ایمیل شما را داشته باشیم و سند را با شما به اشتراک بگذاریم.»شرکت اپن‌ای‌آی اوایل سال جاری میلادی(دی-بهمن1403) ابزار اتصال‌دهنده را به‌صورت آزمایشی برای چت‌جی‌پی‌تی معرفی کرد که به کاربران امکان می‌دهد حداقل ۱۷ سرویس مختلف را به حساب‌های خود متصل کنند. این سیستم به کاربران اجازه می‌دهد ابزارها و داده‌های خود را به چت‌جی‌پی‌تی وارد کنند و فایل‌ها را جستجو کرده یا به محتوای زنده ارجاع دهند.
چگونه این حمله کار می‌کند؟حمله از یک سند آلوده شروع می‌شود که به گوگل‌درایو قربانی فرستاده می‌شود. بارگوری در آزمایش خود یک سند جعلی ساخت که به نظر می‌رسید یادداشت‌های جلسه‌ای خیالی با سم آلتمن، مدیرعامل اپن‌ای‌آی است. داخل این سند، یک دستور مخرب ۳۰۰ کلمه‌ای با فونت سفید و اندازه خیلی کوچک مخفی شده بود که انسان نمی‌توانست آن را ببیند ولی هوش مصنوعی آن را می‌خواند.وقتی قربانی از چت‌بات می‌خواهد «آخرین جلسه‌ام با سم را خلاصه کن»، دستور مخفی به هوش مصنوعی می‌گوید که نیازی به خلاصه‌کردن نیست. به‌جای آن، باید دنبال کلیدهای API (رمزهای دسترسی) در گوگل درایو بگردد و آن‌ها را به یک لینک اضافه کند. این لینک در واقع یک کد خاص است که به سرور هکرها متصل می‌شود و اطلاعات را از حساب قربانی می‌دزدد.کلیدها مثل یک کلید دسترسی عمل می‌کنند و برای شناسایی و تأیید هویت کاربران یا برنامه‌ها در هنگام استفاده از خدمات آنلاین، مانند اتصال به سرورها یا دسترسی به داده‌ها، استفاده می‌شوند.اندی ون، یکی از مدیران گوگل، می‌گوید: «اگرچه این مشکل خاص به گوگل محدود نیست، اما نشان می‌دهد چرا توسعه حفاظت‌های قوی در برابر حملات تزریق دستور اهمیت دارد» »این حمله نمونه دیگری از خطرات تزریق غیرمستقیم دستور در سیستم‌های هوش مصنوعی است. محققان هشدار می‌دهند که با اتصال بیشتر سیستم‌ها به مدل‌های هوش مصنوعی، خطر واردکردن داده‌های غیرقابل‌اعتماد افزایش می‌یابد. دسترسی به اطلاعات حساس می‌تواند راه را برای نفوذ هکرها به سایر سیستم‌های یک سازمان باز کند. بارگوری می‌گوید: «اتصال مدل‌های زبانی به منابع داده خارجی، قابلیت‌های آن‌ها را افزایش می‌دهد، اما این قدرت با خطرات بیشتری همراه است.»
منبع : هکرها
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکت‌های اروپا
تب هوش مصنوعی در شرکت‌ها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل می‌کند و سلامت بیمار را به خطر می‌اندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پل‌های مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدال‌هایشان را می‌بینیم؟
کتاب «هم‌سفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمی‌گردد
کمبود جدی فضای آموزشی در مناطق حاشیه‌ای و پرتراکم شهری
دانش‌آموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
محرابی که در عید قربان تبریز به خون نشست؛ نخستین شهید محراب که بود؟
نمایشگاه جدید موزه «جستجوی ایران» افتتاح شد؛ بازخوانی ریشه‌های بحران هویت و گسست تاریخی
رمانی در ستایش قدیس مهربانی برنده جایزه بزرگ رمان آکادمی فرانسه شد
۱۷۳ هنرمند در جشنواره هنرهای تجسمی جوانان رقابت می‌کنند
تنوع دیدگاه‌ها معیار انتخاب در کارگاه نقاشی جشنواره تجسمی جوانان است
هومن کیایی و مجتبی رجبی‌معمار «داستان زندگی من» را روایت می‌کنند
فیلم‌های «بالاچ» و «سومری‌ها» اکران می‌شوند
معرفی اعضای هیئت انتخاب آثار جشنواره تئاتر خیابانی مریوان
تلاش برای کشف استعدادها؛ بخش بین‌المللی تئاتر نیاز به تقویت دارد
یک بازار سه روایت؛ بندرعباس در تهران تماشایی شد
متا خارج از دادگاه نوجوان شاکی را راضی به تسویه کرد
دانشگاه آزاد اسلامی در زمره ۱۰۰ دانشگاه برتر جهان قرار دارد
اجرای طرح فروش حضوری و مجازی کتاب‌فروشی‌ها در «بازار کتاب»
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
«کافه سلطان»؛ روایت زندگی روزمره در سایه جنگ
از بازتاب سخنان تلخ اکبر زنجان‌پور تا گرامی‌داشتی برای اکبر عبدی
رویا میرعلمی مهمان آخرین قسمت «هم‌کلام» می‌شود
نقشم در «نسخه آزمایشی» از من دور بود؛ سارقی که بعد از نامزدی توبه کرد
موسیقی بازی‌ها از قاب نمایشگر تا صحنه ارکسترال
معرفی آثار ۲ بخش از جشنواره فیلم مقاومت
اپل لپ تاپ گرانقیمت با نمایشگر لمسی را معرفی کرد
گرم‌کن گرافنی ژاپنی در سه ثانیه گرم می‌شود
آمازون دوباره کارمندانش را بیکار کرد
دست نوشته دانشجویان در بیعت با رهبر انقلاب
امکان تحصیل دانش آموزان ایرانی خارج از کشور فراهم است
اعلام لبیک شورای عالی انقلاب فرهنگی به رهنمودهای رهبر معظم انقلاب
ثبت نام بیش از ۳۰ هزار نفر در آزمون دکتری نیمه‌متمرکز سال ۱۴۰۶
اطلاعات تازه درباره سهمیه‌ها و تسهیلات آزمون دکتری نیمه متمرکز سال ۱۴۰۶
علیرضا استادی: جسارت بازی درنقش تاریخی را پیدا کردم
دست رد ۳ جشنواره بر فیلم جدید پل شریدر؛ «مبانی فلسفه» پسندیده نشد
رونمایی از «هزاردستان» نخستین انیمیشن «دست‌ساز» جهان
نمایشگاه «رد خط» به نیاوران رسید
بسیج دانش‌آموزی در بیش از نیمی از مدارس کشور حضور دارد
نقش سوره‌های کوتاه در آشنایی کودکان با قرآن
رونمایی از نرم‌افزار «ردا کارت» دانشجویی؛ زمان اجرا به زودی مشخص می‌شود
ظرفیت پذیرش پزشکی و دندانپزشکی در سال ۱۴۰۶ تعیین شد
فرهنگستان علوم ظرفیت خود را برای تحقق خیزش علمی کشور به کار می‌گیرد
جزییات افزایش تسهیلات رفاهی دانشجویان علوم پزشکی؛ افزایش وام ازدواج
«گوهر فضیلت»؛ بازخوانی میراث علمی و سلوک معنوی آیت‌الله مروارید
نوبت دوم آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۵ در ۳۳ رشته برگزار شد
رویا میرعلمی مهمان آخرین قسمت «هم‌کلام» می‌شود
کنار رفتن «حجاب ابزار» برای مستندسازی یک فرصت است؛ فرا رفتن از گزارش
نقشم در «نسخه آزمایشی» از من دور بود؛ سارقی که بعد از نامزدی توبه کرد
اپل لپ تاپ گرانقیمت با نمایشگر لمسی را معرفی کرد
لبیک نهادهای علمی به پیام رهبر انقلاب: برای خیزش علمی شتابان آماده‌ایم
حریم خصوصی در فضای مجازی؛ انتشار پیام و تصویر دیگران شرعا جایز است؟
از بازتاب سخنان تلخ اکبر زنجان‌پور تا گرامی‌داشتی برای اکبر عبدی
وقتی تصویر و صدای جعلی به نام حقیقت منتشر می‌شود؛حکم شرعی تغییر هوشمند
نحوه دریافت ارز از دانشجویان خارجی اعلام شد
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
فاطمیه فرصتی برای پیوند محبت فاطمی با فرهنگ وقف و خیر ماندگار
«کافه سلطان»؛ روایت زندگی روزمره در سایه جنگ
حجت‌الاسلام قمی: هیئت، سیاسی‌ترین و استکبارستیزترین محفل شیعه است
معرفی آثار ۲ بخش از جشنواره فیلم مقاومت
گرم‌کن گرافنی ژاپنی در سه ثانیه گرم می‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
موسیقی بازی‌ها از قاب نمایشگر تا صحنه ارکسترال
کد آیسیک چیست؟ راهنمای انتخاب و استعلام فعالیت اقتصادی | آرمیتاتکس
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
آمازون دوباره کارمندانش را بیکار کرد
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
یک بازار سه روایت؛ بندرعباس در تهران تماشایی شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.