به گزارش ثریا - به نقل از وایرد، محققان امنیتی یک نقطه‌ضعف در اتصال‌دهنده‌های (Connectors) شرکت اپن‌ای‌آی کشف کرده‌اند که به چت‌جی‌پی‌تی اجازه می‌دهد به سرویس‌های دیگر متصل شود. این نقص به هکرها امکان می‌دهد بدون نیاز به تعامل کاربر، اطلاعات حساسی را از گوگل درایو استخراج کنند.
مدل‌های جدید هوش مصنوعی مولد، دیگر صرفاً چت‌بات‌های تولید متن نیستند. این ابزارها می‌توانند به داده‌های شخصی شما متصل شوند و پاسخ‌های سفارشی ارائه دهند. برای مثال، چت‌جی‌پی‌تی می‌تواند به جیمیل یا تقویم مایکروسافت شما دسترسی پیدا کند. اما این اتصالات می‌توانند مورد سوءاستفاده قرار گیرند و محققان نشان داده‌اند که تنها یک سند آلوده برای این کار کافی است.مایکل بارگوری، در کنفرانس هکری بلک هت ر لاس‌وگاس، جزئیات این ضعف را فاش کرد. او با استفاده از یک حمله تزریق غیرمستقیم (Indirect Prompt Injection) به نام AgentFlayer نشان داد که چگونه می‌توان اطلاعات محرمانه، مانند کلیدهای API، را از یک حساب گوگل درایو استخراج کرد.
بارگوری گفت: «کاربر در به خطر افتادن یا سرقت اطلاعاتش هیچ دخالتی ندارد. ما نشان دادیم که این حمله کاملاً بدون نیاز به کلیک است؛ فقط کافی است ایمیل شما را داشته باشیم و سند را با شما به اشتراک بگذاریم.»شرکت اپن‌ای‌آی اوایل سال جاری میلادی(دی-بهمن1403) ابزار اتصال‌دهنده را به‌صورت آزمایشی برای چت‌جی‌پی‌تی معرفی کرد که به کاربران امکان می‌دهد حداقل ۱۷ سرویس مختلف را به حساب‌های خود متصل کنند. این سیستم به کاربران اجازه می‌دهد ابزارها و داده‌های خود را به چت‌جی‌پی‌تی وارد کنند و فایل‌ها را جستجو کرده یا به محتوای زنده ارجاع دهند.
چگونه این حمله کار می‌کند؟حمله از یک سند آلوده شروع می‌شود که به گوگل‌درایو قربانی فرستاده می‌شود. بارگوری در آزمایش خود یک سند جعلی ساخت که به نظر می‌رسید یادداشت‌های جلسه‌ای خیالی با سم آلتمن، مدیرعامل اپن‌ای‌آی است. داخل این سند، یک دستور مخرب ۳۰۰ کلمه‌ای با فونت سفید و اندازه خیلی کوچک مخفی شده بود که انسان نمی‌توانست آن را ببیند ولی هوش مصنوعی آن را می‌خواند.وقتی قربانی از چت‌بات می‌خواهد «آخرین جلسه‌ام با سم را خلاصه کن»، دستور مخفی به هوش مصنوعی می‌گوید که نیازی به خلاصه‌کردن نیست. به‌جای آن، باید دنبال کلیدهای API (رمزهای دسترسی) در گوگل درایو بگردد و آن‌ها را به یک لینک اضافه کند. این لینک در واقع یک کد خاص است که به سرور هکرها متصل می‌شود و اطلاعات را از حساب قربانی می‌دزدد.کلیدها مثل یک کلید دسترسی عمل می‌کنند و برای شناسایی و تأیید هویت کاربران یا برنامه‌ها در هنگام استفاده از خدمات آنلاین، مانند اتصال به سرورها یا دسترسی به داده‌ها، استفاده می‌شوند.اندی ون، یکی از مدیران گوگل، می‌گوید: «اگرچه این مشکل خاص به گوگل محدود نیست، اما نشان می‌دهد چرا توسعه حفاظت‌های قوی در برابر حملات تزریق دستور اهمیت دارد» »این حمله نمونه دیگری از خطرات تزریق غیرمستقیم دستور در سیستم‌های هوش مصنوعی است. محققان هشدار می‌دهند که با اتصال بیشتر سیستم‌ها به مدل‌های هوش مصنوعی، خطر واردکردن داده‌های غیرقابل‌اعتماد افزایش می‌یابد. دسترسی به اطلاعات حساس می‌تواند راه را برای نفوذ هکرها به سایر سیستم‌های یک سازمان باز کند. بارگوری می‌گوید: «اتصال مدل‌های زبانی به منابع داده خارجی، قابلیت‌های آن‌ها را افزایش می‌دهد، اما این قدرت با خطرات بیشتری همراه است.»
منبع : هکرها
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
تصویر منتشر شده از جاسک
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
رژیم چنج در آمریکا رخ داد+عکس
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
استارلینک پایان حکمرانی ارتباطات در ایران است؟
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
فاز دوم آمایش آموزش عالی به‌روز شد
داریوش فرهنگ گوینده یک مستند شد
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل می‌شود
اجرای کنسرت‌نمایش «فرهاد» در تماشاخانه نوفل لوشاتو
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
شکست ترامپ سوژه کارلوس لطوف شد
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
تأکید بر حمایت از ظرفیت‌های بومی امنیت سایبری
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام می‌کند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
با وجود تحریم‌ها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکت‌های اروپا
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
انتخابات میان‌دوره‌ای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
تب هوش مصنوعی در شرکت‌ها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل می‌کند و سلامت بیمار را به خطر می‌اندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پل‌های مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدال‌هایشان را می‌بینیم؟
کتاب «هم‌سفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمی‌گردد
کمبود جدی فضای آموزشی در مناطق حاشیه‌ای و پرتراکم شهری
دانش‌آموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
موج جدید هک سوپرمارکت‌های اروپا
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
قرآن از راز ماندگاری قدرت فرعون می‌گوید
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
گوگل به مدارس هشدار داد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.