به گزارش ثریا - به نقل از وایرد، محققان امنیتی یک نقطهضعف در اتصالدهندههای (Connectors) شرکت اپنایآی کشف کردهاند که به چتجیپیتی اجازه میدهد به سرویسهای دیگر متصل شود. این نقص به هکرها امکان میدهد بدون نیاز به تعامل کاربر، اطلاعات حساسی را از گوگل درایو استخراج کنند.
مدلهای جدید هوش مصنوعی مولد، دیگر صرفاً چتباتهای تولید متن نیستند. این ابزارها میتوانند به دادههای شخصی شما متصل شوند و پاسخهای سفارشی ارائه دهند. برای مثال، چتجیپیتی میتواند به جیمیل یا تقویم مایکروسافت شما دسترسی پیدا کند. اما این اتصالات میتوانند مورد سوءاستفاده قرار گیرند و محققان نشان دادهاند که تنها یک سند آلوده برای این کار کافی است.مایکل بارگوری، در کنفرانس هکری بلک هت ر لاسوگاس، جزئیات این ضعف را فاش کرد. او با استفاده از یک حمله تزریق غیرمستقیم (Indirect Prompt Injection) به نام AgentFlayer نشان داد که چگونه میتوان اطلاعات محرمانه، مانند کلیدهای API، را از یک حساب گوگل درایو استخراج کرد.
بارگوری گفت: «کاربر در به خطر افتادن یا سرقت اطلاعاتش هیچ دخالتی ندارد. ما نشان دادیم که این حمله کاملاً بدون نیاز به کلیک است؛ فقط کافی است ایمیل شما را داشته باشیم و سند را با شما به اشتراک بگذاریم.»شرکت اپنایآی اوایل سال جاری میلادی(دی-بهمن1403) ابزار اتصالدهنده را بهصورت آزمایشی برای چتجیپیتی معرفی کرد که به کاربران امکان میدهد حداقل ۱۷ سرویس مختلف را به حسابهای خود متصل کنند. این سیستم به کاربران اجازه میدهد ابزارها و دادههای خود را به چتجیپیتی وارد کنند و فایلها را جستجو کرده یا به محتوای زنده ارجاع دهند.
چگونه این حمله کار میکند؟حمله از یک سند آلوده شروع میشود که به گوگلدرایو قربانی فرستاده میشود. بارگوری در آزمایش خود یک سند جعلی ساخت که به نظر میرسید یادداشتهای جلسهای خیالی با سم آلتمن، مدیرعامل اپنایآی است. داخل این سند، یک دستور مخرب ۳۰۰ کلمهای با فونت سفید و اندازه خیلی کوچک مخفی شده بود که انسان نمیتوانست آن را ببیند ولی هوش مصنوعی آن را میخواند.وقتی قربانی از چتبات میخواهد «آخرین جلسهام با سم را خلاصه کن»، دستور مخفی به هوش مصنوعی میگوید که نیازی به خلاصهکردن نیست. بهجای آن، باید دنبال کلیدهای API (رمزهای دسترسی) در گوگل درایو بگردد و آنها را به یک لینک اضافه کند. این لینک در واقع یک کد خاص است که به سرور هکرها متصل میشود و اطلاعات را از حساب قربانی میدزدد.کلیدها مثل یک کلید دسترسی عمل میکنند و برای شناسایی و تأیید هویت کاربران یا برنامهها در هنگام استفاده از خدمات آنلاین، مانند اتصال به سرورها یا دسترسی به دادهها، استفاده میشوند.اندی ون، یکی از مدیران گوگل، میگوید: «اگرچه این مشکل خاص به گوگل محدود نیست، اما نشان میدهد چرا توسعه حفاظتهای قوی در برابر حملات تزریق دستور اهمیت دارد» »این حمله نمونه دیگری از خطرات تزریق غیرمستقیم دستور در سیستمهای هوش مصنوعی است. محققان هشدار میدهند که با اتصال بیشتر سیستمها به مدلهای هوش مصنوعی، خطر واردکردن دادههای غیرقابلاعتماد افزایش مییابد. دسترسی به اطلاعات حساس میتواند راه را برای نفوذ هکرها به سایر سیستمهای یک سازمان باز کند. بارگوری میگوید: «اتصال مدلهای زبانی به منابع داده خارجی، قابلیتهای آنها را افزایش میدهد، اما این قدرت با خطرات بیشتری همراه است.»
منبع : هکرها
بازخوانی و تحلیل پیامهای رهبر انقلاب در دانشگاه آزاد اسلامی
مهلت ثبتنام کارشناسی ارشد پردیس بینالمللی دانشگاه امیرکبیر تمدید شد
احتمال تغییر در تقویم آموزشی دانشگاهها برای مدیریت بحران انرژی قوت گرفت
ایران با ارتقای دو پلهای در رتبه ۶ جهانی مدارک علمی پراستناد قرار گرفت
برنامه کامل زمان بندی آزمونهای سال ۱۴۰۵ اعلام شد
اعتراف به ضعفهای کاخ سفید در دوران بایدن در کتاب خاطرات همسرش
چگونه یک بنای ایرانی، معماری غرب را دگرگون کرد؟
در اینجا کتابها بیشتر از اسباببازی فروش رفتند
استوری پرواز همای به یاد شهدای جنگ رمضان
تصویر دیده نشده از شهید نصرالله و سپهبد سلامی و محمد پاکپور
«دولتشهر تنها»، خرده روایت هایی از روستاهای کردنشین و محله های تهران
شاهنامه چگونه سیستم ایمنی جامعه ایرانی را تقویت میکند؟
وزیر ارشاد: تجمعات خیابانی اکسیر شجاعت مردم ایران را تکثیر کرد
کاظمی: پیشنهادات تاثیر قطعی معدل در کنکور به شورای عالی انقلاب فرهنگی ارائه شد
وزیر آموزش و پرورش: نهضت عدالت آموزشی فقط مدرسهسازی نیست
امسال تمامی مراحل ثبت نام دانش آموزان غیرحضوری انجام میشود
امتحانات پایههای اول تا دهم از امروز آغاز میشود
محکومیت ۱۲ میلیاردی فرزاد فرزین باطل شد
عروسی خون در «کشتارگاه» را ببینید
بازدیدهای به وقت ایران ۱۰ میلیونی شد
زمان دقیق برگزاری کنکور سراسری و ارشد ۱۴۰۵ اعلام شد
مدل جدید چت جی پی تی تبدیل به سلاح بانک های ژاپنی در مقابل هکرها شد
میز مطالعات اجتماعی جنگ در وزارت علوم تأسیس شد
بازگشت تدریجی به محیطهای دانشگاهی آغاز شد
وطندوستی در ذهنیت ایرانی اصل مسلم است
«بچه مردم» به جشنواره زلین جمهوری چک میرود
«صبح روز چهلم» روی آنتن میرود؛ روایتی از جنگ رمضان
مستند «عروس لبنان» آماده نمایش شد
از تثبیت اجاره بهای سالنهای کنسرت چه خبر؟
رابرت دنیرو دوباره برای اسکورسیزی بازی میکند
توزیع ۳۰ هزار وعده غذایی میان زائران در حرم حضرت عباس(ع)
تمدید ثبت نام در مرحله دوم آزمون دکتری ۱۴۰۵ در دانشگاه علامه
آخرین مهلت پذیرش دکتری استادمحور بدون آزمون دردانشگاه علم و صنعت ایران
اینستاگرام، فیس بوک و واتساپ پولی میشوند؟
ساعت ۱۲ امشب آخرین فرصت ثبت نام در کنکور ۱۴۰۵
فیلم کوتاه «تامینا» روایت انسان های گرفتار انتخاب
فرماندهی رهبر شهید در بحرانها چگونه بود؟
از شروع «طوفان» با بازی کنت برانا تا اجرای نمایشی جدید در کاخ هنر
احیای موزه هنرهای معاصر اهواز با رویداد «سرزمین خورشید»
«آدابالحرب و الشجاعه»، نثری استوار از عشق به صلح و آیین جنگ
آزمون جایگزین دانشآموختگان پزشکی خارج از کشور برگزار شد
گوگلپلی و اپاستور در دسترس قرار گرفت
منع ثبت نام در کنکور ۱۴۰۵ برای ۳ گروه از داوطلبان
ظرفیت ۶۸۰ نفری برای فلوشیپ پزشکی
اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی
توضیح وزیر علوم درباره حضوری شدن کلاسها و امتحانات دانشگاهها
کلاس های تحصیلات تکمیلی دانشگاه تهران حضوری شد
معرفی۱۳۶مؤسسه غیرمجاز اعزام دانشجو به مراجع قضایی
عید قربان؛ تجلی بندگی و عبور از تعلقات در مکتب ادیان ابراهیمی
به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکانپذیر نیست
برگزاری پویش یکماهه حفظ سوره فتح در آستانه ماه محرم
جشنواره تورنتو به استقبال «اودیسه» نولان میرود
کارگردان و عضو خانه تئاتر دچار حادثه شد
شکوه دعای امروز عرفه در مسجد مقدس جمکران
متن تشکر سید مجید موسوی از مهدی رسولی+عکس
پیرمرد بیرجرندی در اوج طوفان پرچم ایران را بر زمین نینداخت
«تیرانداز زبردست» با استقبال کودکان و نوجوانان به چاپ دوم رسید
تارا و رؤیای داشتن یک تلفن همراه شخصی
رمان «فرار از زنگ ورزش» برای نوجوانان منتشر شد
قصه گویی یک اسباببازی ارزان اما اثرگذار برای کودکان
ارسطوی پایتخت با یک سریال جدید به شبکه یک آمد
جناب خان و الیکا عبدالرزاقی به آنتن تلویزیون برگشتند
اسلامهراسی علیه زنان محجبه در اروپای سال ۲۰۲۵ افزایش یافته است
عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟
بازتاب گسترده پیام رهبر انقلاب به مناسبت برگزاری حج در رسانههای بین المللی
شرایط تغییر مدرسه در مرداد و شهریور اعلام شد
درخواست رئیس جمهور: زمینه حضور اساتید برجسته برای انتقال آموزشهای نوین فراهم شود
آییننامه «توسعه مشارکتهای مردمی از طریق تشکیل هیئت امنا در مدارس دولتی» تصویب شد
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
این دعای عرفه را بخوانید تا ببینید چرا پدران ما قرنهاست حسین حسین (ع) میگویند
روزه گرفتن در روز عرفه چه حکمی دارد؟
توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه
از ظهر تا غروب عرفه؛ این ساعتها را از دست ندهید
آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید
جریمه چند میلیون دلاری و سنگین در انتظار گوگل در اروپا
رئیسجمهور مصوبه بازگشایی اینترنت بینالملل را ابلاغ کرد
صفحه اینترنت پرو از سایت همراه اول حذف شد+عکس
روایت وزیر ارتباطات از بازگشایی اینترنت
۵۰ برج فناوری احداث میشوند: ۳ دانشگاه پایلوت زیست بومی نوآوری میشود
«سعی صفا و مروه» در حج نماد چیست؟
آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد
دیگر اثری از بخارهای قمر مشتری نیست
کلاسهای دانشگاه شریف تا اطلاع ثانوی مجازی شد
«آدم با صدای بلند برای فرزندانش گریست» کتاب شد
به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکانپذیر نیست
افزایش پذیرش دانشجوی شهریهپرداز در دانشگاه تربیت مدرس
اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی
پیام آیتالله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی
منع ثبت نام در کنکور ۱۴۰۵ برای ۳ گروه از داوطلبان
ساعت ۱۲ امشب آخرین فرصت ثبت نام در کنکور ۱۴۰۵
فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟
آخرین مهلت پذیرش دکتری استادمحور بدون آزمون دردانشگاه علم و صنعت ایران
۵۰ برج فناوری احداث میشوند: ۳ دانشگاه پایلوت زیست بومی نوآوری میشود
ظرفیت ۶۸۰ نفری برای فلوشیپ پزشکی
کتابهایی خواندنی برای بچههای ایران
مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد
جشنواره تورنتو به استقبال «اودیسه» نولان میرود
از ظهر تا غروب عرفه؛ این ساعتها را از دست ندهید
اگر خرمشهر آزاد نشده بود چه اتفاقی میافتاد؟
روزه گرفتن در روز عرفه چه حکمی دارد؟
آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید
توضیح وزیر علوم درباره حضوری شدن کلاسها و امتحانات دانشگاهها
معرفی۱۳۶مؤسسه غیرمجاز اعزام دانشجو به مراجع قضایی
۱۷ هزار نسخه خطی کمنظیر و در معرض خطر دیجیتال سازی شد
عید قربان؛ تجلی بندگی و عبور از تعلقات در مکتب ادیان ابراهیمی
کارگردان و عضو خانه تئاتر دچار حادثه شد
عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟
شرایط تغییر مدرسه در مرداد و شهریور اعلام شد
جزئیات برگزاری امتحانات و کلاسهای دانشگاه تربیت مدرس و علم و صنعت اعلام شد
تائید ۱۲ رئیس دانشگاه و رئیس شهرک علمی صنعتی اصفهان
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.