به گزارش ثریا - گوگل در یک گزارش فنی فاش کرد که مدل «جمینای ۲.۵ فلش»(Gemini 2.5 Flash) آن نسبت به «جمینای ۲.۰ فلش» بیشتر ممکن است متنی را تولید کند که نقضکننده دستورالعملهای ایمنی آن باشد. جمینای ۲.۵ فلش در دو معیار «ایمنی متن به متن» و «ایمنی تصویر به متن» به ترتیب ۴.۱ درصد و ۹.۶ درصد پسرفت داشت.
به نقل از تکرانچ، ایمنی متن به متن، میزان نقض دستورالعملهای گوگل توسط یک مدل را در صورت دریافت پیام بررسی میکند. این در حالی است که ایمنی تصویر به متن، میزان پایبندی مدل به این مرزها را هنگام دریافت پیام با استفاده از یک تصویر ارزیابی میکند. هر دو آزمایش، خودکار هستند و تحت نظارت انسان انجام نمیشوند. سخنگوی گوگل در بیانیهای که از طریق ایمیل فرستاده شد، تأیید کرد که جمینای ۲.۵ فلش عملکرد ضعیفتری را در زمینه ایمنی تبدیل متن به متن و تصویر به متن دارد.
این نتایج شگفتانگیز در حالی به دست آمد که شرکتهای هوش مصنوعی در تلاش هستند تا مدلهای خود را سهلگیرانهتر کنند. به عبارت دیگر، احتمال امتناع از پاسخ به موضوعات بحثبرانگیز یا حساس را کاهش دهند. شرکت «متا»(Meta) در جدیدترین نسخه مدلهای «لاما»(Llama) اعلام کرد مدلها را طوری تنظیم کرده است که برخی دیدگاهها را بر برخی دیگر ترجیح ندهند و به درخواستهای سیاسی مورد بحثتر پاسخ دهند. شرکت «اوپنایآی»(OpenAI) اوایل سال جاری میلادی اعلام کرد مدلهای آینده را طوری تنظیم خواهد کرد که موضع نداشته باشند و دیدگاههای متعددی را درباره موضوعات بحثبرانگیز ارائه دهند.
این تلاشهای سهلگیرانه گاهی اوقات نتیجه معکوس دادهاند. روز دوشنبه گزارش شد که مدل پیشفرض «چتجیپیتی»(ChatGPT) شرکت اوپنایآی به افراد زیر سن قانونی امکان میدهد تا گفتوگوهای نامناسبی را داشته باشند. اوپنایآی این رفتار را ناشی از یک مشکل دانست.
براساس گزارش فنی گوگل، جمینای ۲.۵ فلش که هنوز در مرحله پیشنمایش است، دستورالعملها را از جمله دستورالعملهایی که از حدود مشکلساز عبور میکنند، با دقت بیشتری نسبت به جمینای ۲.۰ فلش دنبال میکند. این شرکت ادعا کرد که این مشکلات را میتوان تا حدی به مثبتهای کاذب نسبت داد، اما همچنین اذعان داشت که جمینای ۲.۵ فلش گاهی اوقات وقتی صریحا از آن خواسته شود، محتوای نقضکننده محدودیت را تولید میکند.
منبع : گوگل
زمان برگزاری آزمون زبان انگلیسی تولیمو تغییر کرد
سیره عملی میرزا جواد آقا ملکی تبریزی، مبتنی بر اصل «شکستن منیت» بود
افتتاح مسجد السلام در امارات با ظرفیت ۴ هزار نمازگزار
بنیامیه، نخستین و وحشتناکترین «خصولتی» تاریخ اسلام
بذر انحراف مجاهدین از سال۴۴ کاشته شد/نقش ساواک و زندان در تعمیق انحراف
شیخ حسین انصاریان: چشمی که بر حسین (ع) گریه کند در قیامت گریان نیست
افبیآی شهر کامل با بیمارستان، هتل و نیروگاه ساخت تا حملات سایبری را تمرین کند
بررسی ظرفیتهای هوش مصنوعی برای ارتقای خدمات زائران در نشست مشترک معاونت علمی و آستان قدس رضوی
ممنوع شدن هوش مصنوعی برای دانش آموزان ابتدایی نروژی
ناسا یک رصدخانه فضایی را در میانه زمین و آسمان به ارتفاع بالاتر میبرد
مصوبات جدید فرصتهای تحقیقاتی خارج از کشور دکتری ابلاغ شد
زنان بیشترین داوطلبان آزمون سمپاد/ نتایج اوایل مرداد اعلام میشود
سریال جدید «سرخدار» در راه آنتن: عمار تفتی به تلویزیون بازگشت
کشف نشانههای اولیه افسردگی در چشم کودکان
دانشمند ایرانی: مغز ما برای این همه خبر بد طراحی نشده است
تنش در ایستگاه فضایی بالا گرفت: ناسا از فضانوردانش خواست پناه بگیرند
محققان هشدار دادند: ایجاد نقاط داغ آلودگی در تنگه هرمز به دلیل ترافیک دریایی
یکی از این ستارههای دوقلو یک سیاره فراخورشیدی را بلعیده است
میلیاردرهای حوزه فناوری راز جوانی ابدی را کشف کردهاند؟
تصویری از یکی از شهدای کوچک امروز لبنان
وزیر آموزش و پرورش: بهرهبرداری از ۲۰۰ تا ۲۵۰ کلاس درس جدید در خراسان رضوی
معاون تربیتبدنی و سلامت: یک میلیون دانشآموز سفیر ایمنی و کمکهای اولیه شدند
۵۰۰ هزار دانشآموز زیر چتر کارت نشاط قرار گرفتند
آزمون مدارس سمپاد و نمونه دولتی با بیش از نیم میلیون داوطلب برگزار شد
پرداخت حقوق فرهنگیان بدون تاخیر انجام میشود
قصهای خواندنی برای کودکان: وقتی روباه جنگل را بههم ریخت
حسن طهرانیمقدم پدر موشکی ایران چگونه با نمیشودها مبارزه کرد؟
از بچههای میناب تا ناوچه دنا و انستیتو همه در مستندهای جدید جنگی
مهرانه مهین ترابی پس از ۲۳ سال دوری از تئاتر به صحنه باز میگردد
سریالهای جدید برای پخش دوبله شدند
مادران برای کوچکترین شهید کربلا لالایی خواندند
راز زنده ماندن مومنان در برزخ؛ هدایت، مشروط به ولایت است
روایت حدادعادل از ویژگیهای آیت الله مجتبی خامنهای
ماجرای خواندنی دیدار دکتر شریعتی و علامه جعفری
حجت الاسلام پناهیان: شفافیت نامه اخیر رهبری نشانه قدرت جمهوری اسلامی است
تمدید مهلت پذیرش دانشجویان بینالمللی در دانشگاه علامه طباطبائی
قابلیت جدید واتساپ: پیام متنی یکبار قابل مشاهده به واتساپ میآید
شرکت اپل از گران شدن محصولات خود خبر داد
ساماندهی برنامههای هوش مصنوعی با محوریت تولید داخلی
هشدار وزیر علوم: هوش مصنوعی بدون اخلاق، پیشرفتهترین ابزار ظلم میشود
دادگاه در دهلی نو درخواست بازگشایی تلگرام را رد کرد
رشد استفاده از VPN در بعضی کشورهای اروپایی با قوانین جدید
انحصار قدرت و ثروت در الیگارشی اموی: از خلافت تا سلطنت
حجتالاسلام قمی: وحدت یعنی همبستگیِ آرا و سلایق متفاوت حول محور امام
راز زنده ماندن مؤمنان در برزخ تمسک به امام حق و ولی الله الاعظم است
اعلام مجموعههای امتحانی کنکور کارشناسی ارشد ۱۴۰۶
بازخوانی پنج فرمان راهبردی امام رضا (ع) در سلوک عاشورایی
فلسفه اسلامی و غفلت از «باید و نباید»های اجتماعی؛ یک شکاف تاریخی
اقتصاد فقط نان نیست؛ سلاح علی(ع) برای امنیت ملی و استقلال در برابر دشمنان
انتشار آثار میانرشتهای مسئلهمحور؛ اولویت جدید گروه سیاستپژوهی علوم انسانی
تغییر زمان آزمونهای کشوری و دانشگاهی به دلیل مراسم وداع و تشییع رهبر شهید
احیای اخلاق در زندگی فردی و اجتماعی با بازخوانی فلسفه عاشورا
بنی امیه چگونه به قدرت رسید؟/ تبارشناسی ۹۱ سال حکومت استبدادی
دعوت از عاشقان اهل بیت برای شرکت در طرح توسعه حرم امام حسین (ع)
منطقه زینبیه استانبول سیاهپوش محرم شد؛ آغاز برنامه های عزاداری
رئیس سازمان فضایی ایران خبر داد: بهکارگیری ظرفیتهای ویژه ماهوارهای در تشییع رهبر شهید انقلاب
زنگ میراث فرهنگی و موزه در مدارس نواخته میشود
معافیت برخی المپیادها از کنکور و همزمانی آزمونها؛ همچنان چالش اصلی دانشآموزان
قابل توجه دانش آموزان: برنامه جدید امتحانات نهایی اعلام شد+جدول
هشدار به مدارس غیردولتی؛ با هرگونه دریافت شهریه غیرقانونی برخورد میشود
دبیر شورای عالی انقلاب فرهنگی: اختیار پذیرش دانشجویان به دانشگاهها واگذار شود
حاج اکبر مولایی در اولین شب از ماه محرم آسمانی شد
روایت شیخ حسین انصاریان از سه حقی که خداوند بر انسانها نهاده است
تجمعات خیابانی و مراسم ویژه در میادین تهران برای عزاداری محرم
مصرفگرایی؛ پارادایم فرهنگی که تمام زندگی بشر را تسخیر کرد
شروع برنامه ملی «میناب ۱۵۶»؛ بورسیه تحصیلی برای دانشجویان مستعد کمبرخوردار
علی دایی به دیدار اکبر عبدی رفت+عکس
خروج هواپیماهای سوخترسان آمریکایی از فلسطین اشغالی پس از تفاهم با ایران
امیرحسین مدرس برنامه نغمههای حسینی را به مناسبت ماه محرم اجرا میکند
منوچهر هادی: درآوردن سکانس صدای رئیس جمهور در سریال ۴۸ ساعت وقت گرفت
دیوارنگاره میدان ولیعصر (عج) حال و هوای محرمی گرفت
نمایش تابوت عهد در تالار سایه به روی صحنه میرود
پانتهآ پناهیها در نمایش جدید صابر ابر به روی صحنه میرود
زمان تشییع پیکر بهروز رضوی اعلام شد
مساجد پایگاههایی برای شناسایی استعدادهای درخشان
به یاد کودکان میناب در جام جهانی فوتبال
اخلاص و پیامرسانی؛ کلید ماندگاری عاشورا
نگاهی به پیشینه تاریخی ایرانیان در عزاداری محرم
شبکههای اجتماعی برای زیر ۱۶ سالهها ممنوع شد
تمرکز بر امنیت سایبری و تابآوری شبکه در ایام تشییع رهبر شهید
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
دانشگاه علوم پزشکی تهران رتبه ۷۰۱ جهان را کسب کرد؛ همچنان صدرنشین دانشگاههای ایران
شروع برنامه ملی «میناب ۱۵۶»؛ بورسیه تحصیلی برای دانشجویان مستعد کمبرخوردار
حاج اکبر مولایی در اولین شب از ماه محرم آسمانی شد
تغییر زمان آزمونهای کشوری و دانشگاهی به دلیل مراسم وداع و تشییع رهبر شهید
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
تجمعات خیابانی و مراسم ویژه در میادین تهران برای عزاداری محرم
بنی امیه چگونه به قدرت رسید؟/ تبارشناسی ۹۱ سال حکومت استبدادی
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
نگاهی به پیشینه تاریخی ایرانیان در عزاداری محرم
منوچهر هادی: درآوردن سکانس صدای رئیس جمهور در سریال ۴۸ ساعت وقت گرفت
دبیر شورای عالی انقلاب فرهنگی: اختیار پذیرش دانشجویان به دانشگاهها واگذار شود
زنگ میراث فرهنگی و موزه در مدارس نواخته میشود
انتشار آثار میانرشتهای مسئلهمحور؛ اولویت جدید گروه سیاستپژوهی علوم انسانی
علی دایی به دیدار اکبر عبدی رفت+عکس
معافیت برخی المپیادها از کنکور و همزمانی آزمونها؛ همچنان چالش اصلی دانشآموزان
دعوت از عاشقان اهل بیت برای شرکت در طرح توسعه حرم امام حسین (ع)
اعلام مجموعههای امتحانی کنکور کارشناسی ارشد ۱۴۰۶
به یاد کودکان میناب در جام جهانی فوتبال
خروج هواپیماهای سوخترسان آمریکایی از فلسطین اشغالی پس از تفاهم با ایران
منطقه زینبیه استانبول سیاهپوش محرم شد؛ آغاز برنامه های عزاداری
مساجد پایگاههایی برای شناسایی استعدادهای درخشان
نمایش تابوت عهد در تالار سایه به روی صحنه میرود
خبر خوش برای فناوران علوم شناختی؛ حمایت بدون سقف از طرحهای فناوری
محقق ایرانی پمپ مینیاتوری برای نرم روباتها ابداع کرد
اندیشمندان مسلمان از شهدای کودک میناب میگویند
اخلاص و پیامرسانی؛ کلید ماندگاری عاشورا
قابل توجه دانش آموزان: برنامه جدید امتحانات نهایی اعلام شد+جدول
پانتهآ پناهیها در نمایش جدید صابر ابر به روی صحنه میرود
مصرفگرایی؛ پارادایم فرهنگی که تمام زندگی بشر را تسخیر کرد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.