کد خبر: 167465
ف
توهمات عجیب، هوش مصنوعی گوگل را از میدان خارج کرد
«مارشا بلکبرن»، سناتور جمهوری‌خواه از ایالت تنسی، در نامه‌ای رسمی خطاب به «ساندار پیچای»، مدیرعامل گوگل، افشا کرد که این مدل هوش مصنوعی در پاسخ به پرسشی درباره سوابق وی، ادعاهای کاملاً ساختگیِ مرتبط با سوءرفتار جنسی را منتشر کرده است.

به گزارش ثریا -  مدل جِما ادعا کرده بود که در جریان یک کمپین انتخاباتی در سال ۱۹۸۷، یک سرباز مدعی شده بود سناتور بلکبرن او را وادار به تهیه داروهای تجویزی کرده و روابطی غیرتوافقی داشته است. سناتور بلکبرن در نامه خود تأکید کرد که نه تنها چنین اتهاماتی هرگز وجود خارجی نداشته، بلکه حتی سال ذکر شده برای کمپین نیز نادرست است. وی افزود که لینک‌های خبری ارائه شده توسط هوش مصنوعی نیز همگی به صفحات خطا یا گزارش‌های بی‌ربط منتهی می‌شوند.

افزایش شکایات و واکنش گوگل

این حادثه در حالی رخ داد که پیش‌تر نیز «رابی استارباک»، فعال محافظه‌کار، با شکایت از گوگل، مدعی شده بود مدل‌های هوش مصنوعی این شرکت، از جمله جما، او را به اتهامات دروغین و شدیدی مانند «متجاوز به کودکان» متهم کرده‌اند.

 

در پاسخ اولیه گوگل به این شکایات، «مارکهام اریکسون»، معاون امور دولتی این شرکت، با پذیرش مشکل، آن را بخشی از «چالش شناخته‌شده توهمات (Hallucinations) در مدل‌های هوش مصنوعی» خوانده و اعلام کرده بود که گوگل برای کاهش آن تلاش می‌کند. با این حال، سناتور بلکبرن در نامه خود قویاً استدلال کرد که آنچه رخ داده، یک «توهم بی‌ضرر» نیست، بلکه یک «عمل افتراآمیز» است که توسط یک سیستم هوش مصنوعی تولید و توزیع شده است.

حذف مدل از دسترسی عمومی

گوگل در واکنش نهایی خود، ضمن حذف مدل جما از استودیوی هوش مصنوعی خود، در بیانیه‌ای اعلام کرد: «ما هیچ‌گاه قصد نداشتیم جِما به عنوان یک ابزار یا مدل مصرفی عمومی مورد استفاده قرار گیرد. این مدل به‌عنوان خانواده‌ای از مدل‌های «باز و سبک» برای ادغام در محصولات توسعه‌دهندگان معرفی شده بود.»

 

بر این اساس، دسترسی عمومی به این مدل از طریق AI Studio متوقف شده، اما دسترسی توسعه‌دهندگان از طریق API همچنان برقرار خواهد بود. این رویداد، بار دیگر چالش‌های جدی مدل‌های هوش مصنوعی در تولید محتوای معتبر و مسئله «توهمات» را در کانون توجه قرار داده است.

منبع : هوش مصنوعی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

دانشگاه‌ها با ورزش تاب‌آوری دانشجویان را تقویت کنند

راهنمای ثبت‌نام پذیرفته‌شدگان دکتری دانشگاه علامه طباطبائی اعلام شد

پایان رویای «تنگه ترامپ» و غروب توهمات طاغوت روزگار در اعماق خلیج فارس

بهنام تشکر کارآگاه علوی جدید شد

برگزاری بزرگداشت ابن سینا با حضور اندیشمندان ایرانی و خارجی

تجربه‌های جهانی بازسازی پساجنگ در ۱۲ جلد کتاب

تلقی رایج از موسسات خیریه غلط است؛ انتشار نخستین گزارش زیست بوم خیریه

برگزاری جشن‌های میلاد پیامبر مهربانی‌ها با محوریت خون‌خواهی رهبر شهید

رجبی دوانی: نیازمند «انقلابی درون انقلاب» هستیم

آیا بین «امر تاریخی» و «امر ایمانی» می توان تمایزی مفهومی ایجاد کرد؟

ابن‌شهرآشوب روایات را دستکاری می‌کرد؟

تشخیص زودهنگام سرطان سینه با طراحی یک نانوزیست‌حسگر در دانشگاه تهران

استکبار جهانی به زباله‌دان تاریخ می‌پیوندد؛ خونخواهی رهبر شهید حق ماست

حمایت مجری معروف اخبار عراق، از خلیج فارس+عکس

جدیدترین تصویر از آیت الله سیستانی

صعود دانشجوی دانشگاه آزاد به بام ایران با یاد دانشمند شهید دکتر طهرانچی +عکس

آغاز کلاس‌های نیمسال اول دانشگاه صنعتی امیرکبیر از ۲۸ شهریور

حمله هکرهای ایرانی یک واحد تولید برق را در انگلیس تعطیل کرد

شکایت آمریکا از تیک تاک با ۴۰۰ میلیون دلار تسویه شد

واکنش قالیباف به جنگ اقتصادی ترامپ و دار‌دسته‌اش+عکس

کلید اولیه ۵ آزمون علوم پزشکی منتشر شد

کلید اولیه آزمون‌های سراسری و پذیرش دانشجو معلم سال ۱۴۰۵ منتشر شد

سنت‌های اجتماعی قرآن، راهی برای فهم عمیق حوادث بزرگ اجتماعی

میراث علمی ادبی ابن سینا از زبان محققان روسی، ازبکستانی و گرجستانی

مسجد سوخته کوی نصر بازسازی و افتتاح شد

رهبر شهید چگونه «وابستگی موشکی» را پیش از شکل‌گیری خنثی کرد؟

تصویب عناوین درسی مدارس بین‌الملل ایران برای نخستین‌بار

برنامه‌های درسی دانشگاه فرهنگیان به‌روزرسانی شود

افتخارآفرینی دانش‌آموزان ایرانی در رقابت بین‌المللی نوآوری فیزیک مالزی

فروش کتاب‌های درسی دانش‌آموزان فقط از سامانه رسمی مقدور است

در جامعه مهدوی رفتارها بر پایه ایثار و حذف انگیزه‌های سودجویانه است

بحارالانوار گردآوری جهت‌دار احادیث نیست؛ مجلسی و شکل دهی جامعه شیعه

ورود دانشجویان جدید با تأخیر انجام می‌شود/ کلاس‌ها حتما حضوری است

نتایج اولیه آزمون کارشناسی ارشد ۱۴۰۵ در دهه اول شهریور اعلام می شود

پذیرش پژوهشگران پسادکتری تقاضامحور در ۱۲ دانشگاه و مرکز پژوهشی کشور

خدمات مرکز مشاوره دانشگاه علم و صنعت حضوری شد

ثبت‌نام ۴ هزارنفر در فراخوان جذب هیئت علمی علوم پزشکی/اعلام ظرفیت خالی

کوانتوم در آستانه تجاری‌سازی/ ۵ حوزه‌ای که کوانتوم در حال تغییر آنهاست

توسعه تعاملات علمی و پژوهشی ایران و کشورهای بریکس

اعلام جزئیات شهریه دانشجویان شهریه‌پرداز دانشگاه الزهرا(س)

تکلیف افزایش ۲۰ درصدی ظرفیت پزشکی و دندانپزشکی تا سال ۱۴۰۴ مشخص شد

کاظمی: فرهنگ ایثار و شهادت، مزیت رقابتی ما در برابر دنیای استکبار است

واکنش سید عباس عراقچی وزیر امور خارجه به ادعای کمرشکن‌ترین عملیات اقتصادی تاریخ

«لباس شخصی»سراغ یک پرونده امنیتی رفت

۵ نمایشنامه از ۵ درام‌نویس زن خوانده می‌شود

شکست «ددپول و ولورین» توسط «اودیسه»؛ رایان رینولدز تبریک گفت!

حجت الاسلام قمی: «مسجد» محور جامعه مبعوث است

بازگشت عمو پورنگ پس از ۵ سال به سیما

حجت‌الاسلام قمی: مسجد باید پرچم‌دار حرکت مؤمنان و جامعه‌سازی باشد

حجت الاسلام قمی: مسجد محدود به اقامه نماز نیست

حکمرانی شبکه‌ای امام هادی(ع) در زندان و منشور کلامی زیارت جامعه کبیره

از سامرای محاصره‌شده تا عصر غیبت/روایت راهبرد امام عسکری(ع) برای شیعه

فیلمساز ایرانی داور جشنواره یونانی شد

سفر «سندرم بلوغ» به انگلیس

«سیاوش» به هیچ نهادی وابسته نیست؛ هزینه‌ها کاملا شخصی است!

شنیدن زمزمه عود و تمبک در آلبومی که به خواهر تقدیم شد

پذیرش تفاوت‌ها در یک انیمیشن؛ اگر زال شاهنامه دختر بود چه می‌شد؟

از شکل‌گیری ایده تا شروع کسب‌وکار؛ «کارخانه»در رادیو اقتصاد راه‌ افتاد

نمایشی با الهام از جهان موراکامی؛ ارتباط بین هنرمند و مخاطب مهم است

۳ چهره بزرگ در یک فیلم؛ حمایت برد پیت از مستند ویم وندرس درباره زومتور

جزئیات فصل جدید یک رویداد موسیقایی؛ وقتی موسیقی از تهران خارج می‌شود

تصویر معناداری که قالیباف در کنار خلیج فارس منتشر کرد

امیر جدیدی و حمید نعمت‌الله در پشتِ صحنه سریال داش آکل

«عید بیعت» در میدان ولیعصر(عج) برگزار می‌شود

بازگشت حماسی مصدق به قدرت،کینه شاه و دربار علیه دولت ملی را تعمیق کرد

شهادت امام حسن عسکری (ع) هیئت کجا برویم؟

مشرکان عصر جاهلیت موحد بودند؟

توییت معنادار معاون وزیر خارجه در پاسخ به ترامپ+عکس

سامرا آماده میزبانی از عزاداران امام حسن عسکری (ع) شد

اعلام برنامه‌های علمی هفته ملی ابن‌سینا در ایران

تلاش ملاعبدالله بهابادی در سازماندهی استنباط و روابط میان ادله

«عقل فعال» میراث حل مسائل روز؛ ابن سینا شاخصه عقلانیت در اسلام است

زبان‌آموز حرفه‌ای چگونه آلمانی یاد می‌گیرد؟ نگاهی تخصصی به مسیر رسیدن از سطح A1 تا C1

محقق ایرانی باکتری را به ترانزیستور تبدیل کرد

جیمز وب ۳ سیاه‌چاله فعال در یک کهکشان دوردست کشف کرد

مصوبه مهم درباره اقتصاد دیجیتال

تولید ماده اولیه داروی ایرانی درمان «فیبروز کبدی»

ایده امیرکبیر در تأسیس دارالفنون چه بود؟

پرچم انتقام و خونخواهی بر فراز گنبد مساجد کشور به اهتزاز درمی آید

راه‌اندازی موکب‌های دائمی در مرز ایران و عراق

زبان‌آموز حرفه‌ای چگونه آلمانی یاد می‌گیرد؟ نگاهی تخصصی به مسیر رسیدن از سطح A1 تا C1

چرا رهبر شهید به جوانان اروپایی نامه نوشتند؟

پرچم انتقام و خونخواهی بر فراز گنبد مساجد کشور به اهتزاز درمی آید

مصوبه مهم درباره اقتصاد دیجیتال

آثار و عوامل تجربه زیسته احساس تنهایی در دختران تجرد زیست

جزئیات برنامه‌های هفته آموزش هنر اعلام شد

ایده امیرکبیر در تأسیس دارالفنون چه بود؟

شهادت امام حسن عسکری (ع) هیئت کجا برویم؟

«فرمانده هرمز» را چقدر می‌شناسید؟

کاهش ۲۰ درصدی تخلفات اداری آموزش‌وپرورش

زنگ نماز همراه با زنگ مدرسه نواخته شود

تولید ماده اولیه داروی ایرانی درمان «فیبروز کبدی»

جیمز وب ۳ سیاه‌چاله فعال در یک کهکشان دوردست کشف کرد

راه‌اندازی موکب‌های دائمی در مرز ایران و عراق

شوراهای آموزش و پرورش؛ ظرفیت ملی برای جهش کیفیت و عدالت تربیتی

تلاش ملاعبدالله بهابادی در سازماندهی استنباط و روابط میان ادله

محقق ایرانی باکتری را به ترانزیستور تبدیل کرد

تصویر معناداری که قالیباف در کنار خلیج فارس منتشر کرد

«عقل فعال» میراث حل مسائل روز؛ ابن سینا شاخصه عقلانیت در اسلام است

حجت الاسلام قمی: «مسجد» محور جامعه مبعوث است

امیر جدیدی و حمید نعمت‌الله در پشتِ صحنه سریال داش آکل

حجت‌الاسلام قمی: مسجد باید پرچم‌دار حرکت مؤمنان و جامعه‌سازی باشد

سامرا آماده میزبانی از عزاداران امام حسن عسکری (ع) شد

بازگشت عمو پورنگ پس از ۵ سال به سیما

پذیرش پژوهشگران پسادکتری تقاضامحور در ۱۲ دانشگاه و مرکز پژوهشی کشور

کلید اولیه آزمون‌های سراسری و پذیرش دانشجو معلم سال ۱۴۰۵ منتشر شد

حجت الاسلام قمی: مسجد محدود به اقامه نماز نیست

ورود دانشجویان جدید با تأخیر انجام می‌شود/ کلاس‌ها حتما حضوری است

نتایج اولیه آزمون کارشناسی ارشد ۱۴۰۵ در دهه اول شهریور اعلام می شود

توییت معنادار معاون وزیر خارجه در پاسخ به ترامپ+عکس