کد خبر: 167465
ف
توهمات عجیب، هوش مصنوعی گوگل را از میدان خارج کرد
«مارشا بلکبرن»، سناتور جمهوری‌خواه از ایالت تنسی، در نامه‌ای رسمی خطاب به «ساندار پیچای»، مدیرعامل گوگل، افشا کرد که این مدل هوش مصنوعی در پاسخ به پرسشی درباره سوابق وی، ادعاهای کاملاً ساختگیِ مرتبط با سوءرفتار جنسی را منتشر کرده است.

به گزارش ثریا -  مدل جِما ادعا کرده بود که در جریان یک کمپین انتخاباتی در سال ۱۹۸۷، یک سرباز مدعی شده بود سناتور بلکبرن او را وادار به تهیه داروهای تجویزی کرده و روابطی غیرتوافقی داشته است. سناتور بلکبرن در نامه خود تأکید کرد که نه تنها چنین اتهاماتی هرگز وجود خارجی نداشته، بلکه حتی سال ذکر شده برای کمپین نیز نادرست است. وی افزود که لینک‌های خبری ارائه شده توسط هوش مصنوعی نیز همگی به صفحات خطا یا گزارش‌های بی‌ربط منتهی می‌شوند.

افزایش شکایات و واکنش گوگل

این حادثه در حالی رخ داد که پیش‌تر نیز «رابی استارباک»، فعال محافظه‌کار، با شکایت از گوگل، مدعی شده بود مدل‌های هوش مصنوعی این شرکت، از جمله جما، او را به اتهامات دروغین و شدیدی مانند «متجاوز به کودکان» متهم کرده‌اند.

 

در پاسخ اولیه گوگل به این شکایات، «مارکهام اریکسون»، معاون امور دولتی این شرکت، با پذیرش مشکل، آن را بخشی از «چالش شناخته‌شده توهمات (Hallucinations) در مدل‌های هوش مصنوعی» خوانده و اعلام کرده بود که گوگل برای کاهش آن تلاش می‌کند. با این حال، سناتور بلکبرن در نامه خود قویاً استدلال کرد که آنچه رخ داده، یک «توهم بی‌ضرر» نیست، بلکه یک «عمل افتراآمیز» است که توسط یک سیستم هوش مصنوعی تولید و توزیع شده است.

حذف مدل از دسترسی عمومی

گوگل در واکنش نهایی خود، ضمن حذف مدل جما از استودیوی هوش مصنوعی خود، در بیانیه‌ای اعلام کرد: «ما هیچ‌گاه قصد نداشتیم جِما به عنوان یک ابزار یا مدل مصرفی عمومی مورد استفاده قرار گیرد. این مدل به‌عنوان خانواده‌ای از مدل‌های «باز و سبک» برای ادغام در محصولات توسعه‌دهندگان معرفی شده بود.»

 

بر این اساس، دسترسی عمومی به این مدل از طریق AI Studio متوقف شده، اما دسترسی توسعه‌دهندگان از طریق API همچنان برقرار خواهد بود. این رویداد، بار دیگر چالش‌های جدی مدل‌های هوش مصنوعی در تولید محتوای معتبر و مسئله «توهمات» را در کانون توجه قرار داده است.

منبع : هوش مصنوعی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

کتاب «کلمات نقاشی می‌کنند» در انتشارات صداوسیما منتشر شد

اختصاص سهمیه به داوطلبان آزمون سراسری آسیب­‌دیده از جنگ­‌ ابلاغ شد

توضیح درباره تغییرات احتمالی و عدم تشکیل جلسات شورای فضای مجازی

پژوهش جدید: استفاده از هوش مصنوعی کارهای سخت را سخت‌تر می‌کند

متا نخستین هوش مصنوعی پیشرفته‌اش را ارائه کرد

شروع دوره قبولی‌های آزمون دستیاری تا دوم آبان؛ ضرورت ثبت‌نام در زمان مقرر

شاخص‌های صدور مجوز رشته‌محل در دانشگاه‌ها و مؤسسات آموزش عالی دولتی

محمد کاسبی با هنرش کاسبی نکرد؛ کاش قدرمان را بعد از مرگ ندانند!

بازیگر جوان «برکینگ بد» به پایان راه رسید؛ واکنش والتر وایت به مرگ پسرش

مازیار لرستانی پس از ۶ سال به کارگردانی بر‌میگردد

کشف استعدادها کافی نیست؛ هنرمندان جوان به حمایت مستمر نیاز دارند

جواد رضویان: انتقال گویش قمی به آیندگان، میراثی مهم برای حفظ هویت بومی است

بازگشت ۴۸ هزار کودک بازمانده از تحصیل به مدرسه

کاظمی: کمبود کتاب درسی در مدارس ناشی از جابه‌جایی دانش‌آموزان است

وزیر آموزش و پرورش: جنایت میناب در تاریخ ثبت خواهد شد

روایتی تازه از زندگی آیت الله سیدمحمود طالقانی به کتابفروشی‌ها رسید

تمدید مهلت ثبت نام و انتخاب رشته در پذیرش بدون کنکور سال ۱۴۰۵

تعطیلی یک ساختمان واحد علوم و تحقیقات؛ نشت گاز تکذیب شد

اعمال تأثیر مثبت معدل در آزمون‌های علوم پزشکی با شرایط جدید

کاوشگر استقامت ناسا رکورد راهپیمایی روی مریخ را شکست

دبیر شورای عالی فضای مجازی: توان قطع اینترنت استارلینک را داریم

نحوه آگاه‌ سازی مشتریان از تخفیف‌ها؛ راهکارهایی برای افزایش فروش

۲۲ میلیون پوند برای تجاری‌سازی نانوماده‌ای که آینده را می‌سازد

رونمایی از لندری برای ماموریت فضایی با ۷ سیارک

مدرسه انگلیسی مداد و کاغذ را به لپ تاپ ترجیح داد

انتخاب رشته آزمون دستیاری دندانپزشکی آغاز شد

بیش از ۱۸۰ دانشجو و استاد سال گذشته شهید شدند/ضرورت تبدیل «آموزش ایستادگی» به یک اصل تاریخی

اعلام حدنصاب قبولی آزمون‌های علوم پایه پزشکی و دندانپزشکی، پیش‌کارورزی

تقویت کلاس هوشمند به دستور رئیس جمهور؛ احتمال وقفه آموزش به دلیل جنگ

مراسم بازگشایی دانشگاه‌ها با حضور رئیس جمهور برگزار شد

جف بزوس: هوش مصنوعی هفته کاری را به ۳ روز کاهش می‌دهد

خلق عکسی از ۱۱۰ جسم آسمانی در ۳۵۲ ساعت

مخزن تحت فشار چگونه طراحی، ساخته و آزمایش می‌شود؟

حسگر مچی عرق بدن را می سنجد

پهپاد هواشناسی چندبارمصرف برای پرواز در ارتفاع ۱۰ کیلومتری

وزیر آموزش و پرورش: هیچ کودکی نباید قربانی فقر و محرومیت شود

شبکه دانش‌آموختگان سمپاد راه‌اندازی شد

عدالت آموزشی یعنی هیچ استعدادی از فرصت رشد محروم نماند

مدارس جدید بدون مناسب‌سازی افتتاح نمی‌شوند

تهران ملی‌ترین شهر ایران است

از تسخیر اذهان تا بحران حقیقت؛ بازخوانی دو اثر تازه در عصر رسانه

چرا سیدحسن حاضر بود همه فرماندهانش شهید شوند اما ایران آسیب نبیند؟

راغب از تازه‌ترین آلبوم خود رونمایی کرد؛ دنبال جذب و دفع فالوور نیستم!

ارتقای ۹ پله‌ای دانشگاه صنعتی امیرکبیر در ارزیابی شبکه آزمایشگاهی کشور

ردپای یک متخصص امنیت سایبری کانادا در سرقت از اف بی آی

تلسکوپ جیمز وب منشأ یک انفجار سریع رادیویی دوردست را شناسایی کرد

خرابکاری جدید کلاود؛ نفوذ به وب سایت های دولتی آمریکا

ایلان ماسک یک مدیر فناوری هندی را مسخره می کند!

حمایت ۱۲۰میلیون تومانی دانشگاه امام صادق (ع) از رتبه‌های زیر ۵۰۰ کنکور

بررسی راهکارهای پذیرش دانشجویان بین‌الملل در دانشگاه الزهرا(س)

جذب رتبه‌های برتر در رشته های اولویت دار کشور در کنکور ۱۴۰۵

مهلت انتخاب رشته کنکور ۱۴۰۵ تمدید نمی‌شود

اصلاحات شرایط استخدام اعضای هیئت علمی؛ تغییر محاسبه فوق‌العاده حقوق

نتایج نهایی پذیرش در پنجاه و سومین دوره آزمون دستیاری پزشکی اعلام شد

صدور حکم بدوی برای ۳۰ پرونده انضباطی دانشجویان؛ حکم اخراجی نداشتیم

وام دستیاری برای متاهلین و مجردین ۴۰ و ۳۰ میلیون تعیین شد

جدیدترین آمار انتخاب رشته در کنکور ۱۴۰۵؛ فردا آخرین فرصت انتخاب رشته

افزایش چشمگیر کاربران وفادار به سکوهای ایرانی؛ خدمات سکوها پایدار شد

ترکیه دسترسی کودکان زیر ۱۵ سال به شبکه‌های اجتماعی را ممنوع کرد

آغاز آنلاین مشاوره و آموزش سلامت روان؛ خدمات سلامت روان با زبان نسل زد

شیوه جدید پذیرش دانشجو در دوره های «هم‌آموز» کلید خورد

تأکید بر توسعه بازرسی‌های پیشگیرانه و داده‌محور در وزارت ارتباطات

مجلات نمایه‌شده SCIE و ESCI در ارزشیابی مقالات دارای اعتبار ISI هستند

اختصاص بورس نخبگان دانشگاه تهران به رتبه های زیر ۱۰۰ در کنکور

تعلیق برنامه گرین‌کارت مایکروسافت

ساعت ۱۲ امشب آخرین مهلت انتخاب رشته در کنکور سراسری سال ۱۴۰۵

مهلت ثبت‌نام آزمون وکالت مرکز وکلای قوه قضائیه مجدد تمدید شد

تمدید مهلت انتخاب رشته آزمون های سراسری و پذیرش دانشجو معلم تا ۱۹ مهر

مخاطرات ورود هوش مصنوعی به کلاس‌های درس

اوپن ای آی میزان استفاده روزانه نوجوانان از چت بات را اعلام کرد

بخشنامه و ضوابط جامع فعالیت مؤسسات جذب دانشجویان بین‌الملل ابلاغ شد

رشته‌محل‌های جدید و اصلاحات دفترچه‌ انتخاب رشته کنکور ۱۴۰۵ اعلام شد

شرایط خوابگاهی دانشگاه‌های کشور برای داوطلبان کنکور ۱۴۰۵ اعلام شد

تحلیل وزیر آموزش و پرورش از نقش فراجا در تأمین امنیت کشور

مجتبی جباری به «هم‌کلام» می‌آید

اختتامیه رویداد ملی «همچو سرو» برگزار شد

«پپا»، همراه کوچک کودکان در یک روز پرماجرا

روایت ۸۰ روز زندگی یک خبرنگار در دل جنگ غزه، منتشر شد

وقتی صدای جمع، صدای عقل را خاموش می‌کند

برگزاری نشست تخصصی «مبانی الهیاتی و اجتماعی جان‌فدا» در تهران

رشته‌محل‌های جدید و اصلاحات دفترچه‌ انتخاب رشته کنکور ۱۴۰۵ اعلام شد

تمدید مهلت انتخاب رشته آزمون های سراسری و پذیرش دانشجو معلم تا ۱۹ مهر

مهلت ثبت‌نام آزمون وکالت مرکز وکلای قوه قضائیه مجدد تمدید شد

بخشنامه و ضوابط جامع فعالیت مؤسسات جذب دانشجویان بین‌الملل ابلاغ شد

ساعت ۱۲ امشب آخرین مهلت انتخاب رشته در کنکور سراسری سال ۱۴۰۵

شرایط خوابگاهی دانشگاه‌های کشور برای داوطلبان کنکور ۱۴۰۵ اعلام شد

اختصاص بورس نخبگان دانشگاه تهران به رتبه های زیر ۱۰۰ در کنکور

تعلیق برنامه گرین‌کارت مایکروسافت

نتایج نهایی پذیرش در پنجاه و سومین دوره آزمون دستیاری پزشکی اعلام شد

اصلاحات شرایط استخدام اعضای هیئت علمی؛ تغییر محاسبه فوق‌العاده حقوق

جذب رتبه‌های برتر در رشته های اولویت دار کشور در کنکور ۱۴۰۵

مهلت انتخاب رشته کنکور ۱۴۰۵ تمدید نمی‌شود

صدور حکم بدوی برای ۳۰ پرونده انضباطی دانشجویان؛ حکم اخراجی نداشتیم

مخاطرات ورود هوش مصنوعی به کلاس‌های درس

آغاز آنلاین مشاوره و آموزش سلامت روان؛ خدمات سلامت روان با زبان نسل زد

شیوه جدید پذیرش دانشجو در دوره های «هم‌آموز» کلید خورد

وام دستیاری برای متاهلین و مجردین ۴۰ و ۳۰ میلیون تعیین شد

تحلیل وزیر آموزش و پرورش از نقش فراجا در تأمین امنیت کشور

جدیدترین آمار انتخاب رشته در کنکور ۱۴۰۵؛ فردا آخرین فرصت انتخاب رشته

بررسی راهکارهای پذیرش دانشجویان بین‌الملل در دانشگاه الزهرا(س)

اختتامیه رویداد ملی «همچو سرو» برگزار شد

مجلات نمایه‌شده SCIE و ESCI در ارزشیابی مقالات دارای اعتبار ISI هستند

اوپن ای آی میزان استفاده روزانه نوجوانان از چت بات را اعلام کرد

«پپا»، همراه کوچک کودکان در یک روز پرماجرا

مشاوران مبعوث؛ پیشگامان هدایت آگاهانه و انتخاب رشته کنکور

حمایت ۱۲۰میلیون تومانی دانشگاه امام صادق (ع) از رتبه‌های زیر ۵۰۰ کنکور

افزایش چشمگیر کاربران وفادار به سکوهای ایرانی؛ خدمات سکوها پایدار شد

روایت ۸۰ روز زندگی یک خبرنگار در دل جنگ غزه، منتشر شد

ترکیه دسترسی کودکان زیر ۱۵ سال به شبکه‌های اجتماعی را ممنوع کرد

گفتن حقیقت درباره صاحبان قدرت، چه از سوی حوزه و چه قضا، هزینه دارد