کد خبر: 164912
ف
گفت‌وگوی توهین‌آمیز با هوش مصنوعی «کلود» ممنوع!
«آنتروپیک» می‌گوید برخی از مدل‌های هوش مصنوعی «کلود» اکنون می‌توانند به گفت‌وگوهای مضر یا توهین‌آمیز پایان دهند.

به گزارش ثریا- شرکت «آنتروپیک»(Anthropic) از قابلیت‌ جدیدی رونمایی کرده است که به برخی از جدیدترین و بزرگترین مدل‌های آن امکان می‌دهد تا گفت‌وگوها را در موارد نادر و شدید از تعاملات مداوم مضر یا توهین‌آمیز با کاربر به پایان برساند. نکته جالب توجه این است که آنتروپیک می‌گوید این کار را نه برای محافظت از کاربر انسان، بلکه برای محافظت از مدل هوش مصنوعی انجام می‌دهد.

به نقل از تک کرانچ، آنتروپیک ادعا نکرد که مدل‌های هوش مصنوعی «کلود»(Claude) آن دارای شعور هستند یا می‌توانند در اثر گفت‌وگو با کاربران آسیب ببینند، بلکه خاطرنشان کرد که درباره وضعیت اخلاقی کلود و سایر مدل‌های زبانی بزرگ چه در حال حاضر و چه در آینده بسیار نامطمئن است.

با وجود این، بیانیه آنتروپیک به برنامه‌ اخیر آن اشاره دارد که برای بررسی آنچه «سلامت مدل» می‌نامد، ایجاد شده است و می‌گوید که شرکت اساساً رویکردی را برای شناسایی و اجرای مداخلات کم‌هزینه به منظور کاهش خطرات مربوط به سلامت مدل در صورت امکان در پیش گرفته است.

این تغییر اخیر در حال حاضر به مدل‌های «کلود اوپوس ۴»(Claude Opus 4) و «کلود اوپوس ۴.۱» محدود می‌شود و باز هم قرار است فقط در موارد بسیار حساس مانند درخواست کاربران زیر سن قانونی برای محتوای بزرگسالانه و تلاش برای جمع‌آوری اطلاعاتی که امکان خشونت یا اقدامات تروریستی را در مقیاس بزرگ فراهم می‌کنند، اعمال شود.

اگرچه این نوع درخواست‌ها ممکن است مشکلات قانونی یا تبلیغاتی را برای آنتروپیک ایجاد کنند اما این شرکت می‌گوید که کلود اوپوس ۴ در آزمایش‌های پیش از استقرار، ترجیح زیادی را برای پاسخ دادن به این درخواست‌ها و الگویی از پریشانی آشکار را هنگام انجام دادن این کار نشان داده است.

آنتروپیک درباره قابلیت‌ جدید پایان دادن به گفت‌وگو خاطرنشان کرد: در همه موارد، کلود تنها زمانی می‌تواند از قابلیت پایان دادن به گفت‌وگو به عنوان آخرین راه حل استفاده کند که تلاش‌های متعدد برای تغییر مسیر ناموفق بوده و امید به تعامل سازنده از بین رفته باشد یا وقتی کاربر صریحاً از کلود خواسته باشد که به چت پایان دهد.

همچنین، آنتروپیک گفت به کلود دستور داده شده از این توانایی در مواردی که کاربران ممکن است در معرض خطر قریب‌الوقوع آسیب رساندن به خود یا دیگران باشند، استفاده نکند.

به گفته آنتروپیک، وقتی کلود به گفت‌وگو پایان می‌دهد، کاربران همچنان می‌توانند گفت‌وگوی جدیدی را از همان حساب کاربری آغاز کنند و با ویرایش پاسخ‌های خود، شاخه‌های جدیدی از گفت‌وگو را در پیش بگیرند.

آنتروپیک اضافه کرد: ما این ویژگی را به عنوان یک آزمایش مداوم در نظر می‌گیریم و به اصلاح رویکرد خود ادامه خواهیم داد.

منبع : 


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

مهلت ثبت‌نام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد

انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵

فهرست دانشگاه‌های خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد

اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری

ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی

سرویس‌های مایکروسافت احیا شدند

درخشش نخبگان ایرانی در مسابقات فناوری‌های پیشرفته بریکس‌؛ کسب ۹ مدال

فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی

هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد

آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار می‌شود

رفع محدودیت مناطق ممنوعه برای تسهیل جذب دانشجویان بین‌المللی

هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت

فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هسته‌ای

نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال

شهادت یک مامور فراجا در سیستان‌وبلوچستان

رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود

استوری هادی چوپان برای حضرت زهرا(س)+عکس

ابداع یک آبنبات‌چوبی برای معاینه کودکان

نانوپوشش‌ها به کمک افزایش عمر لنت‌های ترمز آمدند

دانشگاه باید از پارادایم «مدرک‌گرایی» به سمت «مهارت‌محوری» حرکت کند

گاهی بزرگترین سرقت، دزدیدن فرصت زندگی دیگران است

تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی

جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد

شرایط ثبت‌نام پذیرفته‌شدگان نوورود شاهد و ایثارگر

«پرواز ۶۵۵» ده‌نمکی به تدوین رسید

امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟

میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)

عامل هوش مصنوعی متا به جای کاربر تماس می‌گیرد

«پروانه الماس» بهترین فیلمنامه به «دختر پری‌خانوم» رسید

برد پیت ۵۰ سال عقب می‌رود؛ بازی در نقش یک فلزکار در آسمان‌ها

مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی

جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن می‌رسد

حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند

مدیرعامل انویدیا استعفا کرد

یک کشف جدید از معادلات اینشتین درباره گرانش

۲ دنیای بکر پنهان در اقیانوس آرام کشف شد

این سیاره خورشیدی چرا گم شد؟

زمان اعلام نتایج نهایی آزمون سراسری مشخص شد

عدالت اجتماعی در دیدگاه اسلامی به معنای برابری مطلق نیست

همه عمار و مالک‌اشتر نیستند، اما هرکس در قبال حق مسئول‌ است

برای جلوگیری از عادی شدن حرام، باید قبح اجتماعی آن را زنده کرد

کنش حضرت زهرا(س)، حقیقت را به حافظه تاریخ سپرد

بیش از ۶۰ درصد مدارس کشور را خیرین ساختند

توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان

روایتی از زندگی و میراث شهید حسن طهرانی‌مقدم در برنامه تلویزیونی «نردبان»

انتشار یک قطعه موسیقایی جدید به مناسبت شهادت حضرت زهرا (س)

تلاش نمایش «کورش» برای بازسازی اسطوره قهرمان و پیوندزدن گذشته با اکنون

آنچه کیهان کلهر درباره کتاب «بهجت الروح» گفت

دست‌نوشته رهبر شهید انقلاب برای تقدیر از شهید حسن طهرانی مقدم

تصویر منتشرشده در رسانه‌ها تحت عنوان تست موشک در آسمان غرب تهران

ساخت نانوذرات دارویی ضدسرطان با نور خورشید در زمانی کوتاه

رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵

حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران

ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد

آغاز ثبت‌نام اعتکاف دانش‌آموزی ۱۴۰۵

اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند

روبات جدید گوگل آسیب نرساندن به کودکان را می‌آموزد

سند توسعه متوازن دانشگاه‌های علوم پزشکی در دست بازنگری قرار دارد

ثبت‌نام تک‌دروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز می‌شود

کشف سیاره ای که ناگهان ناپدید شد!

آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار می‌شود

تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی

دلایل افت رتبه دانشگاه‌ها در رتبه بندی‌ها چیست؟

مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد

چرا شناخت هوش هیجانی کودکان مهم است؟

زمزمه‌های استعفای مدیر انویدیا آغاز شد

«مواد و ساخت پیشرفته» پیشران اقتدار صنعتی و ارتقای تاب‌آوری فناورانه

سناریوهای ورود با تأخیر دانشجویان نوورود گروه علوم پزشکی بررسی شد

هکرها نهاد ناظر بر امنیت مالی کره جنوبی را هک کردند

دانشگاه آزاد درباره عدم اعتبار بورسیه‌های متفرقه اطلاعیه داد

چرا سهم شیر دانش‌آموزان به ۳۰ نوبت محدود شد؟

خدمات بیمه‌ای فرهنگیان قزوین در مسیر ارتقا و تسهیل دسترسی

نهضت مدرسه‌سازی خوزستان تا مهر ۱۴۰۷ به سرانجام می‌رسد

درخشش دانش‌آموزان البرزی با کسب ۱۵ مدال علمی

مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش می‌کشد

فارسی در هند فقط زبان شعر نبود

کتاب «کهکشان نیستی» به زبان عربی ترجمه و منتشر شد

زینب طهرانی‌مقدم: شعر ما را به شناخت عمیقی از اسطوره‌های ملی می‌رساند

برای شناخت دختر پیامبر(ص)، این ۱۰ کتاب را بخوانید

شاگردی که تا پای شهادت از مکتب طهرانی‌مقدم جدا نشد

تقویم جدید آزمون زبان انگلیسی MHLE سال ۱۴۰۵ منتشر شد

دانشجویان متأهل ملزم به بازپرداخت یکجای وام ودیعه مسکن شدند

تغییرات تکمیل ظرفیت دستیاری فوق تخصصی اعلام شد؛ تمدید مهلت ثبت نام

قبل از خرید قطعات آسانسور این 7 نکته را بدانید

تصویب ساماندهی مراکز تحقیقات و شبکه‌های تحقیقات و فناوری علوم پزشکی

زمان اعلام نتایج نهایی آزمون سراسری مشخص شد

حمایت ویژه از پژوهشگران پسادکتری در قالب طرح شهید چمران

ثبت‌نام تک‌دروس دانشگاه علوم پزشکی هوشمند از ۲۳ آبان آغاز می‌شود

آغاز ثبت‌نام اعتکاف دانش‌آموزی ۱۴۰۵

درخشش دانش‌آموزان البرزی با کسب ۱۵ مدال علمی

ضرورت ایجاد فضای امن و با نشاط در مدارس سمپاد

مکرون: هوش مصنوعی خطرناک باید برای کودکان ممنوع شود

دلایل افت رتبه دانشگاه‌ها در رتبه بندی‌ها چیست؟

چرا سهم شیر دانش‌آموزان به ۳۰ نوبت محدود شد؟

مرکز جدید برای برگزاری آزمون الکترونیکی زبان انگلیسی «تولیمو» ایجاد شد

مزار پنهان دختر پیامبر(ص)، تناقضی که تاریخ صدر اسلام را به چالش می‌کشد

این سیاره خورشیدی چرا گم شد؟

سند توسعه متوازن دانشگاه‌های علوم پزشکی در دست بازنگری قرار دارد

کشف سیاره ای که ناگهان ناپدید شد!

آزمون صلاحیت حرفه ای گروه پرستاری دی ماه ۱۴۰۵ برگزار می‌شود

اپل و سامسونگ برای ورود به بازار چین دست به دامن هوش مصنوعی محلی شدند

توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان

دانشگاه آزاد درباره عدم اعتبار بورسیه‌های متفرقه اطلاعیه داد

ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی

سناریوهای ورود با تأخیر دانشجویان نوورود گروه علوم پزشکی بررسی شد

رقابت ۸ هزار نفر در آزمون پذیرش دانشجوی پزشکی از لیسانس ۱۴۰۵

چرا شناخت هوش هیجانی کودکان مهم است؟

فارسی در هند فقط زبان شعر نبود

زمزمه‌های استعفای مدیر انویدیا آغاز شد

نهضت مدرسه‌سازی خوزستان تا مهر ۱۴۰۷ به سرانجام می‌رسد