به گزارش ثریا- شرکت «آنتروپیک»(Anthropic) از قابلیت جدیدی رونمایی کرده است که به برخی از جدیدترین و بزرگترین مدلهای آن امکان میدهد تا گفتوگوها را در موارد نادر و شدید از تعاملات مداوم مضر یا توهینآمیز با کاربر به پایان برساند. نکته جالب توجه این است که آنتروپیک میگوید این کار را نه برای محافظت از کاربر انسان، بلکه برای محافظت از مدل هوش مصنوعی انجام میدهد.
به نقل از تک کرانچ، آنتروپیک ادعا نکرد که مدلهای هوش مصنوعی «کلود»(Claude) آن دارای شعور هستند یا میتوانند در اثر گفتوگو با کاربران آسیب ببینند، بلکه خاطرنشان کرد که درباره وضعیت اخلاقی کلود و سایر مدلهای زبانی بزرگ چه در حال حاضر و چه در آینده بسیار نامطمئن است.
با وجود این، بیانیه آنتروپیک به برنامه اخیر آن اشاره دارد که برای بررسی آنچه «سلامت مدل» مینامد، ایجاد شده است و میگوید که شرکت اساساً رویکردی را برای شناسایی و اجرای مداخلات کمهزینه به منظور کاهش خطرات مربوط به سلامت مدل در صورت امکان در پیش گرفته است.
این تغییر اخیر در حال حاضر به مدلهای «کلود اوپوس ۴»(Claude Opus 4) و «کلود اوپوس ۴.۱» محدود میشود و باز هم قرار است فقط در موارد بسیار حساس مانند درخواست کاربران زیر سن قانونی برای محتوای بزرگسالانه و تلاش برای جمعآوری اطلاعاتی که امکان خشونت یا اقدامات تروریستی را در مقیاس بزرگ فراهم میکنند، اعمال شود.
اگرچه این نوع درخواستها ممکن است مشکلات قانونی یا تبلیغاتی را برای آنتروپیک ایجاد کنند اما این شرکت میگوید که کلود اوپوس ۴ در آزمایشهای پیش از استقرار، ترجیح زیادی را برای پاسخ دادن به این درخواستها و الگویی از پریشانی آشکار را هنگام انجام دادن این کار نشان داده است.
آنتروپیک درباره قابلیت جدید پایان دادن به گفتوگو خاطرنشان کرد: در همه موارد، کلود تنها زمانی میتواند از قابلیت پایان دادن به گفتوگو به عنوان آخرین راه حل استفاده کند که تلاشهای متعدد برای تغییر مسیر ناموفق بوده و امید به تعامل سازنده از بین رفته باشد یا وقتی کاربر صریحاً از کلود خواسته باشد که به چت پایان دهد.
همچنین، آنتروپیک گفت به کلود دستور داده شده از این توانایی در مواردی که کاربران ممکن است در معرض خطر قریبالوقوع آسیب رساندن به خود یا دیگران باشند، استفاده نکند.
به گفته آنتروپیک، وقتی کلود به گفتوگو پایان میدهد، کاربران همچنان میتوانند گفتوگوی جدیدی را از همان حساب کاربری آغاز کنند و با ویرایش پاسخهای خود، شاخههای جدیدی از گفتوگو را در پیش بگیرند.
آنتروپیک اضافه کرد: ما این ویژگی را به عنوان یک آزمایش مداوم در نظر میگیریم و به اصلاح رویکرد خود ادامه خواهیم داد.
منبع :
احیای اخلاق در زندگی فردی و اجتماعی با بازخوانی فلسفه عاشورا
بنی امیه چگونه به قدرت رسید؟/ تبارشناسی ۹۱ سال حکومت استبدادی
دعوت از عاشقان اهل بیت برای شرکت در طرح توسعه حرم امام حسین (ع)
منطقه زینبیه استانبول سیاهپوش محرم شد؛ آغاز برنامه های عزاداری
رئیس سازمان فضایی ایران خبر داد: بهکارگیری ظرفیتهای ویژه ماهوارهای در تشییع رهبر شهید انقلاب
زنگ میراث فرهنگی و موزه در مدارس نواخته میشود
معافیت برخی المپیادها از کنکور و همزمانی آزمونها؛ همچنان چالش اصلی دانشآموزان
قابل توجه دانش آموزان: برنامه جدید امتحانات نهایی اعلام شد+جدول
هشدار به مدارس غیردولتی؛ با هرگونه دریافت شهریه غیرقانونی برخورد میشود
دبیر شورای عالی انقلاب فرهنگی: اختیار پذیرش دانشجویان به دانشگاهها واگذار شود
حاج اکبر مولایی در اولین شب از ماه محرم آسمانی شد
روایت شیخ حسین انصاریان از سه حقی که خداوند بر انسانها نهاده است
تجمعات خیابانی و مراسم ویژه در میادین تهران برای عزاداری محرم
مصرفگرایی؛ پارادایم فرهنگی که تمام زندگی بشر را تسخیر کرد
شروع برنامه ملی «میناب ۱۵۶»؛ بورسیه تحصیلی برای دانشجویان مستعد کمبرخوردار
علی دایی به دیدار اکبر عبدی رفت+عکس
خروج هواپیماهای سوخترسان آمریکایی از فلسطین اشغالی پس از تفاهم با ایران
امیرحسین مدرس برنامه نغمههای حسینی را به مناسبت ماه محرم اجرا میکند
منوچهر هادی: درآوردن سکانس صدای رئیس جمهور در سریال ۴۸ ساعت وقت گرفت
دیوارنگاره میدان ولیعصر (عج) حال و هوای محرمی گرفت
نمایش تابوت عهد در تالار سایه به روی صحنه میرود
پانتهآ پناهیها در نمایش جدید صابر ابر به روی صحنه میرود
زمان تشییع پیکر بهروز رضوی اعلام شد
مساجد پایگاههایی برای شناسایی استعدادهای درخشان
به یاد کودکان میناب در جام جهانی فوتبال
اخلاص و پیامرسانی؛ کلید ماندگاری عاشورا
نگاهی به پیشینه تاریخی ایرانیان در عزاداری محرم
شبکههای اجتماعی برای زیر ۱۶ سالهها ممنوع شد
تمرکز بر امنیت سایبری و تابآوری شبکه در ایام تشییع رهبر شهید
دانشگاه علوم پزشکی تهران رتبه ۷۰۱ جهان را کسب کرد؛ همچنان صدرنشین دانشگاههای ایران
محقق ایرانی پمپ مینیاتوری برای نرم روباتها ابداع کرد
اندیشمندان مسلمان از شهدای کودک میناب میگویند
خبر خوش برای فناوران علوم شناختی؛ حمایت بدون سقف از طرحهای فناوری
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
خودروهای خودران بایدو با نام «AmiGo» مجوز فعالیت در شرق سوئیس گرفتند
رقابت سخت منطقهای برای جذب دانشجویان خارجی؛ هشدار دانشگاه امیرکبیر
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
طرح «حامی» برای جبران کاستیهای یادگیری دانشآموزان اجرا میشود
وام ودیعه مسکن دانشجویان علوم پزشکی برای شهر تهران افزایش یافت
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
سنت منطقی اسلامی چگونه پشتوانه مواجهه با منطق ریاضی است؟
جهان اسلام به این روحانی فرزانه و اهل ادب میبالد
بانو مجتهده امین نماد توانمندی زنان است
بازیگر معروف: صداپیشگان شایسته دریافت اسکار بازیگری هستند
اختتامیه پویش ملی وطن به روایت من برگزار شد
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
حرمهای کربلا در آستانه محرم سیاه پوش شدند
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
هزینه ثبتنام جهش تحصیلی دانشآموزان اعلام شد
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
نگاهی به نقش توییتر در جنگ رسانهای دشمن در کتاب «توئیتری شدن سیاست»
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
طراح بازی «نجات دختران اپستین توسط بچههای میناب» از این بازی میگوید
درباره زندگی رازآمیز درختان در این کتاب بخوانید
هکرها پیامرسان دولتی فرانسه را هک کردند
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
اختراع کتی که هوا را به آب آشامیدنی تبدیل میکند
وزیر علوم: اساتید دانشگاه با امید و انگیزه در کلاس درس حاضر شوند
مقابله با موج محتوای غیرقانونی در بحرانها؛ بریتانیا شبکههای اجتماعی را ملزم به سازوکار ویژه کرد
شکایت جدید علیه OpenAI؛ ChatGPT نتوانست جلوی خودکشی کاربر را بگیرد
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
آگهی/ از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
ایلان ماسک نخستین تریلیونر دنیا میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
اهمیت هوش مصنوعی در مسیر ارتقای کیفیت آموزشی
جلسه تلاوت و هماندیشی قاریان بینالمللی مزین به نام رهبر شهید
فلسفه در اندیشه حضرت امام، مقدمهای ضروری برای رسیدن به عرفان است
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
اختتامیه پویش ملی وطن به روایت من برگزار شد
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
جدایی متا از شریک چینی جنجالی کلید خورد
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
خدمات ابری گوگل در هند مختل شد
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
ایلان ماسک نخستین تریلیونر دنیا میشود
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
جلسه تلاوت و هماندیشی قاریان بینالمللی مزین به نام رهبر شهید
جریان قاتلان حسین (ع) امروز در مقابل امت ایشان قرار گرفتهاند
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
تاثیر باورنکردنی چای بر سلامتی و افزایش طول عمر
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.