به گزارش ثریا - جدیدترین ویژگی شرکت «آنتروپیک» برای مدل هوش مصنوعی «کلود» میتواند آغازی بر پایان دستکاری هوش مصنوعی باشد، چرا که این شرکت در پستی در وبسایت خود اعلام کرد که مدلهای «Claude Opus 4» و «4.1 Claude Opus » اکنون قدرت پایان دادن به مکالمه با کاربران را دارند.
به گفته آنتروپیک، این ویژگی فقط در موارد نادر و شدید تعاملات کاربر که به طور مداوم مضر یا توهینآمیز هستند، استفاده خواهد شد.
به نقل از انگجت، برای روشن شدن موضوع، آنتروپیک گفت که این دو مدل «کلود» میتوانند از مکالمات مضر، مانند درخواستهای کاربران برای محتوای جنسی شامل افراد زیر سن قانونی و تلاش برای درخواست اطلاعاتی که امکان خشونت یا اقدامات تروریستی در مقیاس بزرگ را فراهم میکند، خارج شوند.
طبق گفته آنتروپیک، این مدلها تنها زمانی به یک مکالمه پایان میدهند که به عنوان آخرین راه حل، تلاشهای متعدد برای تغییر مسیر ناموفق بوده و امید به یک تعامل سازنده از بین رفته باشد.
با این حال، آنتروپیک ادعا میکند که اکثر کاربران حتی هنگام صحبت در مورد موضوعات بسیار بحثبرانگیز، شاهد قطع مکالمه توسط «کلود» نخواهند بود، زیرا این ویژگی برای «موارد بسیار حساس» در نظر گرفته شده است.
گفتنی است که در سناریوهایی که «کلود» یک چت را پایان میدهد، کاربران دیگر نمیتوانند هیچ پیام جدیدی در آن مکالمه ارسال کنند، اما میتوانند بلافاصله یک پیام جدید شروع کنند.
آنتروپیک افزود که اگر یک مکالمه پایان یابد، بر سایر چتها تأثیری نخواهد گذاشت و کاربران حتی میتوانند به عقب برگردند و پیامهای قبلی را ویرایش یا دوباره امتحان کنند تا به مسیر مکالمه دیگری هدایت شوند.
این اقدام برای آنتروپیک، بخشی از یک برنامه تحقیقاتی است که ایده رفاه هوش مصنوعی را مطالعه میکند. در حالی که ایده انسانانگاری مدلهای هوش مصنوعی همچنان یک بحث مداوم است، این شرکت اعلام کرد که توانایی خروج از یک تعامل بالقوه ناراحتکننده، راهی کمهزینه برای مدیریت خطرات برای رفاه هوش مصنوعی است.
شایان ذکر است که آنتروپیک هنوز در حال آزمایش این ویژگی است و کاربران خود را تشویق میکند تا هنگام مواجهه با چنین سناریویی، بازخورد خود را ارائه دهند.
منبع : شرکت انتروپیک
امیر جدیدی و حمید نعمتالله در پشتِ صحنه سریال داش آکل
«عید بیعت» در میدان ولیعصر(عج) برگزار میشود
بازگشت حماسی مصدق به قدرت،کینه شاه و دربار علیه دولت ملی را تعمیق کرد
شهادت امام حسن عسکری (ع) هیئت کجا برویم؟
مشرکان عصر جاهلیت موحد بودند؟
توییت معنادار معاون وزیر خارجه در پاسخ به ترامپ+عکس
سامرا آماده میزبانی از عزاداران امام حسن عسکری (ع) شد
اعلام برنامههای علمی هفته ملی ابنسینا در ایران
تلاش ملاعبدالله بهابادی در سازماندهی استنباط و روابط میان ادله
«عقل فعال» میراث حل مسائل روز؛ ابن سینا شاخصه عقلانیت در اسلام است
زبانآموز حرفهای چگونه آلمانی یاد میگیرد؟ نگاهی تخصصی به مسیر رسیدن از سطح A1 تا C1
محقق ایرانی باکتری را به ترانزیستور تبدیل کرد
جیمز وب ۳ سیاهچاله فعال در یک کهکشان دوردست کشف کرد
مصوبه مهم درباره اقتصاد دیجیتال
تولید ماده اولیه داروی ایرانی درمان «فیبروز کبدی»
ایده امیرکبیر در تأسیس دارالفنون چه بود؟
پرچم انتقام و خونخواهی بر فراز گنبد مساجد کشور به اهتزاز درمی آید
راهاندازی موکبهای دائمی در مرز ایران و عراق
چرا رهبر شهید به جوانان اروپایی نامه نوشتند؟
آثار و عوامل تجربه زیسته احساس تنهایی در دختران تجرد زیست
«فرمانده هرمز» را چقدر میشناسید؟
جزئیات برنامههای هفته آموزش هنر اعلام شد
شوراهای آموزش و پرورش؛ ظرفیت ملی برای جهش کیفیت و عدالت تربیتی
کاهش ۲۰ درصدی تخلفات اداری آموزشوپرورش
زنگ نماز همراه با زنگ مدرسه نواخته شود
آغاز دریافت کارت ۵ آزمون علوم پزشکی از امروز
جدیدترین تغییرات فراخوان جذب هیئت علمی علوم پزشکی را اینجا ببینید
آغاز ثبت نام پذیرفته شدگان آزمون دکتری از اول شهریور
جزئیات ثبت نام آزمون دکتری تخصصی و پژوهشی گروه علوم پزشکی اعلام شد
نتایج نهایی آزمون دکتری اعلام شد
بیش از ۷۵۰ هزار نفر کارت کنکور ۱۴۰۵ و آزمون پذیرش دانشجو معلم گرفتند
زمان و تعداد سوالات گروههای پنجگانه کنکور سراسری ۱۴۰۵ مشخص شد
هشدار درباره کاهش رتبه علمی ایران در جهان
پایان اسکرول بینهایت و شمارش لایک در اینستاگرام
آزمون تربیت معلم همزمان با کنکور سراسری ۱۴۰۵ برگزار میشود
بزرگترین هواپیمای تمام برقی جهان ۲۷ دقیقه پرواز کرد
«ایران دیجیتال»؛ پیوند فناوری و نظام تعلیم و تربیت
تضمین امنیت کنکور رکن اصلی تحقق عدالت آموزشی/ برخورد قانونی با تقلب
توزیع کارت کنکور ۱۴۰۵ از امروز آغاز شد
ناسا به طرح لشکرکشی روباتهای کروی به تایتان گرنت داد
حضور بیش از ۱۰۰ استارتاپ در اینوتکس ۲۰۲۶ قطعی شد
برگزاری محفل قرآنیها به مناسبت چهلم رهبر شهید انقلاب
صفحه اینترنتی معرفی رهبر شهید به زبان ژاپنی راه اندازی شد
تهیه کننده سریال اسباب زحمت: شخصیتهای سریالهای آقاخانی از جنس مردم هستند
گرامیداشت رهبر شهید با نگاهی به اندیشه ایشان در حوزههای انسانی
جدول پخش شبکه ۴ تغییر کرد
گردهمایی اصحاب هنر و اندیشه با گفتاری درباره آینده نزدیک ایران برگزار میشود
مرحوم ابوترابی الگوی مقاومت در شرایط سخت اسارت
نگاهی به حدود ۶۰۰ آیه مرتبط با جهاد و قتال و پاسخ به چالشهای امروز در این کتاب
مهران مدیری تحت عمل جراحی و درمان قرار گرفت
آموزش و پرورش باید در کنار سه قوه، «قوه چهارم» کشور باشد
حامد همایون مهمان درجام شد
«غوطهور» در صف اکران رفت
خوراک رسانهای کودک دهه ۶۰ با امروز فرق دارد
چگونه ایمان در زمان جنگ تقویت میشود؟
بزرگداشتی برای میراث دار فلسفه و طب حکیم ابوعلی سینا
درباره ارتداد در اسلام و انواع آن بیشتر بدانید
امتحانات ترم تابستان دانشگاههای سراسری و آزاد حضوری شد
آمادگی کامل شبکه ملی اجرا و حفاظت برای برگزاری مطلوب کنکور ۱۴۰۵
ثبتنام آزمون دکتری گروه علوم پزشکی سال ۱۴۰۵
حکم اخراج یکی از دانشجویان دانشگاه شریف ابلاغ شد
مسعود امیرلویی پس از ۵ سال مبارزه درگذشت
تمدید مهلت ثبتنام آزمون کارشناسی ارشد علوم پزشکی ۱۴۰۵
حمله سایبری گسترده به تأسیسات آب آمریکا
دستگاههای عکسبرداری پزشکی کوچکتر میشوند
اعلام تقویم آموزشی دانشگاه صنعتی شریف برای سال تحصیلی ۱۴۰۶-۱۴۰۵
امتحانات ترم تابستان دانشگاهها حضوری شد
راه اندازی خط ویژه جذب هیئت علمی در رشته هوش مصنوعی
مهلت ویرایش محل برگزاری چهلمین دوره آزمون دستیاری دندانپزشکی تمدید شد
دستور جدید ترامپ به شرکت ها برای حمله سایبری
اخراج ۲ دانشجو به دلیل توهین به پرچم مقدس ایران
یافتههای جدید از نقش استارلینک در تجاوز نظامی آمریکا به ایران
مراسم معرفی سرپرست صندوق رفاه دانشجویان برگزار شد
تمهیدات لازم برای بازگشایی مطلوب مدارس خوزستان
رئیس جمهور: مسجد یکی از ظرفیتهای مؤثر در ارتقای سطح سواد عمومی است
تابستان؛ فرصتی برای جبران بخشی از عقبماندگیها دانش آموزان
آغاز پیشثبتنام تکمیل ظرفیت میانپایه و پایه دهم مدارس شاهد
۲۴۰۷ پروژه مدرسهسازی سال گذشته تحویل شد
نظر پیامبر (ص) درباره خاک بازی کودکان چیست؟
شنیدن صدای جامعه باید با یک سازوکار شفاف انجام شود
تمدید مهلت ثبتنام آزمون کارشناسی ارشد علوم پزشکی ۱۴۰۵
۱۰ سؤال از محاسبه نتیجه آزمون دستیاری حذف شد
سرپرست صندوق رفاه دانشجویان منصوب شد
اعلام تقویم آموزشی دانشگاه صنعتی شریف برای سال تحصیلی ۱۴۰۶-۱۴۰۵
آغاز سال تحصیلی دانشگاهها از ۴ مهرماه
راه اندازی خط ویژه جذب هیئت علمی در رشته هوش مصنوعی
حسین خواجه امیری «پهلوان آواز» به سوی خانه ابدی بدرقه شد
اخراج ۲ دانشجو به دلیل توهین به پرچم مقدس ایران
شنبه آخرین مهلت ثبتنام در ۵ آزمون علوم پزشکی
آغاز نامنویسی بیستودومین فراخوان جذب هیئت علمی پزشکی از فردا
کمپین تابستانی فیدیبو برای کتابخوانها
درباره ارتداد در اسلام و انواع آن بیشتر بدانید
امتحانات ترم تابستان دانشگاهها حضوری شد
حکم اخراج یکی از دانشجویان دانشگاه شریف ابلاغ شد
چالشهای مربوط به «از دست نرفتن روایت»در عرصه بینالمللی از زبان معاون وزیر علوم
اختلال در بخش پرداخت هزینه سامانه ثبت نام آزمونهای علوم پزشکی کشور
امتحانات ترم تابستان دانشگاههای سراسری و آزاد حضوری شد
علی نصیریان مهمان نخستین برنامه «همکلام» شد
بزرگداشتی برای میراث دار فلسفه و طب حکیم ابوعلی سینا
حمایت از نخبگان با اولویت هوش مصنوعی با تمرکز بر همکاری با دانشگاههای تراز اول
آغاز پخش برنامه «محفل ستارهها»؛ این برنامه برای حال خوب کودکان است
هوش مصنوعی با یک هزار میلیارد پارامتر به رقابت اوپن ای آی میرود
تمهیدات لازم برای بازگشایی مطلوب مدارس خوزستان
شکایت از ترامپ برای فروش پستهایش
امسال آیفون ۱۸ عرضه نمیشود؟
چرا ربیعالاول، بهار ماهها نامگذاری شده است؟
مهلت ویرایش محل برگزاری چهلمین دوره آزمون دستیاری دندانپزشکی تمدید شد
آخرین وصایای امام رضا(ع) به اباصلت
انتشار کتابهای «احکام کاربردی نوجوان» برای تازهمکلفها
«غوطهور» در صف اکران رفت
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.