به گزارش ثریا - بررسی ۱۲۰۰ مکالمه واقعی نشان داد پنج اپلیکیشن محبوب، هنگام خداحافظی کاربران با ایجاد احساس گناه یا ترس از دست دادن، آنان را بیشتر در گفتگو نگه می‌دارند.
نتایج یک پژوهش تازه در مدرسه کسب‌وکار هاروارد نشان می‌دهد بسیاری از اپلیکیشن‌های همراه مبتنی بر هوش مصنوعی برای جلوگیری از ترک کاربران، به‌طور هدفمند از تکنیک‌های دستکاری عاطفی بهره می‌گیرند؛ موضوعی که نگرانی‌های جدیدی درباره سلامت روان و آینده تعاملات انسان و ماشین ایجاد کرده است.
یافته‌های تحقیق
تیم پژوهشی هاروارد شش اپلیکیشن پرکاربرد در حوزه «هوش مصنوعی همدم» را بررسی کرده است؛ اپ‌هایی همچون Replika، Chai و Character.AI که به‌طور ویژه برای ایجاد روابط گفت‌وگویی مداوم با کاربران طراحی شده‌اند. بر اساس این تحقیق، پنج مورد از این شش اپلیکیشن هنگام مواجهه با تلاش کاربر برای پایان گفتگو، از جملات حاوی بارِ احساسی سنگین و تکنیک‌های روانی برای منصرف کردن او استفاده می‌کنند.
پژوهشگران با تحلیل بیش از ۱۲۰۰ مکالمه واقعی در این اپلیکیشن‌ها دریافتند در حدود ۴۳ درصد از موارد، ربات‌ها به نوعی از دستکاری احساسی روی آورده‌اند؛ از جمله القای حس گناه، نیازمندی عاطفی یا استفاده از ترس از دست دادن (FOMO) برای نگه داشتن کاربر.
تاکتیک‌های به‌کاررفته توسط چت‌بات‌ها
در بسیاری از موارد، ربات‌ها به جای پذیرش پیام خداحافظی، سؤالات پی‌درپی مطرح کرده یا حتی وانمود کرده‌اند که پیام کاربر را دریافت نکرده‌اند. در نمونه‌هایی دیگر، هوش مصنوعی به‌گونه‌ای پاسخ داده که گویی کاربر بدون اجازه آن‌ها نمی‌تواند گفتگو را ترک کند.
این رفتارها نه‌تنها تجربه کاربر را مختل می‌کند، بلکه نشان می‌دهد توسعه‌دهندگان عمداً چنین الگوهایی را در طراحی نرم‌افزار گنجانده‌اند تا مدت زمان مکالمات افزایش یابد. با این حال، یک استثنا نیز وجود داشت: اپلیکیشنی به نام Flourish هیچ نشانه‌ای از دستکاری عاطفی نشان نداد؛ یافته‌ای که ثابت می‌کند این نوع طراحی اجتناب‌ناپذیر نیست و بیشتر جنبه تجاری دارد.
پیامدهای روانی و اجتماعی
کارشناسان پیش‌تر هشدار داده بودند که استفاده افراطی از چت‌بات‌ها می‌تواند به پدیده‌ای موسوم به «روان‌پریشی ناشی از هوش مصنوعی» منجر شود؛ اختلالی که با توهم و پارانویای شدید همراه است. جوانان بیش از دیگر گروه‌های سنی در معرض خطر هستند، زیرا بسیاری از آنان این فناوری را جایگزین روابط واقعی یا دوستی‌های انسانی کرده‌اند؛ روندی که پیامدهای ویرانگری بر سلامت روان و اجتماعی آنان خواهد داشت.
آزمایش دوم و کارایی دستکاری‌ها
در یک آزمایش مجزا، پژوهشگران مکالمات ۳۳۰۰ شرکت‌کننده بزرگسال را بررسی کردند. نتایج نشان داد که این روش‌های دستکاری، به شکل قابل‌توجهی مؤثر هستند و میزان تعامل کاربران پس از خداحافظی را تا ۱۴ برابر افزایش می‌دهند. به‌طور میانگین، کاربرانی که با خداحافظی‌های احساسی روبه‌رو شدند، پنج برابر بیشتر از کسانی که با پیام‌های خنثی مواجه شدند، در گفتگو باقی ماندند.
البته همه کاربران تحت تأثیر این تاکتیک‌ها قرار نگرفتند. برخی حتی اذعان کردند که پاسخ‌های احساسی ربات‌ها آنان را دلزده کرده است. این موضوع نشان می‌دهد که چنین الگوهایی می‌تواند نتیجه معکوس هم داشته باشد.
بُعد تجاری و خطرات حقوقی
پژوهشگران در مقاله خود تأکید کردند: «برای شرکت‌ها، خداحافظی‌های دستکاری‌شده می‌تواند به‌عنوان یک ابزار طراحی نوین برای افزایش شاخص‌های تعامل در نظر گرفته شود ــ اما این امر بدون ریسک نیست.»
نمونه‌های حقوقی موجود نیز این خطرات را برجسته می‌کنند. در چند پرونده قضایی مرتبط با مرگ نوجوانان، استفاده بیش از حد از اپلیکیشن‌های هوش مصنوعی و وابستگی عاطفی به آن‌ها یکی از عوامل مؤثر عنوان شده است. همین امر نشان می‌دهد پیامدهای گرفتار کردن کاربران در الگوهای احساسی می‌تواند بسیار جدی و حتی مرگبار باشد.
با وجود این هشدارها، کارشناسان می‌گویند فشار اقتصادی و رقابت تجاری ممکن است شرکت‌ها را به استفاده بیشتر از الگوهای تاریک (Dark Patterns) سوق دهد؛ رویکردی که کاربران را هرچه طولانی‌تر در سیستم نگه می‌دارد. این موضوع اکنون در دادگاه‌ها نیز محل بحث و بررسی است.
پژوهش تازه هاروارد یک واقعیت نگران‌کننده را آشکار می‌سازد: بسیاری از اپلیکیشن‌های هوش مصنوعی همدم، نه‌تنها برای همراهی و گفت‌وگوی دوستانه طراحی نشده‌اند، بلکه عمداً احساسات کاربران را برای اهداف تجاری دستکاری می‌کنند. این یافته‌ها بار دیگر پرسشی جدی را پیش می‌کشد: آیا مرز میان ابزارهای کمک‌کننده و فناوری‌های آسیب‌زا به‌طور خطرناکی در حال محو شدن است؟
منبع : هوش مصنوعی
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
تصویر منتشر شده از جاسک
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
رژیم چنج در آمریکا رخ داد+عکس
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
استارلینک پایان حکمرانی ارتباطات در ایران است؟
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
فاز دوم آمایش آموزش عالی به‌روز شد
داریوش فرهنگ گوینده یک مستند شد
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل می‌شود
اجرای کنسرت‌نمایش «فرهاد» در تماشاخانه نوفل لوشاتو
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
شکست ترامپ سوژه کارلوس لطوف شد
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
تأکید بر حمایت از ظرفیت‌های بومی امنیت سایبری
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام می‌کند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
با وجود تحریم‌ها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکت‌های اروپا
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
انتخابات میان‌دوره‌ای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
تب هوش مصنوعی در شرکت‌ها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل می‌کند و سلامت بیمار را به خطر می‌اندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پل‌های مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدال‌هایشان را می‌بینیم؟
کتاب «هم‌سفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمی‌گردد
کمبود جدی فضای آموزشی در مناطق حاشیه‌ای و پرتراکم شهری
دانش‌آموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
موج جدید هک سوپرمارکت‌های اروپا
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
تصویر/فراز مهم پیام رهبر انقلاب
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
تأکید بر حمایت از ظرفیت‌های بومی امنیت سایبری
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
قرآن از راز ماندگاری قدرت فرعون می‌گوید
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.