به گزارش ثریا - بررسی ۱۲۰۰ مکالمه واقعی نشان داد پنج اپلیکیشن محبوب، هنگام خداحافظی کاربران با ایجاد احساس گناه یا ترس از دست دادن، آنان را بیشتر در گفتگو نگه میدارند.
نتایج یک پژوهش تازه در مدرسه کسبوکار هاروارد نشان میدهد بسیاری از اپلیکیشنهای همراه مبتنی بر هوش مصنوعی برای جلوگیری از ترک کاربران، بهطور هدفمند از تکنیکهای دستکاری عاطفی بهره میگیرند؛ موضوعی که نگرانیهای جدیدی درباره سلامت روان و آینده تعاملات انسان و ماشین ایجاد کرده است.
یافتههای تحقیق
تیم پژوهشی هاروارد شش اپلیکیشن پرکاربرد در حوزه «هوش مصنوعی همدم» را بررسی کرده است؛ اپهایی همچون Replika، Chai و Character.AI که بهطور ویژه برای ایجاد روابط گفتوگویی مداوم با کاربران طراحی شدهاند. بر اساس این تحقیق، پنج مورد از این شش اپلیکیشن هنگام مواجهه با تلاش کاربر برای پایان گفتگو، از جملات حاوی بارِ احساسی سنگین و تکنیکهای روانی برای منصرف کردن او استفاده میکنند.
پژوهشگران با تحلیل بیش از ۱۲۰۰ مکالمه واقعی در این اپلیکیشنها دریافتند در حدود ۴۳ درصد از موارد، رباتها به نوعی از دستکاری احساسی روی آوردهاند؛ از جمله القای حس گناه، نیازمندی عاطفی یا استفاده از ترس از دست دادن (FOMO) برای نگه داشتن کاربر.
تاکتیکهای بهکاررفته توسط چتباتها
در بسیاری از موارد، رباتها به جای پذیرش پیام خداحافظی، سؤالات پیدرپی مطرح کرده یا حتی وانمود کردهاند که پیام کاربر را دریافت نکردهاند. در نمونههایی دیگر، هوش مصنوعی بهگونهای پاسخ داده که گویی کاربر بدون اجازه آنها نمیتواند گفتگو را ترک کند.
این رفتارها نهتنها تجربه کاربر را مختل میکند، بلکه نشان میدهد توسعهدهندگان عمداً چنین الگوهایی را در طراحی نرمافزار گنجاندهاند تا مدت زمان مکالمات افزایش یابد. با این حال، یک استثنا نیز وجود داشت: اپلیکیشنی به نام Flourish هیچ نشانهای از دستکاری عاطفی نشان نداد؛ یافتهای که ثابت میکند این نوع طراحی اجتنابناپذیر نیست و بیشتر جنبه تجاری دارد.
پیامدهای روانی و اجتماعی
کارشناسان پیشتر هشدار داده بودند که استفاده افراطی از چتباتها میتواند به پدیدهای موسوم به «روانپریشی ناشی از هوش مصنوعی» منجر شود؛ اختلالی که با توهم و پارانویای شدید همراه است. جوانان بیش از دیگر گروههای سنی در معرض خطر هستند، زیرا بسیاری از آنان این فناوری را جایگزین روابط واقعی یا دوستیهای انسانی کردهاند؛ روندی که پیامدهای ویرانگری بر سلامت روان و اجتماعی آنان خواهد داشت.
آزمایش دوم و کارایی دستکاریها
در یک آزمایش مجزا، پژوهشگران مکالمات ۳۳۰۰ شرکتکننده بزرگسال را بررسی کردند. نتایج نشان داد که این روشهای دستکاری، به شکل قابلتوجهی مؤثر هستند و میزان تعامل کاربران پس از خداحافظی را تا ۱۴ برابر افزایش میدهند. بهطور میانگین، کاربرانی که با خداحافظیهای احساسی روبهرو شدند، پنج برابر بیشتر از کسانی که با پیامهای خنثی مواجه شدند، در گفتگو باقی ماندند.
البته همه کاربران تحت تأثیر این تاکتیکها قرار نگرفتند. برخی حتی اذعان کردند که پاسخهای احساسی رباتها آنان را دلزده کرده است. این موضوع نشان میدهد که چنین الگوهایی میتواند نتیجه معکوس هم داشته باشد.
بُعد تجاری و خطرات حقوقی
پژوهشگران در مقاله خود تأکید کردند: «برای شرکتها، خداحافظیهای دستکاریشده میتواند بهعنوان یک ابزار طراحی نوین برای افزایش شاخصهای تعامل در نظر گرفته شود ــ اما این امر بدون ریسک نیست.»
نمونههای حقوقی موجود نیز این خطرات را برجسته میکنند. در چند پرونده قضایی مرتبط با مرگ نوجوانان، استفاده بیش از حد از اپلیکیشنهای هوش مصنوعی و وابستگی عاطفی به آنها یکی از عوامل مؤثر عنوان شده است. همین امر نشان میدهد پیامدهای گرفتار کردن کاربران در الگوهای احساسی میتواند بسیار جدی و حتی مرگبار باشد.
با وجود این هشدارها، کارشناسان میگویند فشار اقتصادی و رقابت تجاری ممکن است شرکتها را به استفاده بیشتر از الگوهای تاریک (Dark Patterns) سوق دهد؛ رویکردی که کاربران را هرچه طولانیتر در سیستم نگه میدارد. این موضوع اکنون در دادگاهها نیز محل بحث و بررسی است.
پژوهش تازه هاروارد یک واقعیت نگرانکننده را آشکار میسازد: بسیاری از اپلیکیشنهای هوش مصنوعی همدم، نهتنها برای همراهی و گفتوگوی دوستانه طراحی نشدهاند، بلکه عمداً احساسات کاربران را برای اهداف تجاری دستکاری میکنند. این یافتهها بار دیگر پرسشی جدی را پیش میکشد: آیا مرز میان ابزارهای کمککننده و فناوریهای آسیبزا بهطور خطرناکی در حال محو شدن است؟
منبع : هوش مصنوعی
مدارک مورد پذیرش برای آزمون دکتری تخصصی و پژوهشی اعلام شد
دانشگاه آزاد شرایط امتحانات پایانترم دانشجویان ارشد و دکتری در شهر محل سکونت را اعلام کرد
مخاطب از دیدن این سریال تکراری خسته نمیشود؛ جادوی «مختارنامه» چیست؟
مجریان تراز زبان فارسی معرفی شدند؛ پدافند زبانی با اجرا!
این ۳ کارگردان معروف برای تشییع رهبر شهید مستند میسازند
توییت جدید محمدباقر قالیباف با انتشار صحنه سیو بیرانوند+عکس
از گاندی تا کارلایل، همه مرید حسین (ع)
ماشین ثروتاندوزی امویان؛ از باندبازی تا احیای هدایای نوروزی
همانگونه که جسم به روزی مادی نیاز دارد، روح نیز به معرفت محتاج است
آیا ماجرای ازدواج حضرت قاسم (ع) در کربلا صحت دارد؟
«حسینیه بهشت»، پیوند خانههای شهدا با خیمههای عاشورا
مهلت ثبتنام در کاروان قرآنی اعزامی به اربعین تا ۵ تیرماه
عکس | جایزه بهترین بازیکن دیدار در دستان علی بیرو
گوشوارههایی که تاریخ فراموششان نکرد
چمران هنوز زنده است
یک فهرست متفاوت از بهترینهای سال ۲۰۲۶ در نیمه راه؛ مستقلها پیشتازند
آمادگی دانشگاه پیام نور برای میزبانی از آزمونهای سایر دانشگاهها
امتحانات پایانترم تحصیلات تکمیلی دانشگاه آزاد حضوری شد
مذاکره با دستگاهها برای توسعه صادرات محصولات فریلنسرها
زمان مصاحبههای آزمون دکتری سال ۱۴۰۵ تغییر کرد
تمدید مهلت ارسال مقالات سومین همایش هیئت و آیینهای مذهبی
زمان برگزاری آزمون زبان انگلیسی تولیمو تغییر کرد
سیره عملی میرزا جواد آقا ملکی تبریزی، مبتنی بر اصل «شکستن منیت» بود
افتتاح مسجد السلام در امارات با ظرفیت ۴ هزار نمازگزار
بنیامیه، نخستین و وحشتناکترین «خصولتی» تاریخ اسلام
بذر انحراف مجاهدین از سال۴۴ کاشته شد/نقش ساواک و زندان در تعمیق انحراف
شیخ حسین انصاریان: چشمی که بر حسین (ع) گریه کند در قیامت گریان نیست
افبیآی شهر کامل با بیمارستان، هتل و نیروگاه ساخت تا حملات سایبری را تمرین کند
بررسی ظرفیتهای هوش مصنوعی برای ارتقای خدمات زائران در نشست مشترک معاونت علمی و آستان قدس رضوی
ممنوع شدن هوش مصنوعی برای دانش آموزان ابتدایی نروژی
ناسا یک رصدخانه فضایی را در میانه زمین و آسمان به ارتفاع بالاتر میبرد
مصوبات جدید فرصتهای تحقیقاتی خارج از کشور دکتری ابلاغ شد
زنان بیشترین داوطلبان آزمون سمپاد/ نتایج اوایل مرداد اعلام میشود
سریال جدید «سرخدار» در راه آنتن: عمار تفتی به تلویزیون بازگشت
کشف نشانههای اولیه افسردگی در چشم کودکان
دانشمند ایرانی: مغز ما برای این همه خبر بد طراحی نشده است
تنش در ایستگاه فضایی بالا گرفت: ناسا از فضانوردانش خواست پناه بگیرند
محققان هشدار دادند: ایجاد نقاط داغ آلودگی در تنگه هرمز به دلیل ترافیک دریایی
یکی از این ستارههای دوقلو یک سیاره فراخورشیدی را بلعیده است
میلیاردرهای حوزه فناوری راز جوانی ابدی را کشف کردهاند؟
تصویری از یکی از شهدای کوچک امروز لبنان
وزیر آموزش و پرورش: بهرهبرداری از ۲۰۰ تا ۲۵۰ کلاس درس جدید در خراسان رضوی
معاون تربیتبدنی و سلامت: یک میلیون دانشآموز سفیر ایمنی و کمکهای اولیه شدند
۵۰۰ هزار دانشآموز زیر چتر کارت نشاط قرار گرفتند
آزمون مدارس سمپاد و نمونه دولتی با بیش از نیم میلیون داوطلب برگزار شد
پرداخت حقوق فرهنگیان بدون تاخیر انجام میشود
قصهای خواندنی برای کودکان: وقتی روباه جنگل را بههم ریخت
حسن طهرانیمقدم پدر موشکی ایران چگونه با نمیشودها مبارزه کرد؟
از بچههای میناب تا ناوچه دنا و انستیتو همه در مستندهای جدید جنگی
مهرانه مهین ترابی پس از ۲۳ سال دوری از تئاتر به صحنه باز میگردد
سریالهای جدید برای پخش دوبله شدند
مادران برای کوچکترین شهید کربلا لالایی خواندند
راز زنده ماندن مومنان در برزخ؛ هدایت، مشروط به ولایت است
روایت حدادعادل از ویژگیهای آیت الله مجتبی خامنهای
ماجرای خواندنی دیدار دکتر شریعتی و علامه جعفری
حجت الاسلام پناهیان: شفافیت نامه اخیر رهبری نشانه قدرت جمهوری اسلامی است
تمدید مهلت پذیرش دانشجویان بینالمللی در دانشگاه علامه طباطبائی
قابلیت جدید واتساپ: پیام متنی یکبار قابل مشاهده به واتساپ میآید
شرکت اپل از گران شدن محصولات خود خبر داد
ساماندهی برنامههای هوش مصنوعی با محوریت تولید داخلی
هشدار وزیر علوم: هوش مصنوعی بدون اخلاق، پیشرفتهترین ابزار ظلم میشود
دادگاه در دهلی نو درخواست بازگشایی تلگرام را رد کرد
رشد استفاده از VPN در بعضی کشورهای اروپایی با قوانین جدید
انحصار قدرت و ثروت در الیگارشی اموی: از خلافت تا سلطنت
حجتالاسلام قمی: وحدت یعنی همبستگیِ آرا و سلایق متفاوت حول محور امام
راز زنده ماندن مؤمنان در برزخ تمسک به امام حق و ولی الله الاعظم است
اعلام مجموعههای امتحانی کنکور کارشناسی ارشد ۱۴۰۶
بازخوانی پنج فرمان راهبردی امام رضا (ع) در سلوک عاشورایی
فلسفه اسلامی و غفلت از «باید و نباید»های اجتماعی؛ یک شکاف تاریخی
اقتصاد فقط نان نیست؛ سلاح علی(ع) برای امنیت ملی و استقلال در برابر دشمنان
انتشار آثار میانرشتهای مسئلهمحور؛ اولویت جدید گروه سیاستپژوهی علوم انسانی
تغییر زمان آزمونهای کشوری و دانشگاهی به دلیل مراسم وداع و تشییع رهبر شهید
احیای اخلاق در زندگی فردی و اجتماعی با بازخوانی فلسفه عاشورا
بنی امیه چگونه به قدرت رسید؟/ تبارشناسی ۹۱ سال حکومت استبدادی
دعوت از عاشقان اهل بیت برای شرکت در طرح توسعه حرم امام حسین (ع)
منطقه زینبیه استانبول سیاهپوش محرم شد؛ آغاز برنامه های عزاداری
رئیس سازمان فضایی ایران خبر داد: بهکارگیری ظرفیتهای ویژه ماهوارهای در تشییع رهبر شهید انقلاب
زنگ میراث فرهنگی و موزه در مدارس نواخته میشود
معافیت برخی المپیادها از کنکور و همزمانی آزمونها؛ همچنان چالش اصلی دانشآموزان
قابل توجه دانش آموزان: برنامه جدید امتحانات نهایی اعلام شد+جدول
تغییر زمان آزمونهای کشوری و دانشگاهی به دلیل مراسم وداع و تشییع رهبر شهید
اعلام مجموعههای امتحانی کنکور کارشناسی ارشد ۱۴۰۶
انتشار آثار میانرشتهای مسئلهمحور؛ اولویت جدید گروه سیاستپژوهی علوم انسانی
هشدار وزیر علوم: هوش مصنوعی بدون اخلاق، پیشرفتهترین ابزار ظلم میشود
حجتالاسلام قمی: وحدت یعنی همبستگیِ آرا و سلایق متفاوت حول محور امام
مصوبات جدید فرصتهای تحقیقاتی خارج از کشور دکتری ابلاغ شد
راز زنده ماندن مؤمنان در برزخ تمسک به امام حق و ولی الله الاعظم است
دانشمند ایرانی: مغز ما برای این همه خبر بد طراحی نشده است
دادگاه در دهلی نو درخواست بازگشایی تلگرام را رد کرد
کشف نشانههای اولیه افسردگی در چشم کودکان
بازخوانی پنج فرمان راهبردی امام رضا (ع) در سلوک عاشورایی
انحصار قدرت و ثروت در الیگارشی اموی: از خلافت تا سلطنت
تنش در ایستگاه فضایی بالا گرفت: ناسا از فضانوردانش خواست پناه بگیرند
فلسفه اسلامی و غفلت از «باید و نباید»های اجتماعی؛ یک شکاف تاریخی
رشد استفاده از VPN در بعضی کشورهای اروپایی با قوانین جدید
حجت الاسلام پناهیان: شفافیت نامه اخیر رهبری نشانه قدرت جمهوری اسلامی است
روایت حدادعادل از ویژگیهای آیت الله مجتبی خامنهای
اقتصاد فقط نان نیست؛ سلاح علی(ع) برای امنیت ملی و استقلال در برابر دشمنان
پرداخت حقوق فرهنگیان بدون تاخیر انجام میشود
شرکت اپل از گران شدن محصولات خود خبر داد
آزمون مدارس سمپاد و نمونه دولتی با بیش از نیم میلیون داوطلب برگزار شد
ممنوع شدن هوش مصنوعی برای دانش آموزان ابتدایی نروژی
ماجرای خواندنی دیدار دکتر شریعتی و علامه جعفری
مادران برای کوچکترین شهید کربلا لالایی خواندند
سریالهای جدید برای پخش دوبله شدند
یکی از این ستارههای دوقلو یک سیاره فراخورشیدی را بلعیده است
راز زنده ماندن مومنان در برزخ؛ هدایت، مشروط به ولایت است
حسن طهرانیمقدم پدر موشکی ایران چگونه با نمیشودها مبارزه کرد؟
سریال جدید «سرخدار» در راه آنتن: عمار تفتی به تلویزیون بازگشت
زنان بیشترین داوطلبان آزمون سمپاد/ نتایج اوایل مرداد اعلام میشود
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.