به گزارش ثریا - بررسی ۱۲۰۰ مکالمه واقعی نشان داد پنج اپلیکیشن محبوب، هنگام خداحافظی کاربران با ایجاد احساس گناه یا ترس از دست دادن، آنان را بیشتر در گفتگو نگه میدارند.
نتایج یک پژوهش تازه در مدرسه کسبوکار هاروارد نشان میدهد بسیاری از اپلیکیشنهای همراه مبتنی بر هوش مصنوعی برای جلوگیری از ترک کاربران، بهطور هدفمند از تکنیکهای دستکاری عاطفی بهره میگیرند؛ موضوعی که نگرانیهای جدیدی درباره سلامت روان و آینده تعاملات انسان و ماشین ایجاد کرده است.
یافتههای تحقیق
تیم پژوهشی هاروارد شش اپلیکیشن پرکاربرد در حوزه «هوش مصنوعی همدم» را بررسی کرده است؛ اپهایی همچون Replika، Chai و Character.AI که بهطور ویژه برای ایجاد روابط گفتوگویی مداوم با کاربران طراحی شدهاند. بر اساس این تحقیق، پنج مورد از این شش اپلیکیشن هنگام مواجهه با تلاش کاربر برای پایان گفتگو، از جملات حاوی بارِ احساسی سنگین و تکنیکهای روانی برای منصرف کردن او استفاده میکنند.
پژوهشگران با تحلیل بیش از ۱۲۰۰ مکالمه واقعی در این اپلیکیشنها دریافتند در حدود ۴۳ درصد از موارد، رباتها به نوعی از دستکاری احساسی روی آوردهاند؛ از جمله القای حس گناه، نیازمندی عاطفی یا استفاده از ترس از دست دادن (FOMO) برای نگه داشتن کاربر.
تاکتیکهای بهکاررفته توسط چتباتها
در بسیاری از موارد، رباتها به جای پذیرش پیام خداحافظی، سؤالات پیدرپی مطرح کرده یا حتی وانمود کردهاند که پیام کاربر را دریافت نکردهاند. در نمونههایی دیگر، هوش مصنوعی بهگونهای پاسخ داده که گویی کاربر بدون اجازه آنها نمیتواند گفتگو را ترک کند.
این رفتارها نهتنها تجربه کاربر را مختل میکند، بلکه نشان میدهد توسعهدهندگان عمداً چنین الگوهایی را در طراحی نرمافزار گنجاندهاند تا مدت زمان مکالمات افزایش یابد. با این حال، یک استثنا نیز وجود داشت: اپلیکیشنی به نام Flourish هیچ نشانهای از دستکاری عاطفی نشان نداد؛ یافتهای که ثابت میکند این نوع طراحی اجتنابناپذیر نیست و بیشتر جنبه تجاری دارد.
پیامدهای روانی و اجتماعی
کارشناسان پیشتر هشدار داده بودند که استفاده افراطی از چتباتها میتواند به پدیدهای موسوم به «روانپریشی ناشی از هوش مصنوعی» منجر شود؛ اختلالی که با توهم و پارانویای شدید همراه است. جوانان بیش از دیگر گروههای سنی در معرض خطر هستند، زیرا بسیاری از آنان این فناوری را جایگزین روابط واقعی یا دوستیهای انسانی کردهاند؛ روندی که پیامدهای ویرانگری بر سلامت روان و اجتماعی آنان خواهد داشت.
آزمایش دوم و کارایی دستکاریها
در یک آزمایش مجزا، پژوهشگران مکالمات ۳۳۰۰ شرکتکننده بزرگسال را بررسی کردند. نتایج نشان داد که این روشهای دستکاری، به شکل قابلتوجهی مؤثر هستند و میزان تعامل کاربران پس از خداحافظی را تا ۱۴ برابر افزایش میدهند. بهطور میانگین، کاربرانی که با خداحافظیهای احساسی روبهرو شدند، پنج برابر بیشتر از کسانی که با پیامهای خنثی مواجه شدند، در گفتگو باقی ماندند.
البته همه کاربران تحت تأثیر این تاکتیکها قرار نگرفتند. برخی حتی اذعان کردند که پاسخهای احساسی رباتها آنان را دلزده کرده است. این موضوع نشان میدهد که چنین الگوهایی میتواند نتیجه معکوس هم داشته باشد.
بُعد تجاری و خطرات حقوقی
پژوهشگران در مقاله خود تأکید کردند: «برای شرکتها، خداحافظیهای دستکاریشده میتواند بهعنوان یک ابزار طراحی نوین برای افزایش شاخصهای تعامل در نظر گرفته شود ــ اما این امر بدون ریسک نیست.»
نمونههای حقوقی موجود نیز این خطرات را برجسته میکنند. در چند پرونده قضایی مرتبط با مرگ نوجوانان، استفاده بیش از حد از اپلیکیشنهای هوش مصنوعی و وابستگی عاطفی به آنها یکی از عوامل مؤثر عنوان شده است. همین امر نشان میدهد پیامدهای گرفتار کردن کاربران در الگوهای احساسی میتواند بسیار جدی و حتی مرگبار باشد.
با وجود این هشدارها، کارشناسان میگویند فشار اقتصادی و رقابت تجاری ممکن است شرکتها را به استفاده بیشتر از الگوهای تاریک (Dark Patterns) سوق دهد؛ رویکردی که کاربران را هرچه طولانیتر در سیستم نگه میدارد. این موضوع اکنون در دادگاهها نیز محل بحث و بررسی است.
پژوهش تازه هاروارد یک واقعیت نگرانکننده را آشکار میسازد: بسیاری از اپلیکیشنهای هوش مصنوعی همدم، نهتنها برای همراهی و گفتوگوی دوستانه طراحی نشدهاند، بلکه عمداً احساسات کاربران را برای اهداف تجاری دستکاری میکنند. این یافتهها بار دیگر پرسشی جدی را پیش میکشد: آیا مرز میان ابزارهای کمککننده و فناوریهای آسیبزا بهطور خطرناکی در حال محو شدن است؟
منبع : هوش مصنوعی
سینمای زیرزمینی ایران بررسی شد؛ از بحران بازنمایی تا اقتصاد نامرئی
روایت دبیر انجمن سرود کانون پرورش فکری از برگزاری یک جشنواره ملی
«حبیبی یا نبی»؛ نغمهای برای پیامبر رحمت
ریدلی اسکات با «ستاره های سگی» بدترین فیلمش را ساخت
«کوری» از پروندههای قضایی تا ممیزی؛ این سریال مروج مشروبات الکلی است؟
وقف رقیب اقتصاد کشور نیست
بیستمین آزمون سراسری قرآن پس از وقفه ای طولانی برگزار میشود
دانشمندی که هنوز رازهایش کشف نشده است؛ کیمیای رازی در تاریخ علم
تجلیل از ۴۵ چهره شاخص در اولین دوره جایزه جهانی دیپلماسی فرهنگی
تاسیس ۱۳ مؤسسه جدید فرهنگی قرآن و عترت
برگزاری آزمون بخش معارفی چهل و نهمین دوره مسابقات سراسری قرآن اوقاف
شرقشناسی بدون ایرانشناسی، امکان یا امتناع؟
متن نوبتدهی آرایشگاه برای عید؛ نمونههایی برای جذب مخاطب
دانشگاهها با ورزش تابآوری دانشجویان را تقویت کنند
راهنمای ثبتنام پذیرفتهشدگان دکتری دانشگاه علامه طباطبائی اعلام شد
پایان رویای «تنگه ترامپ» و غروب توهمات طاغوت روزگار در اعماق خلیج فارس
بهنام تشکر کارآگاه علوی جدید شد
برگزاری بزرگداشت ابن سینا با حضور اندیشمندان ایرانی و خارجی
تجربههای جهانی بازسازی پساجنگ در ۱۲ جلد کتاب
تلقی رایج از موسسات خیریه غلط است؛ انتشار نخستین گزارش زیست بوم خیریه
برگزاری جشنهای میلاد پیامبر مهربانیها با محوریت خونخواهی رهبر شهید
رجبی دوانی: نیازمند «انقلابی درون انقلاب» هستیم
آیا بین «امر تاریخی» و «امر ایمانی» می توان تمایزی مفهومی ایجاد کرد؟
ابنشهرآشوب روایات را دستکاری میکرد؟
تشخیص زودهنگام سرطان سینه با طراحی یک نانوزیستحسگر در دانشگاه تهران
استکبار جهانی به زبالهدان تاریخ میپیوندد؛ خونخواهی رهبر شهید حق ماست
حمایت مجری معروف اخبار عراق، از خلیج فارس+عکس
جدیدترین تصویر از آیت الله سیستانی
صعود دانشجوی دانشگاه آزاد به بام ایران با یاد دانشمند شهید دکتر طهرانچی +عکس
آغاز کلاسهای نیمسال اول دانشگاه صنعتی امیرکبیر از ۲۸ شهریور
حمله هکرهای ایرانی یک واحد تولید برق را در انگلیس تعطیل کرد
شکایت آمریکا از تیک تاک با ۴۰۰ میلیون دلار تسویه شد
واکنش قالیباف به جنگ اقتصادی ترامپ و داردستهاش+عکس
کلید اولیه ۵ آزمون علوم پزشکی منتشر شد
کلید اولیه آزمونهای سراسری و پذیرش دانشجو معلم سال ۱۴۰۵ منتشر شد
سنتهای اجتماعی قرآن، راهی برای فهم عمیق حوادث بزرگ اجتماعی
میراث علمی ادبی ابن سینا از زبان محققان روسی، ازبکستانی و گرجستانی
مسجد سوخته کوی نصر بازسازی و افتتاح شد
رهبر شهید چگونه «وابستگی موشکی» را پیش از شکلگیری خنثی کرد؟
تصویب عناوین درسی مدارس بینالملل ایران برای نخستینبار
برنامههای درسی دانشگاه فرهنگیان بهروزرسانی شود
افتخارآفرینی دانشآموزان ایرانی در رقابت بینالمللی نوآوری فیزیک مالزی
فروش کتابهای درسی دانشآموزان فقط از سامانه رسمی مقدور است
در جامعه مهدوی رفتارها بر پایه ایثار و حذف انگیزههای سودجویانه است
بحارالانوار گردآوری جهتدار احادیث نیست؛ مجلسی و شکل دهی جامعه شیعه
ورود دانشجویان جدید با تأخیر انجام میشود/ کلاسها حتما حضوری است
نتایج اولیه آزمون کارشناسی ارشد ۱۴۰۵ در دهه اول شهریور اعلام می شود
پذیرش پژوهشگران پسادکتری تقاضامحور در ۱۲ دانشگاه و مرکز پژوهشی کشور
خدمات مرکز مشاوره دانشگاه علم و صنعت حضوری شد
ثبتنام ۴ هزارنفر در فراخوان جذب هیئت علمی علوم پزشکی/اعلام ظرفیت خالی
کوانتوم در آستانه تجاریسازی/ ۵ حوزهای که کوانتوم در حال تغییر آنهاست
توسعه تعاملات علمی و پژوهشی ایران و کشورهای بریکس
اعلام جزئیات شهریه دانشجویان شهریهپرداز دانشگاه الزهرا(س)
تکلیف افزایش ۲۰ درصدی ظرفیت پزشکی و دندانپزشکی تا سال ۱۴۰۴ مشخص شد
کاظمی: فرهنگ ایثار و شهادت، مزیت رقابتی ما در برابر دنیای استکبار است
واکنش سید عباس عراقچی وزیر امور خارجه به ادعای کمرشکنترین عملیات اقتصادی تاریخ
«لباس شخصی»سراغ یک پرونده امنیتی رفت
۵ نمایشنامه از ۵ درامنویس زن خوانده میشود
شکست «ددپول و ولورین» توسط «اودیسه»؛ رایان رینولدز تبریک گفت!
حجت الاسلام قمی: «مسجد» محور جامعه مبعوث است
بازگشت عمو پورنگ پس از ۵ سال به سیما
حجتالاسلام قمی: مسجد باید پرچمدار حرکت مؤمنان و جامعهسازی باشد
حجت الاسلام قمی: مسجد محدود به اقامه نماز نیست
حکمرانی شبکهای امام هادی(ع) در زندان و منشور کلامی زیارت جامعه کبیره
از سامرای محاصرهشده تا عصر غیبت/روایت راهبرد امام عسکری(ع) برای شیعه
فیلمساز ایرانی داور جشنواره یونانی شد
سفر «سندرم بلوغ» به انگلیس
«سیاوش» به هیچ نهادی وابسته نیست؛ هزینهها کاملا شخصی است!
شنیدن زمزمه عود و تمبک در آلبومی که به خواهر تقدیم شد
پذیرش تفاوتها در یک انیمیشن؛ اگر زال شاهنامه دختر بود چه میشد؟
از شکلگیری ایده تا شروع کسبوکار؛ «کارخانه»در رادیو اقتصاد راه افتاد
نمایشی با الهام از جهان موراکامی؛ ارتباط بین هنرمند و مخاطب مهم است
۳ چهره بزرگ در یک فیلم؛ حمایت برد پیت از مستند ویم وندرس درباره زومتور
جزئیات فصل جدید یک رویداد موسیقایی؛ وقتی موسیقی از تهران خارج میشود
تصویر معناداری که قالیباف در کنار خلیج فارس منتشر کرد
امیر جدیدی و حمید نعمتالله در پشتِ صحنه سریال داش آکل
«عید بیعت» در میدان ولیعصر(عج) برگزار میشود
بازگشت حماسی مصدق به قدرت،کینه شاه و دربار علیه دولت ملی را تعمیق کرد
شهادت امام حسن عسکری (ع) هیئت کجا برویم؟
مشرکان عصر جاهلیت موحد بودند؟
کلید اولیه آزمونهای سراسری و پذیرش دانشجو معلم سال ۱۴۰۵ منتشر شد
نتایج اولیه آزمون کارشناسی ارشد ۱۴۰۵ در دهه اول شهریور اعلام می شود
کلید اولیه ۵ آزمون علوم پزشکی منتشر شد
پذیرش پژوهشگران پسادکتری تقاضامحور در ۱۲ دانشگاه و مرکز پژوهشی کشور
آغاز کلاسهای نیمسال اول دانشگاه صنعتی امیرکبیر از ۲۸ شهریور
بازگشت عمو پورنگ پس از ۵ سال به سیما
حمایت مجری معروف اخبار عراق، از خلیج فارس+عکس
حجت الاسلام قمی: مسجد محدود به اقامه نماز نیست
حجتالاسلام قمی: مسجد باید پرچمدار حرکت مؤمنان و جامعهسازی باشد
حجت الاسلام قمی: «مسجد» محور جامعه مبعوث است
برگزاری جشنهای میلاد پیامبر مهربانیها با محوریت خونخواهی رهبر شهید
ورود دانشجویان جدید با تأخیر انجام میشود/ کلاسها حتما حضوری است
برنامههای درسی دانشگاه فرهنگیان بهروزرسانی شود
در جامعه مهدوی رفتارها بر پایه ایثار و حذف انگیزههای سودجویانه است
رهبر شهید چگونه «وابستگی موشکی» را پیش از شکلگیری خنثی کرد؟
تجربههای جهانی بازسازی پساجنگ در ۱۲ جلد کتاب
توسعه تعاملات علمی و پژوهشی ایران و کشورهای بریکس
جزئیات فصل جدید یک رویداد موسیقایی؛ وقتی موسیقی از تهران خارج میشود
فروش کتابهای درسی دانشآموزان فقط از سامانه رسمی مقدور است
رجبی دوانی: نیازمند «انقلابی درون انقلاب» هستیم
«لباس شخصی»سراغ یک پرونده امنیتی رفت
سنتهای اجتماعی قرآن، راهی برای فهم عمیق حوادث بزرگ اجتماعی
دانشگاهها با ورزش تابآوری دانشجویان را تقویت کنند
شکست «ددپول و ولورین» توسط «اودیسه»؛ رایان رینولدز تبریک گفت!
تصویب عناوین درسی مدارس بینالملل ایران برای نخستینبار
میراث علمی ادبی ابن سینا از زبان محققان روسی، ازبکستانی و گرجستانی
حکمرانی شبکهای امام هادی(ع) در زندان و منشور کلامی زیارت جامعه کبیره
واکنش سید عباس عراقچی وزیر امور خارجه به ادعای کمرشکنترین عملیات اقتصادی تاریخ
برگزاری بزرگداشت ابن سینا با حضور اندیشمندان ایرانی و خارجی
اعلام جزئیات شهریه دانشجویان شهریهپرداز دانشگاه الزهرا(س)
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.