به گزارش ثریا - بررسی ۱۲۰۰ مکالمه واقعی نشان داد پنج اپلیکیشن محبوب، هنگام خداحافظی کاربران با ایجاد احساس گناه یا ترس از دست دادن، آنان را بیشتر در گفتگو نگه میدارند.
نتایج یک پژوهش تازه در مدرسه کسبوکار هاروارد نشان میدهد بسیاری از اپلیکیشنهای همراه مبتنی بر هوش مصنوعی برای جلوگیری از ترک کاربران، بهطور هدفمند از تکنیکهای دستکاری عاطفی بهره میگیرند؛ موضوعی که نگرانیهای جدیدی درباره سلامت روان و آینده تعاملات انسان و ماشین ایجاد کرده است.
یافتههای تحقیق
تیم پژوهشی هاروارد شش اپلیکیشن پرکاربرد در حوزه «هوش مصنوعی همدم» را بررسی کرده است؛ اپهایی همچون Replika، Chai و Character.AI که بهطور ویژه برای ایجاد روابط گفتوگویی مداوم با کاربران طراحی شدهاند. بر اساس این تحقیق، پنج مورد از این شش اپلیکیشن هنگام مواجهه با تلاش کاربر برای پایان گفتگو، از جملات حاوی بارِ احساسی سنگین و تکنیکهای روانی برای منصرف کردن او استفاده میکنند.
پژوهشگران با تحلیل بیش از ۱۲۰۰ مکالمه واقعی در این اپلیکیشنها دریافتند در حدود ۴۳ درصد از موارد، رباتها به نوعی از دستکاری احساسی روی آوردهاند؛ از جمله القای حس گناه، نیازمندی عاطفی یا استفاده از ترس از دست دادن (FOMO) برای نگه داشتن کاربر.
تاکتیکهای بهکاررفته توسط چتباتها
در بسیاری از موارد، رباتها به جای پذیرش پیام خداحافظی، سؤالات پیدرپی مطرح کرده یا حتی وانمود کردهاند که پیام کاربر را دریافت نکردهاند. در نمونههایی دیگر، هوش مصنوعی بهگونهای پاسخ داده که گویی کاربر بدون اجازه آنها نمیتواند گفتگو را ترک کند.
این رفتارها نهتنها تجربه کاربر را مختل میکند، بلکه نشان میدهد توسعهدهندگان عمداً چنین الگوهایی را در طراحی نرمافزار گنجاندهاند تا مدت زمان مکالمات افزایش یابد. با این حال، یک استثنا نیز وجود داشت: اپلیکیشنی به نام Flourish هیچ نشانهای از دستکاری عاطفی نشان نداد؛ یافتهای که ثابت میکند این نوع طراحی اجتنابناپذیر نیست و بیشتر جنبه تجاری دارد.
پیامدهای روانی و اجتماعی
کارشناسان پیشتر هشدار داده بودند که استفاده افراطی از چتباتها میتواند به پدیدهای موسوم به «روانپریشی ناشی از هوش مصنوعی» منجر شود؛ اختلالی که با توهم و پارانویای شدید همراه است. جوانان بیش از دیگر گروههای سنی در معرض خطر هستند، زیرا بسیاری از آنان این فناوری را جایگزین روابط واقعی یا دوستیهای انسانی کردهاند؛ روندی که پیامدهای ویرانگری بر سلامت روان و اجتماعی آنان خواهد داشت.
آزمایش دوم و کارایی دستکاریها
در یک آزمایش مجزا، پژوهشگران مکالمات ۳۳۰۰ شرکتکننده بزرگسال را بررسی کردند. نتایج نشان داد که این روشهای دستکاری، به شکل قابلتوجهی مؤثر هستند و میزان تعامل کاربران پس از خداحافظی را تا ۱۴ برابر افزایش میدهند. بهطور میانگین، کاربرانی که با خداحافظیهای احساسی روبهرو شدند، پنج برابر بیشتر از کسانی که با پیامهای خنثی مواجه شدند، در گفتگو باقی ماندند.
البته همه کاربران تحت تأثیر این تاکتیکها قرار نگرفتند. برخی حتی اذعان کردند که پاسخهای احساسی رباتها آنان را دلزده کرده است. این موضوع نشان میدهد که چنین الگوهایی میتواند نتیجه معکوس هم داشته باشد.
بُعد تجاری و خطرات حقوقی
پژوهشگران در مقاله خود تأکید کردند: «برای شرکتها، خداحافظیهای دستکاریشده میتواند بهعنوان یک ابزار طراحی نوین برای افزایش شاخصهای تعامل در نظر گرفته شود ــ اما این امر بدون ریسک نیست.»
نمونههای حقوقی موجود نیز این خطرات را برجسته میکنند. در چند پرونده قضایی مرتبط با مرگ نوجوانان، استفاده بیش از حد از اپلیکیشنهای هوش مصنوعی و وابستگی عاطفی به آنها یکی از عوامل مؤثر عنوان شده است. همین امر نشان میدهد پیامدهای گرفتار کردن کاربران در الگوهای احساسی میتواند بسیار جدی و حتی مرگبار باشد.
با وجود این هشدارها، کارشناسان میگویند فشار اقتصادی و رقابت تجاری ممکن است شرکتها را به استفاده بیشتر از الگوهای تاریک (Dark Patterns) سوق دهد؛ رویکردی که کاربران را هرچه طولانیتر در سیستم نگه میدارد. این موضوع اکنون در دادگاهها نیز محل بحث و بررسی است.
پژوهش تازه هاروارد یک واقعیت نگرانکننده را آشکار میسازد: بسیاری از اپلیکیشنهای هوش مصنوعی همدم، نهتنها برای همراهی و گفتوگوی دوستانه طراحی نشدهاند، بلکه عمداً احساسات کاربران را برای اهداف تجاری دستکاری میکنند. این یافتهها بار دیگر پرسشی جدی را پیش میکشد: آیا مرز میان ابزارهای کمککننده و فناوریهای آسیبزا بهطور خطرناکی در حال محو شدن است؟
منبع : هوش مصنوعی
اعلام تقویم آموزشی دانشگاه صنعتی شریف برای سال تحصیلی ۱۴۰۶-۱۴۰۵
امتحانات ترم تابستان دانشگاهها حضوری شد
راه اندازی خط ویژه جذب هیئت علمی در رشته هوش مصنوعی
مهلت ویرایش محل برگزاری چهلمین دوره آزمون دستیاری دندانپزشکی تمدید شد
دستور جدید ترامپ به شرکت ها برای حمله سایبری
اخراج ۲ دانشجو به دلیل توهین به پرچم مقدس ایران
یافتههای جدید از نقش استارلینک در تجاوز نظامی آمریکا به ایران
مراسم معرفی سرپرست صندوق رفاه دانشجویان برگزار شد
تمهیدات لازم برای بازگشایی مطلوب مدارس خوزستان
رئیس جمهور: مسجد یکی از ظرفیتهای مؤثر در ارتقای سطح سواد عمومی است
تابستان؛ فرصتی برای جبران بخشی از عقبماندگیها دانش آموزان
آغاز پیشثبتنام تکمیل ظرفیت میانپایه و پایه دهم مدارس شاهد
۲۴۰۷ پروژه مدرسهسازی سال گذشته تحویل شد
نظر پیامبر (ص) درباره خاک بازی کودکان چیست؟
شنیدن صدای جامعه باید با یک سازوکار شفاف انجام شود
نماز خواندن در خانه ای که سگ در آن است چه حکمی دارد؟
«زوتوپیا ۳» ساخته میشود
آغاز پخش برنامه «محفل ستارهها»؛ این برنامه برای حال خوب کودکان است
آغاز پخش «هزار داستان» با اجرای مجری معروف
مدیرعامل جدید مؤسسه فرهنگی دارالعرفان شیعی معرفی شد
چرا باید سیره مبارزاتی ائمه اطهار را بازخوانی کنیم؟
حمایت از نخبگان با اولویت هوش مصنوعی با تمرکز بر همکاری با دانشگاههای تراز اول
روسیه توسعه رقیب استارلینک را به سرعت ادامه میدهد
۱۰ سؤال از محاسبه نتیجه آزمون دستیاری حذف شد
پاول دوروف تولد ۱۳ سالگی تلگرام را تبریک گفت
آغاز سال تحصیلی دانشگاهها از ۴ مهرماه
در سوگ یکی از پرطنینترین صداهای تاریخ موسیقی ایران
علی نصیریان مهمان نخستین برنامه «همکلام» شد
حسین خواجه امیری «پهلوان آواز» به سوی خانه ابدی بدرقه شد
بردلی کوپر فیلمبرداری پیشدرآمد «اوشن» را شروع کرد
چرا ربیعالاول، بهار ماهها نامگذاری شده است؟
سه پروژه راهبردی پژوهشگاه ملی سرطان در انتظار حمایت
امسال آیفون ۱۸ عرضه نمیشود؟
اختلال در بخش پرداخت هزینه سامانه ثبت نام آزمونهای علوم پزشکی کشور
شنبه آخرین مهلت ثبتنام در ۵ آزمون علوم پزشکی
آغاز نامنویسی بیستودومین فراخوان جذب هیئت علمی پزشکی از فردا
کنسرتها دوباره آغاز میشوند/ بازگشت خوانندگان به روی صحنه
تعلیق داوری در مناظره امام رضا(ع) با جاثلیق و مسئله گفتوگوی امروز
آخرین وصایای امام رضا(ع) به اباصلت
پایان ماه صفر گریختن از یک زمان نحس نیست
مشکی از تن به درآرید ماه ربیع آمده است
«هجرت پیامبر(ص)» تحولی عمیق در ساختار اجتماعی جامعه اسلامی ایجاد کرد
هوش مصنوعی با یک هزار میلیارد پارامتر به رقابت اوپن ای آی میرود
سرپرست صندوق رفاه دانشجویان منصوب شد
چالشهای مربوط به «از دست نرفتن روایت»در عرصه بینالمللی از زبان معاون وزیر علوم
شکایت از ترامپ برای فروش پستهایش
غزهای که رسانهها نشان ندادند در کتاب «پاپیون؛ نسخه غزه»
کمپین تابستانی فیدیبو برای کتابخوانها
با این داستان کودکتان فصلها را بهتر میشناسد
انتشار کتابهای «احکام کاربردی نوجوان» برای تازهمکلفها
سفر جهادی به بشاگرد در کتاب «تختههای سفید» روایت شد
بازخوانی سیمای عقیله بنیهاشم در قلم «بنتالشاطی»
بهرام رادان به کنسرت نمایش «سیاوش» پیوست
پخش برنامههای جدید در رادیو اقتصاد با محوریت کسب و کار خانگی
توزیع کارت کنکور ۱۴۰۵ از ۲۶ مرداد آغاز میشود/ اعلام نحوه رفع نقص کارت
تعیین ظرفیت ۴۸۳۰ نفری برای آزمون ارشد علوم پزشکی
صلح امام حسن (ع) چه تاثیری در افشای چهره واقعی نفاق اموی داشت؟
سه پرده از تراژدی دینفروشی نخبگان
سید جلال حسینی درگذشت
تصریح قرآن بر خاتمیت و شمول جهانی دعوت پیامبر (ص)/راز جاودانگی تعالیم
پیامبر گرامی اسلام شهید شدند یا رحلت کردند؟ بررسی نگاه شیعه و سنی به این سوال
فراخوان دریافت آثار هفدهمین جشنواره فارابی منتشر شد
رامبد جوان با یک مسابقه هوش مصنوعی بازمیگردد
اعمال شب و روز ۲۸ صفر چیست؟
راهبردهای پیامبر(ص) در مدیریت بحران؛ الگویی زنده برای امروز
منوچهر هادی بر سر مزار اکبر عبدی حاضر شد+عکس
تبریک رئیس جهاد دانشگاهی در پی انتصاب فرماندهان جدید نیروهای مسلح
ژاپن ماهواره ناوبری به فضا پرتاب کرد
ثبت اختراع دستاورد ایران در حوزه ذخیرهسازهای انرژی در آمریکا
لنوو لپ تاپی با نمایشگر لوله شونده میسازد
۲/۵ میلیون دانشآموز در مسیر آموزش دقیق هوش مصنوعی
رتبهبندی مدارس غیردولتی از مهرماه آغاز میشود
مهلت جشنواره جوان خوارزمی تا ۱۵ شهریور تمدید شد
آشنایی نسل جدید با سیره امام رضا(ع) از دریچه این کتابها
کمک داوطلبانه یا شهریه پنهان؛ مرز دریافت پول از والدین کجاست؟
ماجرای آزمون بهداشتکاران دهان و دندان و تصمیم وزارت بهداشت
تاکید وزیر علوم بر مشورت با شوراهای صنفی در اجرای طرح تغذیه دانشجویان
قیمت بلیت پرواز تهران-مشهد نجومی شد+عکس
تصویر فرماندهان شهید سردار پاکپور و سردار تنگسیری
هواپیمای ویژه مقامات امارات راهی ایران شد +عکس
رتبهبندی مدارس غیردولتی از مهرماه آغاز میشود
جزئیات برگزاری و دریافت کارت کنکور ۱۴۰۵ و آزمون دانشجو معلم اعلام شد
تعیین ظرفیت ۴۸۳۰ نفری برای آزمون ارشد علوم پزشکی
ماجرای آزمون بهداشتکاران دهان و دندان و تصمیم وزارت بهداشت
جزییات ۴ مدل دوره پسادکتری برای استفاده از ظرفیت فارغالتحصیلان تشریح شد
آغاز رسمی جذب محققان «پسادکتری فناوری» ویژه شرکتهای دانش بنیان
جناب خان از این تاریخ به شبکه نسیم بازمیگردد
تدارک ویژه رادیو برای ایام سوگواری پایان ماه صفر
اعمال شب و روز ۲۸ صفر چیست؟
نتایج آزمون سمپاد پایه دهم اعلام شد
پیوندی که «ملاحسینقلی همدانی» بین فقه و سلوک باطنی ایجاد کرد
مهلت جشنواره جوان خوارزمی تا ۱۵ شهریور تمدید شد
روایت زندگی رهبر شهید انقلاب برای نسل نوجوان منتشر شد
آقای بازیگر دبیر چهل و پنجمین جشنواره تئاتر فجر شد
«گل یاس» شادمهر عقیلی چرا اینستاگرام را تسخیر کرد؟
آشنایی نسل جدید با سیره امام رضا(ع) از دریچه این کتابها
کمک داوطلبانه یا شهریه پنهان؛ مرز دریافت پول از والدین کجاست؟
نرخ ماندگاری نخبگان در سال ۱۴۰۳ اعلام شد/ کاهش ۳۰ درصدی روند آزادسازی مدارک تحصیلی
رامبد جوان با یک مسابقه هوش مصنوعی بازمیگردد
توزیع کارت کنکور ۱۴۰۵ از ۲۶ مرداد آغاز میشود/ اعلام نحوه رفع نقص کارت
منوچهر هادی بر سر مزار اکبر عبدی حاضر شد+عکس
معرفی برگزیدگان تولیدات آوایی «رهبر شهید قرآنی»
نظر رائد فریدزاده درباره فیلمهای زیرزمینی سینمای ایران
تراشههای چینی به آیفون و مک بوکهای آمریکایی نفوذ کرد
حق نشر رمان نوجوان «زیبا صدایم کن» به ناشران چین و ژاپن واگذار شد
رهبر شهید: این زبانِ به این خوبی را چرا با تعبیرات غلط خراب کنیم؟
آماده باشید: چهارشنبه این هفته خورشید میگیرد/ اوج کسوف در اسپانیا
قیمت بلیت پرواز تهران-مشهد نجومی شد+عکس
پرونده ویژه شهید سپهبد سیدعبدالرحیم موسوی منتشر شد
عرضه هوشهای مصنوعی ارزان چینی و رقابت با آمریکا
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.