به گزارش ثریا تصور کنید ویدئویی در شبکههای اجتماعی منتشر میشود که در آن یک فرد، سخنی جنجالی بر زبان میآورد؛ صدایی که بهخوبی با صدای واقعی او مطابقت دارد و حرکات چهرهاش نیز طبیعی به نظر میرسد. چند ساعت بعد، ویدئو دستبهدست میشود، کاربران درباره آن موضع میگیرند و حتی ممکن است موقعیت شغلی یا اجتماعی آن فرد به خطر بیفتد. اما بعد مشخص میشود که نه آن سخن گفته شده و نه آن صحنه واقعیت داشته است؛ همهچیز با هوش مصنوعی ساخته شده است.
این فناوری که به «دیپفیک» یا جعل عمیق شهرت یافته، امکان تولید یا دستکاری تصویر، صدا و ویدئو را به شکلی فراهم کرده است که تشخیص محتوای واقعی از جعلی، گاه حتی برای مخاطبان باتجربه دشوار میشود. چهره فردی را میتوان بر بدن دیگری نشاند، صدای او را برای بیان جملهای ساختگی شبیهسازی کرد یا صحنهای تولید کرد که هرگز اتفاق نیفتاده است. مسئله فقط پیشرفت ابزارهای تصویری نیست؛ پرسش اصلی این است که وقتی فناوری امکان جعل واقعیت را فراهم میکند، مسئولیت اخلاقی و شرعی تولیدکننده و منتشرکننده آن چیست؟
از منظر فقه اسلامی، نمیتوان همه کاربردهای این فناوری را یکسان دانست. ساخت تصویر مصنوعی برای یک اثر هنری، بازسازی آموزشی یک رویداد تاریخی، تقلید صدای فرد برای شوخی، جعل سخن او با هدف فریب یا تولید محتوای تحقیرآمیز، وضعیتهای متفاوتی هستند. حکم هر مورد به موضوع، هدف، شیوه اجرا، رضایت اشخاص، محتوای تولیدشده و پیامدهای آن وابسته است. با این حال، یک اصل روشن است: جدیدبودن ابزار به معنای کناررفتن معیارهای شرعی درباره دروغ، فریب، تهمت، هتک حرمت و تضییع حقوق مردم نیست.
وقتی فناوری به جای واقعیت سخن میگوید
دیپفیک را باید از هر نوع تصویرسازی یا ویرایش ساده متمایز کرد. در ویرایش معمولی ممکن است نور، رنگ یا کیفیت یک تصویر تغییر کند، اما در جعل عمیق، فناوری میتواند رفتار، گفتار یا حضور شخصی را شبیهسازی کند و رویدادی غیرواقعی را به شکل یک سند ظاهراً معتبر ارائه دهد. به همین دلیل، خطر اصلی همیشه خود تصویر یا صدا نیست؛ گاهی مسئله، انتساب یک رفتار یا سخن ساختگی به فردی واقعی است.
برای مثال، ساخت ویدئویی طنزآمیز از یک شخصیت خیالی، با تولید ویدئویی که در آن یک فرد واقعی ظاهراً به ارتکاب جرم اعتراف میکند، تفاوت اساسی دارد. در حالت نخست، اگر محتوا برای مخاطب روشن و فاقد محتوای ممنوع باشد، ممکن است مسئله عمدتاً به قواعد عمومی تصویرسازی و هنر مربوط شود. در حالت دوم، محتوای ساختگی میتواند به ابزار فریب، تخریب آبرو یا ایجاد اتهام تبدیل شود.
همین تفاوت نشان میدهد که بررسی فقهی دیپفیک نباید فقط بر این پرسش متمرکز شود که «آیا ساخت تصویر با هوش مصنوعی جایز است؟» پرسش دقیقتر آن است که چه تصویری، از چه شخصی، با چه هدفی، در چه زمینهای و با چه ادعایی تولید و منتشر میشود. ممکن است اصل تولید یک تصویر مصنوعی اشکال مستقلی نداشته باشد، اما استفاده از همان تصویر برای فریب مردم یا انتساب سخنی دروغ به یک شخص، عنوان دیگری پیدا کند.
در پژوهشی با عنوان «حکم شرعی تولید محتوای تصویری و صوتی معصومین (علیهمالسلام) به روش هوش مصنوعی مولد از منظر کرامت و حرمت تقلید ظاهری»، امیر طاها جوادیمنش بهطور خاص به شبیهسازی چهره و صدای پیامبر اکرم(ص) و ائمه اطهار(ع) پرداخته است. این پژوهش، میان ارائه محتوای مصنوعی بهعنوان چهره یا صدای واقعی و استفاده هنری یا آموزشی همراه با اعلام صریح مصنوعیبودن آن تفاوت میگذارد. هرچند موضوع مقاله بهطور ویژه درباره معصومان است، مسئلهای گستردهتر را نیز به یاد میآورد: مخاطب باید بداند با سند واقعی روبهروست یا بازنمایی ساختهشده به کمک فناوری. [۱]
از دروغ تا تهمت؛ عنوان شرعی را باید دقیق شناخت
یکی از مهمترین مبانی بررسی دیپفیک، مسئله صدق و کذب است. اگر فردی با استفاده از هوش مصنوعی ویدئویی بسازد که در آن شخص دیگری جملهای را میگوید که هرگز بر زبان نیاورده، سپس آن را بهعنوان ویدئوی واقعی منتشر کند، محتوایی خلاف واقع را به مخاطب عرضه کرده است. اگر این کار با هدف گمراهکردن دیگران انجام شود، مسئله از یک تجربه فنی فراتر میرود و با فریب و دروغ ارتباط پیدا میکند.
بااینحال، هر تصویر مصنوعی الزاماً دروغ نیست. فیلمی داستانی که بازیگر در آن نقش یک شخصیت تاریخی را ایفا میکند، یا بازسازی دیجیتالی یک رویداد که بهروشنی بهعنوان بازسازی معرفی میشود، لزوماً ادعای ثبت واقعیت ندارد. مشکل زمانی پدید میآید که مرز میان بازنمایی و واقعیت عمداً مخدوش شود؛ بهگونهای که مخاطب تصور کند یک سخن، رفتار یا رویداد واقعاً رخ داده است.
در اینجا باید میان چند عنوان نیز تفاوت گذاشت. دروغ به بیان یا ارائه مطلب خلاف واقع مربوط میشود؛ تهمت و افترا، بسته به تعریف فقهی و شرایط هر مورد، به نسبتدادن ناروا و خلاف واقع به دیگری ارتباط دارند؛ غیبت شرایط خاص خود را دارد و هر سخن منفی یا محتوای جعلی را نمیتوان بیدرنگ مصداق آن دانست؛ هتک حرمت نیز به رفتارهایی مربوط میشود که شأن و آبروی فرد را خدشهدار میکنند. یک ویدئوی جعلی ممکن است با توجه به شرایط، با یک یا چند مورد از این عناوین ارتباط پیدا کند، اما تعیین عنوان دقیق نیازمند بررسی جزئیات است.
برای نمونه، اگر صدای فردی جعل شود تا وانمود کند از گروهی حمایت کرده است، ممکن است هدف، فریب مخاطبان باشد. اگر همان فناوری برای ساخت اعترافی ساختگی به ارتکاب جرم به کار رود، خطر لطمه به آبرو و ایجاد اتهام ناروا نیز مطرح میشود. اگر محتوای جعلی با هدف تحقیر یا تمسخر تولید شود، مسئله هتک حرمت میتواند اهمیت پیدا کند. بنابراین، تحلیل شرعی باید از نامگذاری شتابزده پرهیز کند و رفتار، قصد، محتوا و پیامد را در کنار یکدیگر بسنجد.
رضایت صاحب چهره یا صدا کافی است؟
ممکن است گفته شود اگر فردی با شبیهسازی چهره یا صدای خود موافق باشد، دیگر مسئله شرعی وجود ندارد. رضایت، در بسیاری از موقعیتها، عامل مهمی است؛ اما نمیتوان آن را مجوزی مطلق برای هر نوع محتوای مصنوعی دانست.
فرض کنید فردی به یک گروه تولید محتوا اجازه میدهد صدایش برای ساخت یک اثر طنز استفاده شود. آیا این رضایت شامل ساخت سخنی میشود که بهظاهر از او صادر شده و ممکن است مخاطبان آن را اعتراف واقعی به یک رفتار مجرمانه تلقی کنند؟ آیا اجازه استفاده از چهره در یک اثر هنری، خودبهخود اجازه انتشار همان تصویر در تبلیغی فریبنده یا محتوایی توهینآمیز است؟ پاسخ به این پرسشها به حدود رضایت، ماهیت محتوا و عناوین شرعی مرتبط بستگی دارد.
رضایت شخص میتواند در بررسی برخی حقوق و محدودیتها مؤثر باشد، اما الزاماً همه حقوق دیگران را از میان نمیبرد. برای مثال، اگر یک ویدئوی مصنوعی با رضایت فرد ساخته شود، ولی بهگونهای ارائه شود که مخاطبان را درباره یک رویداد عمومی مهم گمراه کند یا به اشخاص ثالث زیان برساند، صرف رضایت صاحب چهره لزوماً همه ابعاد مسئله را حل نمیکند.
همچنین باید میان تقلید آشکار و جعل پنهان تفاوت گذاشت. اگر مخاطب از ابتدا بداند که صدا یا تصویر شبیهسازی شده و اثر در چارچوبی هنری یا آموزشی ارائه میشود، احتمال فریب کاهش مییابد. اما اگر سازنده عمداً نشانههای مصنوعیبودن را حذف کند تا محتوای ساختگی بهعنوان واقعیت پذیرفته شود، هدف و شیوه استفاده اهمیت بیشتری پیدا میکند.
در نهایت، پرسش تعیینکننده این نیست که آیا هوش مصنوعی میتواند چهره یا صدایی شبیه واقعیت بسازد؛ اکنون چنین قابلیتی وجود دارد. مسئله این است که انسانها با این توانایی چه میکنند و آیا مخاطب را از مرز میان واقعیت و بازسازی آگاه میسازند یا نه. در نگاه فقهی، ابزار نوین بهخودیخود همه عناوین شرعی را تعیین نمیکند؛ هدف، محتوا، نحوه ارائه، رضایت اشخاص و آثار رفتار باید در کنار هم بررسی شوند. هرچه جعل واقعیت آسانتر میشود، مسئولیت در پرهیز از فریب و صیانت از حقوق مردم نیز جدیتر خواهد شد.
منابع
[۱] جوادیمنش، امیر طاها. «حکم شرعی تولید محتوای تصویری و صوتی معصومین (علیهمالسلام) به روش هوش مصنوعی مولد از منظر کرامت و حرمت تقلید ظاهری». شبکه علمی ایران، کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آیندهپژوهی فناوری.https://isnac.ir/AAHD-ABZAZA
مهلت دانشجویان الزهرا(س) برای ثبتنام وام تحصیلی و ودیعه مسکن متأهلی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
مجموعهرباعی «دوستش داشته باش» سروده میلاد عرفانپور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر میشود
۱۵ درصد مدارس کشور در برنامه بازرسیهای دورهای قرار میگیرند
ارائه ۸۵ طرح دانشآموزی در بیستوهشتمین جشنواره جوان خوارزمی
تصویر منتشر شده از جاسک
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
رژیم چنج در آمریکا رخ داد+عکس
امروز آخرین مهلت اعتراض به آزمونهای ارشد و دکتری علوم پزشکی
نسخه پیشنهادی سند حکمرانی نظامهای ارزیابی آموزش عالی بررسی شد
طرح نوین تغذیه با محوریت دانشجویان اجرا میشود
پژوهش مسئلهمحور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاهها
استارلینک پایان حکمرانی ارتباطات در ایران است؟
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تصویب کلیات آییننامه جدید ارتقای اعضای هیئت علمی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
فاز دوم آمایش آموزش عالی بهروز شد
داریوش فرهنگ گوینده یک مستند شد
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل میشود
اجرای کنسرتنمایش «فرهاد» در تماشاخانه نوفل لوشاتو
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
شکست ترامپ سوژه کارلوس لطوف شد
اهمیت آموزش اخلاق و رفتار حرفهای در محیط دانشگاه به پزشکان جوان
تأکید بر حمایت از ظرفیتهای بومی امنیت سایبری
لزوم متناسبسازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانشآموزان ایران پای آرمانهای انقلاب و دفاع از وطن ایستادهاند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانشآموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام میکند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاهها برای ایجاد رشته جدید
با وجود تحریمها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش مییابد
تغییر و بهروزرسانی ۵۰ تا ۷۰ درصدی رشتههای کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون میگوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربنشناسی»
آیا بانکها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میداندار اصلی فعالیتهای قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش مییابد
ثبتنام وامهای تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشتههای پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش میدهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکتهای اروپا
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوریخواهان در انتخابات میاندورهای+عکس
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
انتخابات میاندورهای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
تب هوش مصنوعی در شرکتها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل میکند و سلامت بیمار را به خطر میاندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیارهای وهمانگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پلهای مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدالهایشان را میبینیم؟
کتاب «همسفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمیگردد
کمبود جدی فضای آموزشی در مناطق حاشیهای و پرتراکم شهری
دانشآموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحهها برای نوجوانان در چت جی پی تی
ثبتنام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولیهای ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمیشود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشتههای مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
ثبتنام وامهای تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش میدهد
اعلام فهرست رشتههای پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
اهمیت آموزش اخلاق و رفتار حرفهای در محیط دانشگاه به پزشکان جوان
موج جدید هک سوپرمارکتهای اروپا
وام تحصیلی این دانشجویان ۵۰ درصد افزایش مییابد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
دانشآموزان ایران پای آرمانهای انقلاب و دفاع از وطن ایستادهاند
تصویر/فراز مهم پیام رهبر انقلاب
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
لزوم متناسبسازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
تصمیم جدید وزارت علوم درباره درخواست دانشگاهها برای ایجاد رشته جدید
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تغییر و بهروزرسانی ۵۰ تا ۷۰ درصدی رشتههای کشاورزی
آیا بانکها برای خلق پول به مجوز فقهی نیاز دارند؟
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربنشناسی»
قرآن از راز ماندگاری قدرت فرعون میگوید
واکنش کاخ سفید پس از شکست جمهوریخواهان در انتخابات میاندورهای+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش مییابد
انتخابات میاندورهای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.