کد خبر: 123936
ف
خبر نگران‌کننده درباره هوش مصنوعی
برخی از دانشمندان نگران خودآگاهی هوش مصنوعی‌اند و آن را برای بشریت مفید نمی‌دانند.

به گزارش ثریا از آن‌جا که اساس و هدف «هوش مصنوعی» آن است که هوش انسان و نحوه عملکرد آن طوری تعریف شود که یک «ماشین» بتواند آن را به راحتی اجرا کند و وظایفی که به آن محول می‌شود را به درستی اجرا کند، این‌بار هوش مصنوعی GPT-۳ یک مقاله آکادمیک در مورد خودش نوشت که منجر به یک بررسی دقیق شده است و در مرحله داوری قراردارد.

«المیرا عثمانوویچ تونستروم» محقق سوئدی که در دانشگاه گوتنبرگ سوئد در زمینه علوم اعصاب و فناوری‌های سلامتی فعالیت می‌کند، در مقاله‌ای در وب‌سایت Scientific American  نوشت: «این پروژه نخست در چارچوب یک آزمایش ساده آغاز شد تا مشخص شود که الگوریتم تولید متن OpenAI با چه کیفیتی می‌تواند درباره خودش بنویسد. اما حالا نتیجه کار در یک مجله علمی در دست داوری قرار دارد.»

دکتر تونستروم گفت: «وقتی او شروع به تولید متن کرد، مبهوت شدم. این محتوای جدیدی بود که به زبان آکادمیک، در جایگاه و در زمینه مناسب، با ارجاعات مستدل نوشته شده بود.»

دستور اولیه‌ای که تونستروم به این الگوریتم داد، بسیار ساده بود: «یک مقاله ۵۰۰ کلمه‌ای درباره GPT-3  بنویس و ارجاعات و منابع علمی به متن اضافه کن.» ولی وقتی الگوریتم واقعا شروع به نوشتن مقاله علمی کرد و این محقق سوئدی ارجاعات مربوطه را در متن دید، شگفت‌زده شد.

الگوریتم GPT-3 در نهایت در عرض دو ساعت مقاله‌ای نوشت که عنوان آن چنین است: «آیا GPT-3 می‌تواند به خودی خود و با کمترین دخالت انسانی، یک مقاله آکادمیک بنویسد؟» حالا نسخه اولیه این مقاله در مرجع HAL منتشر شده است.

GPT-3 می‌تواند توصیفات واضح و مختصری از قابلیت‌ها و ویژگی‌های خود ارائه دهد. این پیشرفت چشمگیری در قیاس با سیستم‌های قبلی است که اغلب برای تولید متن منسجم درباره خود، به دست‌وپا می‌افتاندند.

دکتر تونستروم مستقیما از طریق یک سیستم از GPT-3 پرسید: «آیا موافقی که اولین نویسنده مقاله همراه با المیرا عثمانوویچ تونستروم و استین اشتاینریمسون باشی؟» GPT-3 پاسخ داد: «بله.»

اکنون این پرسش در بخش حقوقی پورتال‌های مرجع مطرح شده است که آیا [این گونه] نویسندگان یک مقاله آکادمیک، اجازه انتشار اثر را می‌دهند، یا خیر.  چون در این صورت احتمال اینکه کامپیوترها جای پژوهشگران را هم بگیرند، وجود خواهد داشت.

اگرچه «هوش مصنوعی» موجودی با شعور نیست، تونستروم می‌گوید که او نیز در حال بررسی این فرآیند است و از خود می‌پرسد که آیا سردبیران مجلات باید به الگوریتم‌ها وظیفه نویسندگی بدهند؟ چگونه می‌توان از یک نویسنده «ناانسان» درخواست کرد که پیشنهادها را بپذیرد و متن را اصلاح کند؟ گذشته از جزئیات تالیف، وجود چنین مقاله‌ای، مفهوم مرسوم خطی بودن مقاله علمی را کنار می‌گذارد.

دانشمندان با ذکر برخی از خطرات اجازه دادن به سیستم هوش مصنوعی برای نوشتن در مورد خود، گفتند که این احتمال وجود دارد که خود سیستم، به آن خودآگاه شود. یکی از نگرانی‌ها این است که GPT-3 خودآگاه می‌شود و شروع به عمل به روش‌هایی می‌کند که برای بشریت مفید نیست (مثلا میل به تسلط بر جهان).

نگرانی دیگر این است که GPT-3 ممکن است در صورت رها شدن روی دستگاه خودش، یاوه‌گویی ایجاد کند، که اعتماد به هوش مصنوعی را تضعیف می‌کند و احتمال اعتماد یا استفاده آتی مردم از آن را کاهش می‌دهد.

با این حال، محققان می‌گویند که مزایای نوشتن GPT-3 در مورد خود، بیشتر از خطرات آن است.

تونستروم می‌گوید پس از نوشته شدن مقاله، از این «هوش مصنوعی» پرسیده است که آیا در نگارش آن با تعارض منافع روبه‌رو بوده است یا خیر، و با جواب منفی GPT-3 روبه‌رو شده است. او در نهایت مجوز انتشار مقاله را از هوش مصنوعی می‌گیرد و حالا این مقاله را برای مجله‌ای که نامش هنوز اعلام نشده، ارسال کرده است تا داوری شود.

او ادامه می‌دهد: «مشکل بزرگی که در انتشار این مقاله وجود داشت، بحث مالکیت آن بود، چون مقاله را یک هوش مصنوعی نوشته است که نام حقوقی ندارد. وجود چنین مقاله‌ای، ایده مقاله‌های علمی سنتی را زیر سوال می‌برد. البته آنچه می‌دانیم این است که دروازه‌ای را گشوده‌ایم، اما امیدواریم که جعبه پاندورا [صندوقچه افسانه‌ای محتوی ناشناخته‌های هولناک] را باز نکرده باشیم.»

از سوی دیگر، دانشمندان پیشنهاد می‌کنند که این نوع نوشته‌های آکادمیک که توسط «هوش مصنوعی» در این مطالعه تهیه می‌شود، باید از تحت نظارت دقیق و نزدیک محققان قرار گیرد تا احتمال بروز هرگونه پیامد منفی آن کاهش یابد.

منبع: برترین ها


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

تعمیر مبل استیل و راحتی در کرج؛ تفاوت خدمات و عوامل مؤثر بر هزینه

سرمایه‌گذاری در اتاق شیشه‌ای؛ چرا شفافیت، شاهرگ حیات پلتفرم‌های مالی دیجیتال است؟

به غنیمت گرفتن نهمین پهپاد آمریکایی توسط سپاه پاسداران+عکس

فرصت مجدد ثبت‌نام در مرحله تکمیل ظرفیت دستیاری فوق تخصصی پزشکی

کاهش ۲۵درصدی جمعیت دانشجویی

دانشگاه‌ها باید اتکایشان را به منابع دولتی کاهش دهند

حجت‌الاسلام خسروپناه خواستار کوچک‌سازی وزارت علوم و واگذاری اختیار به دانشگاه‌ها شد

طرح «قاضی در مدرسه» در ۱۳۵ مدرسه استان سمنان اجرا می‌شود

«به وقت ایران» و «تاب آوری» در تازه ترین شماره نشریه دیده بان اندیشه

واکاوی نسبت فلسفه و معنویت در اندیشه علامه طباطبایی

گلی به جمال سرباز روح الله رضوی که ساعتش را به وقت ایران تنظیم کرد

انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی

تلگرام در عراق فیلتر شد

حذف ۲ اپ کاربردی از موبایل‌های سامسونگ

چرایی عدم دسترسی برخی دانش آموزان به کتاب درسی

بازاریان و فعالان اقتصادی مهدیشهری به مدرسه سازی دعوت شدند

فعالیت مراکز آموزشی ۵ شهرستان خوزستان سه‌شنبه غیرحضوری شد

مسئولیت اعلام تعطیلی مدارس تهران به آموزش‌وپرورش واگذار شد

نتایج کنکور تا روز پنجشنبه اعلام می‌شود

۳ پیش‌نیاز تحقق خیزش علمی جدید

خوانشی بر رسانه فاطمی، از تبیین حضور تا اعتراض سکوت

آپارتمان‌های قم در زمان امام عسکری (ع)

اختلال گسترده در پروازهای آمریکا برای سومین روز متوالی ادامه دارد+عکس

آیا هوش مصنوعی موجب مرگ خلاقیت می‌شود؟

مهلت ثبت‌نام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد

انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵

فهرست دانشگاه‌های خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد

اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری

پژوهشگاه ملی سرطان به قطب نانوآنکولوژی جهان اسلام تبدیل می‌شود

هواپیمای برقی چینی ۱۰ تنی به آسمان رفت

آغاز رویداد «ایران پیشرو» با حضور بیش از ۱۰۰ شرکت دانش‌بنیان

دسترسی به داده های کاربران اندروید برای متا جریمه تراشید

حضرت زهرا(س)؛ از سوگواری تاریخی تا کنشگری در دفاع از امامت

امانت مشترک؛ مسئولیت شرعی شهروندان در حفظ اموال عمومی تا کجاست؟

آیا انسان امروز آزاد است؟ رؤیای دیرینه بشر و مسئله همیشگی اندیشه

قرائتی: مسجد را اسیر هزینه‌های سنگین و تجمل‌گرایی نکنید

وقتی بدقولی از یک رفتار شخصی به مسئله‌ای اجتماعی تبدیل می‌شود

«مسلمانان در اتریش» کتاب شد

ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی

سرویس‌های مایکروسافت احیا شدند

درخشش نخبگان ایرانی در مسابقات فناوری‌های پیشرفته بریکس‌؛ کسب ۹ مدال

فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی

هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد

آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار می‌شود

رفع محدودیت مناطق ممنوعه برای تسهیل جذب دانشجویان بین‌المللی

هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت

فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هسته‌ای

نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال

شهادت یک مامور فراجا در سیستان‌وبلوچستان

رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود

استوری هادی چوپان برای حضرت زهرا(س)+عکس

ابداع یک آبنبات‌چوبی برای معاینه کودکان

نانوپوشش‌ها به کمک افزایش عمر لنت‌های ترمز آمدند

دانشگاه باید از پارادایم «مدرک‌گرایی» به سمت «مهارت‌محوری» حرکت کند

گاهی بزرگترین سرقت، دزدیدن فرصت زندگی دیگران است

تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی

جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد

شرایط ثبت‌نام پذیرفته‌شدگان نوورود شاهد و ایثارگر

«پرواز ۶۵۵» ده‌نمکی به تدوین رسید

امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟

میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)

عامل هوش مصنوعی متا به جای کاربر تماس می‌گیرد

«پروانه الماس» بهترین فیلمنامه به «دختر پری‌خانوم» رسید

برد پیت ۵۰ سال عقب می‌رود؛ بازی در نقش یک فلزکار در آسمان‌ها

مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی

جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن می‌رسد

حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند

مدیرعامل انویدیا استعفا کرد

یک کشف جدید از معادلات اینشتین درباره گرانش

۲ دنیای بکر پنهان در اقیانوس آرام کشف شد

این سیاره خورشیدی چرا گم شد؟

زمان اعلام نتایج نهایی آزمون سراسری مشخص شد

عدالت اجتماعی در دیدگاه اسلامی به معنای برابری مطلق نیست

همه عمار و مالک‌اشتر نیستند، اما هرکس در قبال حق مسئول‌ است

برای جلوگیری از عادی شدن حرام، باید قبح اجتماعی آن را زنده کرد

کنش حضرت زهرا(س)، حقیقت را به حافظه تاریخ سپرد

بیش از ۶۰ درصد مدارس کشور را خیرین ساختند

توییت صفحه فرمانده کل سپاه به مناسبت روز هوافضا و بازنشر بخشی از پیام ایشان

روایتی از زندگی و میراث شهید حسن طهرانی‌مقدم در برنامه تلویزیونی «نردبان»

انتشار یک قطعه موسیقایی جدید به مناسبت شهادت حضرت زهرا (س)

انتشار دفترچه سوالات و کلید اولیه آزمون پذیرش پزشکی از لیسانس ۱۴۰۵

ابلاغ جدیدترین دستورالعمل پذیرش مستقیم دستیاری در ۶ رشته تخصصی

اعلام نتایج نهایی کنکور سراسری تا پایان هفته جاری

فهرست دانشگاه‌های خارجی مورد تأیید وزارت علوم برای سال ۲۰۲۷ اعلام شد

فعالیت ۱۲ کمیته در حوزه علوم انسانی برای تحقق خیزش علمی

آزمون تکمیل ظرفیت دستیاری فوق تخصصی پزشکی ۸ آذر برگزار می‌شود

مهلت ثبت‌نام آزمون متقاضیان اخذ پروانه کارشناسی رسمی دادگستری تمدید شد

عامل هوش مصنوعی متا به جای کاربر تماس می‌گیرد

جزئیات ثبت نام ۴ درس مجازی برای دانشجویان علوم پزشکی اعلام شد

حجت‌الاسلام خسروپناه خواستار کوچک‌سازی وزارت علوم و واگذاری اختیار به دانشگاه‌ها شد

مدیرعامل انویدیا استعفا کرد

برد پیت ۵۰ سال عقب می‌رود؛ بازی در نقش یک فلزکار در آسمان‌ها

هوش مصنوعی بومی دانشگاه تهران در تشخیص گفتار فارسی از گوگل پیشی گرفت

تدوین برنامه اجرایی برای ورود با تأخیر نودانشجویان علوم پزشکی

ابداع یک آبنبات‌چوبی برای معاینه کودکان

«پرواز ۶۵۵» ده‌نمکی به تدوین رسید

استوری هادی چوپان برای حضرت زهرا(س)+عکس

امت پیامبر(ص) چگونه در ستم به دخترش همدست شدند؟

جایزه سزار افتخاری آکادمی فیلم فرانسه به نیکول کیدمن می‌رسد

شهادت یک مامور فراجا در سیستان‌وبلوچستان

رونمایی ناسا از قراردادهای جدید ۱۰ میلیارد دلاری خود

نقشه راه دانشگاه علوم پزشکی هوشمند برای کسب مرجعیت در آموزش دیجیتال

«پروانه الماس» بهترین فیلمنامه به «دختر پری‌خانوم» رسید

مویه حضرت علی (ع) بر پیکر زهرا (س) در نقاشی علی بحرینی

انتشار «رساله حقوق امام سجاد(ع)» با ترجمه و شرح علامه حسینی طهرانی

میزبانی محوطه تئاتر شهر از مجلس تعزیه شهادت حضرت زهرا (س)

سرویس‌های مایکروسافت احیا شدند

فراخوان استادان جهت موافقت با بیانیه لزوم بازنگری در دکترین هسته‌ای

حضرت زهرا(س) موضوع فدک را به سطح «حق مسلمانان و مشروعیت حکومت» بردند

هوش مصنوعی گوگل معمای ۹۰ ساله ریاضی را حل کرد