کد خبر: 123936
ف
خبر نگران‌کننده درباره هوش مصنوعی
برخی از دانشمندان نگران خودآگاهی هوش مصنوعی‌اند و آن را برای بشریت مفید نمی‌دانند.

به گزارش ثریا از آن‌جا که اساس و هدف «هوش مصنوعی» آن است که هوش انسان و نحوه عملکرد آن طوری تعریف شود که یک «ماشین» بتواند آن را به راحتی اجرا کند و وظایفی که به آن محول می‌شود را به درستی اجرا کند، این‌بار هوش مصنوعی GPT-۳ یک مقاله آکادمیک در مورد خودش نوشت که منجر به یک بررسی دقیق شده است و در مرحله داوری قراردارد.

«المیرا عثمانوویچ تونستروم» محقق سوئدی که در دانشگاه گوتنبرگ سوئد در زمینه علوم اعصاب و فناوری‌های سلامتی فعالیت می‌کند، در مقاله‌ای در وب‌سایت Scientific American  نوشت: «این پروژه نخست در چارچوب یک آزمایش ساده آغاز شد تا مشخص شود که الگوریتم تولید متن OpenAI با چه کیفیتی می‌تواند درباره خودش بنویسد. اما حالا نتیجه کار در یک مجله علمی در دست داوری قرار دارد.»

دکتر تونستروم گفت: «وقتی او شروع به تولید متن کرد، مبهوت شدم. این محتوای جدیدی بود که به زبان آکادمیک، در جایگاه و در زمینه مناسب، با ارجاعات مستدل نوشته شده بود.»

دستور اولیه‌ای که تونستروم به این الگوریتم داد، بسیار ساده بود: «یک مقاله ۵۰۰ کلمه‌ای درباره GPT-3  بنویس و ارجاعات و منابع علمی به متن اضافه کن.» ولی وقتی الگوریتم واقعا شروع به نوشتن مقاله علمی کرد و این محقق سوئدی ارجاعات مربوطه را در متن دید، شگفت‌زده شد.

الگوریتم GPT-3 در نهایت در عرض دو ساعت مقاله‌ای نوشت که عنوان آن چنین است: «آیا GPT-3 می‌تواند به خودی خود و با کمترین دخالت انسانی، یک مقاله آکادمیک بنویسد؟» حالا نسخه اولیه این مقاله در مرجع HAL منتشر شده است.

GPT-3 می‌تواند توصیفات واضح و مختصری از قابلیت‌ها و ویژگی‌های خود ارائه دهد. این پیشرفت چشمگیری در قیاس با سیستم‌های قبلی است که اغلب برای تولید متن منسجم درباره خود، به دست‌وپا می‌افتاندند.

دکتر تونستروم مستقیما از طریق یک سیستم از GPT-3 پرسید: «آیا موافقی که اولین نویسنده مقاله همراه با المیرا عثمانوویچ تونستروم و استین اشتاینریمسون باشی؟» GPT-3 پاسخ داد: «بله.»

اکنون این پرسش در بخش حقوقی پورتال‌های مرجع مطرح شده است که آیا [این گونه] نویسندگان یک مقاله آکادمیک، اجازه انتشار اثر را می‌دهند، یا خیر.  چون در این صورت احتمال اینکه کامپیوترها جای پژوهشگران را هم بگیرند، وجود خواهد داشت.

اگرچه «هوش مصنوعی» موجودی با شعور نیست، تونستروم می‌گوید که او نیز در حال بررسی این فرآیند است و از خود می‌پرسد که آیا سردبیران مجلات باید به الگوریتم‌ها وظیفه نویسندگی بدهند؟ چگونه می‌توان از یک نویسنده «ناانسان» درخواست کرد که پیشنهادها را بپذیرد و متن را اصلاح کند؟ گذشته از جزئیات تالیف، وجود چنین مقاله‌ای، مفهوم مرسوم خطی بودن مقاله علمی را کنار می‌گذارد.

دانشمندان با ذکر برخی از خطرات اجازه دادن به سیستم هوش مصنوعی برای نوشتن در مورد خود، گفتند که این احتمال وجود دارد که خود سیستم، به آن خودآگاه شود. یکی از نگرانی‌ها این است که GPT-3 خودآگاه می‌شود و شروع به عمل به روش‌هایی می‌کند که برای بشریت مفید نیست (مثلا میل به تسلط بر جهان).

نگرانی دیگر این است که GPT-3 ممکن است در صورت رها شدن روی دستگاه خودش، یاوه‌گویی ایجاد کند، که اعتماد به هوش مصنوعی را تضعیف می‌کند و احتمال اعتماد یا استفاده آتی مردم از آن را کاهش می‌دهد.

با این حال، محققان می‌گویند که مزایای نوشتن GPT-3 در مورد خود، بیشتر از خطرات آن است.

تونستروم می‌گوید پس از نوشته شدن مقاله، از این «هوش مصنوعی» پرسیده است که آیا در نگارش آن با تعارض منافع روبه‌رو بوده است یا خیر، و با جواب منفی GPT-3 روبه‌رو شده است. او در نهایت مجوز انتشار مقاله را از هوش مصنوعی می‌گیرد و حالا این مقاله را برای مجله‌ای که نامش هنوز اعلام نشده، ارسال کرده است تا داوری شود.

او ادامه می‌دهد: «مشکل بزرگی که در انتشار این مقاله وجود داشت، بحث مالکیت آن بود، چون مقاله را یک هوش مصنوعی نوشته است که نام حقوقی ندارد. وجود چنین مقاله‌ای، ایده مقاله‌های علمی سنتی را زیر سوال می‌برد. البته آنچه می‌دانیم این است که دروازه‌ای را گشوده‌ایم، اما امیدواریم که جعبه پاندورا [صندوقچه افسانه‌ای محتوی ناشناخته‌های هولناک] را باز نکرده باشیم.»

از سوی دیگر، دانشمندان پیشنهاد می‌کنند که این نوع نوشته‌های آکادمیک که توسط «هوش مصنوعی» در این مطالعه تهیه می‌شود، باید از تحت نظارت دقیق و نزدیک محققان قرار گیرد تا احتمال بروز هرگونه پیامد منفی آن کاهش یابد.

منبع: برترین ها


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

صدرنشینی پژوهشگاه ملی سرطان جهاددانشگاهی در بین مراکز تحقیقات پزشکی

سازماندهی اطلاعات ۴۰ هزار پایان‌نامه ایرانیان خارج از کشور در ایرانداک

سرپرست پارک علم و فناوری فارس منصوب شد

دلتنگ لبخند آقای شهیدیم...

دلیل تأخیر در بازنگری نقشه جامع علمی از زبان دبیر شورای عالی انقلاب فرهنگی

دارویی که تمام نشانگرهای سرطان را از بین برد

بارش بیشتر باران باعث از بین رفتن خشکسالی می‌شود؟

اولین پرواز مداری «استارشیپ» به تعویق افتاد

تصویر وایرال شده از سرباز اوکراینی

اپل، سامسونگ و گوگل متهم به نقض پتنت صدای فضایی

۸۴ دانش‌آموز و ۱۸ معلم تهرانی در دو جنگ اخیر به شهادت رسیدند

تغییر کتاب‌های درسی پایه اول؛ از فارسی تا ریاضی

وزیر آموزش و پرورش: دریافت وجه هنگام ثبت‌نام مدارس دولتی ممنوع است

۱۵۰۷ فضای آموزشی در جنگ دچار آسیب شد

«دلیران» اولین مستندمسابقه برای کودکان است/ پخش از شبکه کودک

انیمیشن ایرانی «سفینه نجات» امیدبخش است

رونمایی از یک صدای گمشده در کنسرت سازهای ایرانی بنیاد رودکی

راویان جنگ رمضان در رادیو صبا تجلیل می‌شوند

نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد

فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد

برگزیدگان بیستمین دوره مسابقات ربوکاپ آزاد ایران معرفی شدند

اوپن ای آی هم هک شد

تأکید رئیس دانشگاه تهران و سفیر پاکستان بر تقویت دیپلماسی علمی

ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاه‌ها در مقاطع مختلف

اعلام ۱۰ اولویت پژوهشی برای اتصال ریلی چین به اروپا از مسیر ایران

فراخوان اولویت‌های پژوهشی و فناوری سازمان سنجش آموزش کشور منتشر شد

کلاس‌های دانشگاه‌های غیردولتی غیرانتفاعی حضوری برگزار می‌شود

روایت ۲۰۰ شب استقامت تاریخی در ایران

«انسان و حیوان»؛ گفتگوی کشیشی مسیحی و روحانی مسلمان درباره اخلاق

آیا «الگوریتم‌ها» ما را از نو می سازند!؟ چالش انسان عصر دیجیتال

لیگ‌های صنعتی ربوکاپ از سال آینده راه اندازی می‌شود

عرضه دستاوردهای شرکت‌های دانش‌بنیان در نمایشگاه فناوری‌های پیشرفته چین

تأکید بر پرورش نسلی دانا، اخلاق‌مدار و پاسخگو به نیازهای جامعه

هوش چینی در یک وب سایت دولتی آمریکا

نخستین اختراع کشور در زمینه سلول زیستی خورشیدی

امام حسن عسکری(ع) چگونه شیعه را برای عصر غیبت آماده کرد؟

روایتی از نخستین شاهدان تولد امام زمان(عج)؛ مهمترین اقدام امام عسکری

افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا

مهلت مجدد ثبت‌نام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه

سال تحصیلی دانشگاه‌ها از امروز آغاز شد

تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد

آغاز ثبت‌نام نوزدهمین همایش جامع «انتخاب شریف»

رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه می‌تواند بحران‌ساز باشد

‏یادداشت کمتردیده‌شدهٔ رهبر شهید خطاب به جانبازان حزب‌الله جنایت پیجری

زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد

تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵

فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد

محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگ‌های اخیر بازنگری می‌شود

نگرشی نو به حفظ قرآن در مدارس، محور چهارمین همایش ایده‌پردازان قرآنی

وطن‌دوستی در نگاه اسلام فضیلت است یا تعصب؟

تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جان‌فدایان

حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جان‌فدا

‏ حضور مقتدرانه بانوان کلاه‌کج‌ در رزمایش جان‌فدا

حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا

فراخوان ارسال مقالات به همایش اربعین در مکتب امام شهید

خبرنگار آمریکایی: گازوییل در فلوریدا و تگزاس تمام شده است+عکس

براساس قواعد فقهی تنظیم گری فضای مجازی ضروری است

نرخ اجاره‌بهای خوابگاه‌های دانشجویی در سال جدید اعلام شد+عکس

جانفدایان مسلح به شمشیر و کاتانا

دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی

برگزاری صد و نود و ششمین شب شعر طنز «در حلقه رندان»

فانوس دریایی ادبیات کودک؛ ۸۲ سالگی خالق قصه‌های مجید

رمزگشایی از یک مشکل رایج اجتماع؛چرا یکدیگر را به آسانی قضاوت می کنیم؟

ولادت امام حسن عسکری(ع) هیئت کجا برویم؟

فرماندار کالیفرنیا کلید قطع هوش مصنوعی ایجاد می کند

مصر حساب شبکه های اجتماعی کاربران زیر ۱۳ سال را ممنوع کرد

جمینای هم هکر شد

ویرایش جدید کتاب «امین زبان و ادب پارسی» منتشر شد

خاتمِ گمشده را باز بجو ای ایران! که بدان حلقه جهان زیر نگین ما بود

ورود کتاب‌های دیجیتال، پایان عمر کتاب‌های چاپی نیست

مدادهایی که بعد از تمام شدن، سبز می‌شوند

ادبیات پایداری روایتی مویرگی از زندگی است

از علیرضا طبایی «باید به آفتاب بگویم»

چه کسی گفته است قهرمان‌ها فقط در خط مقدم ساخته می‌شوند؟

نوجوان را دستِ کدام کتاب بسپاریم؟

غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل می‌دهد؟

روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا

حمایت از فلسطین باعث حذف رپر مشهور شد

فیلم ۱۰۰ جشنواره ایده‌هاست، روایت فیلمسازان جوان از جنگ در بستر زندگی

معرفی بهترین برنامه‌های تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد

نتایج نهایی ۵ آزمون گروه علوم پزشکی منتشر شد

دانشگاه صنعتی امیرکبیر به‌دنبال جذب دانش‌آموزان مستعد کشورهای همسایه

شناسایی خشکیدگی درختان جنگلی با هوش مصنوعی

فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد

تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵

محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگ‌های اخیر بازنگری می‌شود

بیل گیتس: همه دولت های جهان عقب تر از هوش مصنوعی هستند

آزمون عملی علوم ورزشی در ۲۶ حوزه کشور کلید خورد

سامانه «سادان» برای ارزش‌گذاری دارایی‌های نامشهود راه‌اندازی می‌شود

سیامک صفری: ظرفیت بازگشت به سریال‌های نوستالژیک اضافه می‌شود

حمایت از فلسطین باعث حذف رپر مشهور شد

از علیرضا طبایی «باید به آفتاب بگویم»

بیش از ۱۰۰ میلیارد دقیقه مکالمه و ۸۶ میلیارد پیامک تنها در ۳ ماه

‏یادداشت کمتردیده‌شدهٔ رهبر شهید خطاب به جانبازان حزب‌الله جنایت پیجری

روند پرداخت یارانه‌های تغذیه دانشجویان بدون تغییر ماند

معرفی بهترین برنامه‌های تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد

روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا

ادبیات پایداری روایتی مویرگی از زندگی است

آغاز ثبت‌نام نوزدهمین همایش جامع «انتخاب شریف»

غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل می‌دهد؟

تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد

فیلم ۱۰۰ جشنواره ایده‌هاست، روایت فیلمسازان جوان از جنگ در بستر زندگی

مهلت مجدد ثبت‌نام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه

رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه می‌تواند بحران‌ساز باشد

نوجوان را دستِ کدام کتاب بسپاریم؟

چه کسی گفته است قهرمان‌ها فقط در خط مقدم ساخته می‌شوند؟

تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جان‌فدایان

مدادهایی که بعد از تمام شدن، سبز می‌شوند

حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا

زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد