کد خبر: 123936
ف
خبر نگران‌کننده درباره هوش مصنوعی
برخی از دانشمندان نگران خودآگاهی هوش مصنوعی‌اند و آن را برای بشریت مفید نمی‌دانند.

به گزارش ثریا از آن‌جا که اساس و هدف «هوش مصنوعی» آن است که هوش انسان و نحوه عملکرد آن طوری تعریف شود که یک «ماشین» بتواند آن را به راحتی اجرا کند و وظایفی که به آن محول می‌شود را به درستی اجرا کند، این‌بار هوش مصنوعی GPT-۳ یک مقاله آکادمیک در مورد خودش نوشت که منجر به یک بررسی دقیق شده است و در مرحله داوری قراردارد.

«المیرا عثمانوویچ تونستروم» محقق سوئدی که در دانشگاه گوتنبرگ سوئد در زمینه علوم اعصاب و فناوری‌های سلامتی فعالیت می‌کند، در مقاله‌ای در وب‌سایت Scientific American  نوشت: «این پروژه نخست در چارچوب یک آزمایش ساده آغاز شد تا مشخص شود که الگوریتم تولید متن OpenAI با چه کیفیتی می‌تواند درباره خودش بنویسد. اما حالا نتیجه کار در یک مجله علمی در دست داوری قرار دارد.»

دکتر تونستروم گفت: «وقتی او شروع به تولید متن کرد، مبهوت شدم. این محتوای جدیدی بود که به زبان آکادمیک، در جایگاه و در زمینه مناسب، با ارجاعات مستدل نوشته شده بود.»

دستور اولیه‌ای که تونستروم به این الگوریتم داد، بسیار ساده بود: «یک مقاله ۵۰۰ کلمه‌ای درباره GPT-3  بنویس و ارجاعات و منابع علمی به متن اضافه کن.» ولی وقتی الگوریتم واقعا شروع به نوشتن مقاله علمی کرد و این محقق سوئدی ارجاعات مربوطه را در متن دید، شگفت‌زده شد.

الگوریتم GPT-3 در نهایت در عرض دو ساعت مقاله‌ای نوشت که عنوان آن چنین است: «آیا GPT-3 می‌تواند به خودی خود و با کمترین دخالت انسانی، یک مقاله آکادمیک بنویسد؟» حالا نسخه اولیه این مقاله در مرجع HAL منتشر شده است.

GPT-3 می‌تواند توصیفات واضح و مختصری از قابلیت‌ها و ویژگی‌های خود ارائه دهد. این پیشرفت چشمگیری در قیاس با سیستم‌های قبلی است که اغلب برای تولید متن منسجم درباره خود، به دست‌وپا می‌افتاندند.

دکتر تونستروم مستقیما از طریق یک سیستم از GPT-3 پرسید: «آیا موافقی که اولین نویسنده مقاله همراه با المیرا عثمانوویچ تونستروم و استین اشتاینریمسون باشی؟» GPT-3 پاسخ داد: «بله.»

اکنون این پرسش در بخش حقوقی پورتال‌های مرجع مطرح شده است که آیا [این گونه] نویسندگان یک مقاله آکادمیک، اجازه انتشار اثر را می‌دهند، یا خیر.  چون در این صورت احتمال اینکه کامپیوترها جای پژوهشگران را هم بگیرند، وجود خواهد داشت.

اگرچه «هوش مصنوعی» موجودی با شعور نیست، تونستروم می‌گوید که او نیز در حال بررسی این فرآیند است و از خود می‌پرسد که آیا سردبیران مجلات باید به الگوریتم‌ها وظیفه نویسندگی بدهند؟ چگونه می‌توان از یک نویسنده «ناانسان» درخواست کرد که پیشنهادها را بپذیرد و متن را اصلاح کند؟ گذشته از جزئیات تالیف، وجود چنین مقاله‌ای، مفهوم مرسوم خطی بودن مقاله علمی را کنار می‌گذارد.

دانشمندان با ذکر برخی از خطرات اجازه دادن به سیستم هوش مصنوعی برای نوشتن در مورد خود، گفتند که این احتمال وجود دارد که خود سیستم، به آن خودآگاه شود. یکی از نگرانی‌ها این است که GPT-3 خودآگاه می‌شود و شروع به عمل به روش‌هایی می‌کند که برای بشریت مفید نیست (مثلا میل به تسلط بر جهان).

نگرانی دیگر این است که GPT-3 ممکن است در صورت رها شدن روی دستگاه خودش، یاوه‌گویی ایجاد کند، که اعتماد به هوش مصنوعی را تضعیف می‌کند و احتمال اعتماد یا استفاده آتی مردم از آن را کاهش می‌دهد.

با این حال، محققان می‌گویند که مزایای نوشتن GPT-3 در مورد خود، بیشتر از خطرات آن است.

تونستروم می‌گوید پس از نوشته شدن مقاله، از این «هوش مصنوعی» پرسیده است که آیا در نگارش آن با تعارض منافع روبه‌رو بوده است یا خیر، و با جواب منفی GPT-3 روبه‌رو شده است. او در نهایت مجوز انتشار مقاله را از هوش مصنوعی می‌گیرد و حالا این مقاله را برای مجله‌ای که نامش هنوز اعلام نشده، ارسال کرده است تا داوری شود.

او ادامه می‌دهد: «مشکل بزرگی که در انتشار این مقاله وجود داشت، بحث مالکیت آن بود، چون مقاله را یک هوش مصنوعی نوشته است که نام حقوقی ندارد. وجود چنین مقاله‌ای، ایده مقاله‌های علمی سنتی را زیر سوال می‌برد. البته آنچه می‌دانیم این است که دروازه‌ای را گشوده‌ایم، اما امیدواریم که جعبه پاندورا [صندوقچه افسانه‌ای محتوی ناشناخته‌های هولناک] را باز نکرده باشیم.»

از سوی دیگر، دانشمندان پیشنهاد می‌کنند که این نوع نوشته‌های آکادمیک که توسط «هوش مصنوعی» در این مطالعه تهیه می‌شود، باید از تحت نظارت دقیق و نزدیک محققان قرار گیرد تا احتمال بروز هرگونه پیامد منفی آن کاهش یابد.

منبع: برترین ها


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

هواپیمای فضایی چین یک شیء مرموز را در مدار رها کرده است

آزمایش موشک «استارشیپ» پیش از پرواز سیزدهم با موفقیت به سرانجام رسید

صنعت هوانوردی اعلام کرد: ضایعات غذایی به سوخت جت تبدیل می‌شوند

شمارش معکوس تا پرتاب جدیدترین فناوری فضایی «اسپیس‌ایکس» آغاز شد

جدیدترین خبر از وضعیت فاطمه شکری بازیگر پیشکسوت

اکران فیلم استخر سروش صحت به تعویق افتاد

سری جدید انیمیشن «داستان اسباب‌بازی» همه رقبا را کنار زد

پیشنهاد وزیر علوم برای جذب دانشجویان پاکستانی در دانشگاه سیستان و بلوچستان

شرایط پذیرش در آزمون کاردانی به کارشناسی فرهنگیان اعلام شد

فراهم شدن امکان ویرایش حوزه آزمون پذیرش دستیار تخصصی

زیرساخت‌های فرسوده ناسا دیگر پاسخگوی ماموریت‌های «آرتمیس» نیستند

راز کندی تنبل‌ها کشف شد

تأثیر پنهان طعم‌های محبوب سیگار الکترونیکی بر قلب را جدی بگیرید

آیا خاطرات را می‌توانیم بخوریم؟

عکس روز ناسا از ماراتن مریخ منتشر شد

کاروان دانش‌آموزی ایران با بهترین شرایط به ژیمنازیاد اعزام شود

دستورالعمل فعالیت‌های تابستانی مدارس ابلاغ شد

کلاس‌های جبرانی تابستانی دانش آموزان از ۱۵ تیرماه آغاز می‌شود

راه حل مقابله با مصرف مواد مخدر در محیط‌های دانشگاهی

صدور حکم اخراج دانشجوی امیرکبیر به دلیل اهانت به پرچم ایران

حضور ۱۱ دانشگاه ایرانی در رتبه بندی کیواس ۲۰۲۷ ؛ دانشگاه تهران در صدر جدول

قرار بود ششم تیر و روز ترور آخرین روز جمهوری اسلامی باشد

تجلیل از گری اولدمن در جشنواره تلویزیونی بریتانیا

رسالت تداوم نهضت عاشورا و تاریخ‌نگاری زنده سیره تبلیغی امام سجاد(ع)

برگزاری ۵ شب عزاداری در دانشگاه تهران در دهه دوم ماه محرم

نگاهی به وضعیت معنویت انیمیشن کودکان در سه الگوی، دیزنی، پیکسار و جیبلی

پوشش بیش از ۱۰۰۰ رسانه‌ برای مراسم عاشورای کربلای معلی

مصاحبه دوره دکتری دانشگاه آزاد از امروز آغاز می‌شود

توسعه تعاملات دانشگاه‌های ایران و کشورهای عضو اکو در دستور کار

ایران به دانش فنی ساخت «مغز مصنوعی» دست یافت

در عصری هستیم که سرعت،فضیلت شده است/بحران معنایی انسان معاصر از کجاست؟

فراخوان کسب دانش فنی ساخت یک قطعه مهم در صنایع حساس و راهبردی

ثبت‌نام مدارس باید بر اساس محدوده محل سکونت انجام شود

زیارت تبلیغاتی صدام در عتبات/ سقوط یک سناریو توسط اسرای ایرانی

چرا امام حسین (ع) به پا خاست؟

تل زینبیه به روی بانوان زائر کربلا بازگشایی شد

اگر امام را نشناسیم، غربال خواهیم شد

هوش مصنوعی آنتروپیک شکاف در سیستم‌های دولت آمریکا را شناسایی کرد

امروز آخرین فرصت ثبت نام در پذیرش کاردانی به کارشناسی ۱۴۰۵

ارسال آیین‌نامه جامع مدیریت دانشگاه‌ها به شورای عالی انقلاب فرهنگی

آغاز پویش «کارت نشاط» برای حمایت از دانش‌آموزان

آموزش و پرورش: شرایط ثبت‌نام دانش‌آموزان اتباع اعلام خواهد شد

نتایج نقل و انتقالات فرهنگیان شنبه اعلام می‌شود

ابررایانه چینی از رقبای آمریکایی پیشی گرفت

خوابگاه‌های علوم پزشکی تهران میزبان مهمانان مراسم تشییع پیکر رهبر شهید

برنامه زمانی امتحانات دانشجویان دانشگاه صنعتی امیرکبیر تغییر کرد

حضور وزیر علوم در آیین عاشورای حسینی در زینبیه استانبول

آماده تسهیل فرآیندهای اداری و حمایت از ابتکارات نوآورانه هستیم

ظرفیت ۶۸ هزار نفری پذیرش کاردانی به کارشناسی ۱۴۰۵ اعلام شد؛ ثبت‌نام تا شنبه ۳۰ خرداد

نقش شهادت در آثار محمدعلی نادری؛ وقتی قلمو با زبان درد سخن می‌گوید

شرایط بهره‌مندی مؤسسات قرآنی از نرخ صفر مالیاتی ابلاغ شد

نگاهی دوباره به ایران از دریچه «باد صبا»؛ میراثی که از دیروز به‌جا ماند

پیام تسلیت مدیرعامل مرکز گسترش به مناسبت درگذشت یک مستندساز

شاپور رحیمی خواننده و نوازنده پیشکسوت درگذشت

روایت احساسات در بطن تصاویر؛ محدودیت‌ها مانع ثبت جنایات جنگ شده‌اند

تام کروز ۴۶ سال حضورش در سینما را با یک کلیپ یادآوری کرد

حقوق طبیعی امام حسین (ع) در آخرین موعظه ایشان

ماجرای پیشگویی امام علی(ع) درباره کربلا و شهادت امام حسین(ع) چه بود؟

کل خیر فی الحسین؛ بزرگترین خسارت جدایی از حسین (ع) است

اسکار از ۵۲۹ نفر برای عضویت دعوت کرد؛ از نگار اسکندرفر تا جیکوب الوردی

آموزش تدبر در قرآن ویژه کارکنان دولت اجرایی می‌شود

تابلوی ۶۰۰ ساله تایلندی، سند تاریخی پیشینه آئین‌های حسینی

بشارت امام صادق (ع) به پیرمرد ۱۰۰ ساله؛ کلید رستگاری در دنیا و آخرت

انتقاد از یک بازیگر و کمدین برای حضور در مراسم ترامپ؛ با فاشیست‌ها عکس نگیر!

مجموعه کامل فیلم‌های استنلی کوبریک در یک بسته خاص عرضه می‌شود

عاشورا و پیوست فرهنگی ایران؛ از سوگ شیعی تا سرمایه انسجام ملی

تاثیر حرف مردم بر سرنوشت یک دختر؛ ایده «مرجان» از کجا پیدا شد؟

سیره امام حسین(ع) آمیزه‌ای از تدبیر دینی و سیاسی و اخلاق اجتماعی بود

مدارک مورد پذیرش برای آزمون دکتری تخصصی و پژوهشی اعلام شد

دانشگاه آزاد شرایط امتحانات پایان‌ترم دانشجویان ارشد و دکتری در شهر محل سکونت را اعلام کرد

مخاطب از دیدن این سریال تکراری خسته نمی‌شود؛ جادوی «مختارنامه» چیست؟

مجریان تراز زبان فارسی معرفی شدند؛ پدافند زبانی با اجرا!

این ۳ کارگردان معروف برای تشییع رهبر شهید مستند می‌سازند

توییت جدید محمدباقر قالیباف با انتشار صحنه سیو بیرانوند+عکس

از گاندی تا کارلایل، همه مرید حسین (ع)

ماشین ثروت‌اندوزی امویان؛ از باندبازی تا احیای هدایای نوروزی

همان‌گونه که جسم به روزی مادی نیاز دارد، روح نیز به معرفت محتاج است

آیا ماجرای ازدواج حضرت قاسم (ع) در کربلا صحت دارد؟

«حسینیه بهشت»، پیوند خانه‌های شهدا با خیمه‌های عاشورا

مهلت ثبت‌نام در کاروان قرآنی اعزامی به اربعین تا ۵ تیرماه

مدارک مورد پذیرش برای آزمون دکتری تخصصی و پژوهشی اعلام شد

دانشگاه آزاد شرایط امتحانات پایان‌ترم دانشجویان ارشد و دکتری در شهر محل سکونت را اعلام کرد

چمران هنوز زنده است

مهلت ثبت‌نام در کاروان قرآنی اعزامی به اربعین تا ۵ تیرماه

همان‌گونه که جسم به روزی مادی نیاز دارد، روح نیز به معرفت محتاج است

«حسینیه بهشت»، پیوند خانه‌های شهدا با خیمه‌های عاشورا

گوشواره‌هایی که تاریخ فراموششان نکرد

این ۳ کارگردان معروف برای تشییع رهبر شهید مستند می‌سازند

مخاطب از دیدن این سریال تکراری خسته نمی‌شود؛ جادوی «مختارنامه» چیست؟

یک فهرست متفاوت از بهترین‌های سال ۲۰۲۶ در نیمه راه؛ مستقل‌ها پیشتازند

آیا ماجرای ازدواج حضرت قاسم (ع) در کربلا صحت دارد؟

توییت جدید محمدباقر قالیباف با انتشار صحنه سیو بیرانوند+عکس

ماشین ثروت‌اندوزی امویان؛ از باندبازی تا احیای هدایای نوروزی

بشارت امام صادق (ع) به پیرمرد ۱۰۰ ساله؛ کلید رستگاری در دنیا و آخرت

امروز آخرین فرصت ثبت نام در پذیرش کاردانی به کارشناسی ۱۴۰۵

برنامه زمانی امتحانات دانشجویان دانشگاه صنعتی امیرکبیر تغییر کرد

مجریان تراز زبان فارسی معرفی شدند؛ پدافند زبانی با اجرا!

تاثیر حرف مردم بر سرنوشت یک دختر؛ ایده «مرجان» از کجا پیدا شد؟

خوابگاه‌های علوم پزشکی تهران میزبان مهمانان مراسم تشییع پیکر رهبر شهید

عکس | جایزه بهترین بازیکن دیدار در دستان علی بیرو

ارسال آیین‌نامه جامع مدیریت دانشگاه‌ها به شورای عالی انقلاب فرهنگی

تابلوی ۶۰۰ ساله تایلندی، سند تاریخی پیشینه آئین‌های حسینی

نقش شهادت در آثار محمدعلی نادری؛ وقتی قلمو با زبان درد سخن می‌گوید

ظرفیت ۶۸ هزار نفری پذیرش کاردانی به کارشناسی ۱۴۰۵ اعلام شد؛ ثبت‌نام تا شنبه ۳۰ خرداد

آماده تسهیل فرآیندهای اداری و حمایت از ابتکارات نوآورانه هستیم

از گاندی تا کارلایل، همه مرید حسین (ع)

مجموعه کامل فیلم‌های استنلی کوبریک در یک بسته خاص عرضه می‌شود

حضور وزیر علوم در آیین عاشورای حسینی در زینبیه استانبول

آموزش تدبر در قرآن ویژه کارکنان دولت اجرایی می‌شود

ابررایانه چینی از رقبای آمریکایی پیشی گرفت