به گزارش ثریا - نویسندگان این مطالعه جدید ادعا میکنند که این ابزار هوش مصنوعی، کار انتشار تحقیقات جعلی را که میتواند در همه امور شک و تردید ایجاد کند، آسانتر از همیشه میکند.
پژوهشگران این مطالعه میگویند: ما در این مقاله با چند مثال نشان دادیم که چگونه میتوان از چتباتهای هوش مصنوعی برای ساختن تحقیقات در جامعه پزشکی استفاده کرد. علاوه بر این، مطالعات مربوط به تشخیص انسانی آثار مبتنی بر هوش مصنوعی را برای سنجش دقت شناسایی آثار ساختگی و تولیدشده توسط هوش مصنوعی مقایسه کردیم.
در ادامه این مقاله آمده است: علاوه بر این، ما دقت آشکارسازهای هوش مصنوعی آنلاین رایگان را آزمایش کردیم. سپس خطر تحقیقات ساختگی همراه با دلایلی که چرا میخواهیم تحقیقات پزشکی و راه حلهای بالقوه برای این تهدید را ایجاد کنیم، برجسته کردیم.
پژوهشگران پس از درخواست از ChatGPT برای ایجاد یک چکیده برای یک مقاله علمی در مورد اثرات دو داروی مختلف بر روی آرتریت روماتوئید به این نتیجه رسیدند. آنها از ربات هوش مصنوعی درخواست کردند که از دادههای سال ۲۰۱۲ تا ۲۰۲۰ استفاده کند و ChatGPT یک چکیده واقعی تولید کرد و حتی اعداد واقعی را ارائه کرد. علاوه بر این، هنگامی که پژوهشگران آن را تشویق کردند، ادعا کرد که یکی از آن دو دارو بهتر از داروی دیگر کار میکند که این موضوع، یک کار و تأیید خطرناک از سوی یک چتبات است.
از آنجایی که ChatGPT در حال حاضر فقط با دادههای تا سال ۲۰۱۹ آموزش دیده است و آنها را در نظر میگیرد، نمیتواند هیچ آماری از سال ۲۰۲۰ داشته باشد، اما در این مورد ادعا کرد که ارقام و آمار خود را از یک پایگاه داده خصوصی گرفته است که برای دسترسی به آن نیاز به پرداخت هزینه است.
پژوهشگران هشدار میدهند که در عرض تنها یک بعد از ظهر میتوان با دهها چکیده مطالعه که میتوان آنها را برای انتشار به کنفرانسهای مختلف ارسال کرد، روبرو شد و خطر این است که پس از پذیرش یک چکیده برای انتشار، میتوان از همین فناوری برای نوشتن دست نوشته و مقاله استفاده کرد که کاملاً بر اساس دادههای ساختگی و نتایج جعلی بنا شده است.
روشهای مثبت استفاده از هوش مصنوعی
بر خلاف هشدارهای پژوهشگران، آنها خاطرنشان کردند که راههای مثبتی برای استفاده از هوش مصنوعی نیز وجود دارد.
آنها میگویند: استفاده از هوش مصنوعی برای تحقیقات ذاتاً یک تلاش مخرب نیست. درخواست از هوش مصنوعی برای بررسی دستور زبان کار یا نوشتن نتیجهای برای نتایج قانونی و صحیح کسب شده در یک مطالعه، از دیگر کاربردهایی است که هوش مصنوعی میتواند در فرآیند پژوهش بگنجاند تا کارهای زمانبری را که روند پژوهشهای علمی را کند میکند، حذف کند.
مشکل در تولید دادههای جعلی است
مسئله زمانی چالشبرانگیز میشود که فرد از دادههایی استفاده میکند که وجود ندارند و در واقع نتایج را برای نوشتن پژوهش میسازد که ممکن است به راحتی تشخیص انسانی را دور بزند و راه خود را به یک نشریه علمی باز کند.
پژوهشگران میگویند این آثار در صورت انتشار، پژوهشهای مشروع را آلوده میکنند و ممکن است بر تعمیمپذیری آثار مشروع تأثیر بگذارند.
بر اساس این گزارش، پژوهشگران در پایان خاطرنشان کردند که برای ادامه استفاده ایمن از ChatGPT، ملاحظات مربوط به دادههای جعلی و پیامدهای آن باید در نظر گرفته شود.
این مطالعه در مجله Patterns منتشر شده است.
منبع : ChatGPT
برگزاری کنکور ارشد ۱۴۰۵ برای توانخواهان و زندانیان
آزمون کارشناسی ارشد سال ۱۴۰۵ در سلامت و آرامش برگزار شد
نوشتهای که بالای سر یک کودک سرطانی در بیمارستان بقایی اهواز نصب شده
دیوارنگاره میدان ولیعصر (عج) به پیشبینی حذف شرور جهان پرداخت
حال خواننده معروف موسیقی بختیاری خوب نیست
سیاست بچهگانه ترامپ سوژه کارتون هنرمند برزیلی شد
ایران قبرستان متجاوزین+عکس
کارگردان سریال پایتخت درباره رهبر شهید مستند میسازد
کامران نجف زاده به جنوب سفر کرد
وزیر آموزش و پرورش: کیفیتبخشی و عدالت آموزشی دو راهبرد اصلی دولت است
غرق شدن ترامپ، سوژه جدیدترین دیوارنگاره تهران
آغاز دورههای راهبردهای تربیت و یادگیری مربیان پیشدبستانی در مراکز کانون پرورش فکری
نقش سازنده نخبگان در حل مسائل کشور
پویش «حفظ جزء ۳۰ قرآن» ویژه کودکان و نوجوانان برگزار میشود
جزئیات ثبت نام آزمون دانشنامه و گواهینامه تخصصی دندانپزشکی اعلام شد
امتحانات نهایی رشتههای تحصیلی پایه دوازدهم در ۴ استان لغو شد
لزوم چرخش تحولی در دانشگاه فرهنگیان
الگوریتم ایکس پاسخهای دوستان کاربر به پستها را اولویت میدهد
الگوریتم ایکس پاسخهای دوستان کاربر به پستها را اولویت میدهد
واکنش معاون نهاد رهبری به اخراج یک کارمند دانشگاهی به دلیل پیگیری پوشش
مهلت پژوهش برای مادران پژوهشگر به ازای تولد فرزند تمدید شد
نخستین ماهواره راداری کشور در آستانه رونمایی
بیش از ۴۲۰ هزار داوطلب آزمون کارشناسی ارشد ۱۴۰۵ کارت گرفتند
جزئیات طرح جدید تغذیه دانشجویی اعلام شد
تبریک وزیر آموزش و پرورش به قهرمانان المپیاد جهانی فیزیک
روایت ایستادگی ایران در مجلات رشد دانش آموزان
دستورالعمل تداوم برپایی میادین و تجمعات مردمی اعلام شد
پایگاهسازی برای آینده جهان تشیع/ارتباط عاطفی آیت الله بروجردی با مسجد چگونه بود؟
نسب رهبر شهید به کدام امامزادههای ایران میرسد؟
تصویری دیدهنشده از آیت الله سید مجتبی خامنهای در سرپل ذهاب
آخرین تصویر منتشر شده از لیندسی گراهام قبل از مرگش در اوکراین+عکس
نگاهی دقیق به ارزیابی احادیث تحلیلی با تکیه بر روش فهرستی در این کتاب خواندنی
ابراز همدردی الهام پاوه نژاد در واکنش به حملات دشمن به جنوب کشور
چرا غرب از آیتالله خامنهای هراس داشت؟
اینفوگرافیک/در چه صورت از آزمون جامع دکتری معاف میشویم؟
شیاطین در سوگ لیندسی گراهام +عکس
چت جی تی پی از دسترس خارج شد
هشدار سازمان سنجش درباره فعالیت صفحات جعلی در شبکههای اجتماعی
پیام تسلیت وزیر علوم در پی شهادت دانشجوی دانشگاه هرمزگان
تفکیک پذیرش سوابق تحصیلی از آزمون؛ تأکید معاون آموزشی وزارت علوم بر بازه زمانی واحد
گذراندن ۷ واحد درسی از میان دروس ارائه شده معارف اسلامی برای این دانشجویان الزامی شد
معاون علمی رئیس جمهور بر توسعه زیرساختهای کوانتومی تاکید کرد
تیم ملی المپیاد فیزیک ایران در المپیاد ۲۰۲۶ کلمبیا غوغا به پا کرد
گلوله مخصوص ساقط کردن پهپادهای سریع توسط روسیه ساخته شد
پسر استیو جابز به سرطان مبتلا شد
تبریک رئیس فرهنگستان علوم به قهرمانان المپیادهای جهانی ریاضی و فیزیک
تصویری از تبلت جدید سامسونگ لو رفت +عکس
درمان ناباروری مردان با سلولهای بنیادی در آزمایشگاه
ستونهای غلیظ دود در مرزهای مشترک عراق و کویت+عکس
دود از پایگاه آمریکایی بلند شده از خاک عراق قابل مشاهده است +عکس
کشف یک محراب تاریخی در پاسارگاد+عکس
لیندسی گراهام که امروز به درک واصل شد که بود؟ +عکس
اتحادیه اروپا فیس بوک و اینستاگرام را تهدید کرد
ایلان ماسک مالک اوپن ای آی را به سرقت تجاری محکوم کرد
نماز شب اول قبر چگونه خوانده میشود؟ زمان اقامه نماز رهبر شهید
سیره امام سجاد(ع) در کادرسازی فکری و تجدید حیات معنوی جامعه
دستیابی به جامعه قرآنی هدف متعالی رهبر شهید
گسست معرفتی در اندیشه ایرانی از چالشها تا راهکارها
لبنانیها هفته بزرگداشت تشییع امام مستضعفان را برگزار می کنند
آرامگاه ابدی رهبر شهید انقلاب در رواق دارالذکر حرم امام رضا(ع)
تصویر/ما همه خونخواه توییم خامنهای...
پیکر رهبر شهید و خانواده ایشان در این رواق حرم مطهر رضوی به خاک سپرده میشود
برای بابای زهرای کوچک و آزمون سخت او در شهادت زن و فرزند
ریشه انتقام در فرهنگ ایرانی شیعی به کجا برمیگردد؟
روسیه به دنبال مختل کردن استارلینک در اوکراین
تأکید شورای عالی انقلاب فرهنگی: تعیین تاریخ امتحانات نهایی و کنکور بر عهده متولیان اجرایی
کاهش تنوع مدارس با هدف تحقق عدالت آموزشی در دستور کار آموزش و پرورش
شیوهنامه اجرایی طرح حامی ویژه تابستان ۱۴۰۵ ابلاغ شد
درخشش تیم ملی المپیاد فیزیک جمهوری اسلامی ایران در مسابقات جهانی
وداع با معلم یک ملت تجلی سرمایه اجتماعی یک ملت
جایگاه آموزش و پرورش در منظومه فکری رهبر شهید کجا بود؟
رتبه نخست دانشگاه صنعتی امیرکبیر در شاخص نوآوری
توزیع کارت کنکور ارشد از ۲۲ تیر آغاز میشود
اطلاعیه دانشگاه آزاد درباره امتحانات دانشجویان تحصیلات تکمیلی
نسخه جدید چت جی تی پی راه اندازی میشود
رباتها حس لامسه پیدا میکنند
یک خبر ترسناک: ربات انسان نما به همکارانش حمله کرد
زبالههای فضایی در ساحل استرالیا نمایان شدند
تولید سوخت جت پایدار از دی اکسیدکربن صنعتی ممکن شد
کاوشگر ژاپنی توانست از یک سیارک تصویر ثبت کند
تیم ملی المپیاد فیزیک ایران در المپیاد ۲۰۲۶ کلمبیا غوغا به پا کرد
مهلت پژوهش برای مادران پژوهشگر به ازای تولد فرزند تمدید شد
امتحانات نهایی رشتههای تحصیلی پایه دوازدهم در ۴ استان لغو شد
نگاهی دقیق به ارزیابی احادیث تحلیلی با تکیه بر روش فهرستی در این کتاب خواندنی
چت جی تی پی از دسترس خارج شد
لزوم چرخش تحولی در دانشگاه فرهنگیان
تفکیک پذیرش سوابق تحصیلی از آزمون؛ تأکید معاون آموزشی وزارت علوم بر بازه زمانی واحد
پسر استیو جابز به سرطان مبتلا شد
روایت ایستادگی ایران در مجلات رشد دانش آموزان
بیش از ۴۲۰ هزار داوطلب آزمون کارشناسی ارشد ۱۴۰۵ کارت گرفتند
جزئیات ثبت نام آزمون دانشنامه و گواهینامه تخصصی دندانپزشکی اعلام شد
تصویری دیدهنشده از آیت الله سید مجتبی خامنهای در سرپل ذهاب
هشدار سازمان سنجش درباره فعالیت صفحات جعلی در شبکههای اجتماعی
اتحادیه اروپا فیس بوک و اینستاگرام را تهدید کرد
پایگاهسازی برای آینده جهان تشیع/ارتباط عاطفی آیت الله بروجردی با مسجد چگونه بود؟
تبریک وزیر آموزش و پرورش به قهرمانان المپیاد جهانی فیزیک
نسب رهبر شهید به کدام امامزادههای ایران میرسد؟
معاون علمی رئیس جمهور بر توسعه زیرساختهای کوانتومی تاکید کرد
نخستین ماهواره راداری کشور در آستانه رونمایی
جزئیات طرح جدید تغذیه دانشجویی اعلام شد
گلوله مخصوص ساقط کردن پهپادهای سریع توسط روسیه ساخته شد
چرا غرب از آیتالله خامنهای هراس داشت؟
تبریک رئیس فرهنگستان علوم به قهرمانان المپیادهای جهانی ریاضی و فیزیک
شیاطین در سوگ لیندسی گراهام +عکس
درمان ناباروری مردان با سلولهای بنیادی در آزمایشگاه
ابراز همدردی الهام پاوه نژاد در واکنش به حملات دشمن به جنوب کشور
تصویری از تبلت جدید سامسونگ لو رفت +عکس
واکنش معاون نهاد رهبری به اخراج یک کارمند دانشگاهی به دلیل پیگیری پوشش
اینفوگرافیک/در چه صورت از آزمون جامع دکتری معاف میشویم؟
کشف یک محراب تاریخی در پاسارگاد+عکس
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.