به گزارش ثریا - نویسندگان این مطالعه جدید ادعا می‌کنند که این ابزار هوش مصنوعی، کار انتشار تحقیقات جعلی را که می‌تواند در همه امور شک و تردید ایجاد کند، آسان‌تر از همیشه می‌کند.
پژوهشگران این مطالعه می‌گویند: ما در این مقاله با چند مثال نشان دادیم که چگونه می‌توان از چت‌بات‌های هوش مصنوعی برای ساختن تحقیقات در جامعه پزشکی استفاده کرد. علاوه بر این، مطالعات مربوط به تشخیص انسانی آثار مبتنی بر هوش مصنوعی را برای سنجش دقت شناسایی آثار ساختگی و تولیدشده توسط هوش مصنوعی مقایسه کردیم.
در ادامه این مقاله آمده است: علاوه بر این، ما دقت آشکارسازهای هوش مصنوعی آنلاین رایگان را آزمایش کردیم. سپس خطر تحقیقات ساختگی همراه با دلایلی که چرا می‌خواهیم تحقیقات پزشکی و راه حل‌های بالقوه برای این تهدید را ایجاد کنیم، برجسته کردیم.
پژوهشگران پس از درخواست از ChatGPT برای ایجاد یک چکیده برای یک مقاله علمی در مورد اثرات دو داروی مختلف بر روی آرتریت روماتوئید به این نتیجه رسیدند. آنها از ربات هوش مصنوعی درخواست کردند که از داده‌های سال ۲۰۱۲ تا ۲۰۲۰ استفاده کند و ChatGPT یک چکیده واقعی تولید کرد و حتی اعداد واقعی را ارائه کرد. علاوه بر این، هنگامی که پژوهشگران آن را تشویق کردند، ادعا کرد که یکی از آن دو دارو بهتر از داروی دیگر کار می‌کند که این موضوع، یک کار و تأیید خطرناک از سوی یک چت‌بات است.
از آنجایی که ChatGPT در حال حاضر فقط با داده‌های تا سال ۲۰۱۹ آموزش دیده است و آنها را در نظر می‌گیرد، نمی‌تواند هیچ آماری از سال ۲۰۲۰ داشته باشد، اما در این مورد ادعا کرد که ارقام و آمار خود را از یک پایگاه داده خصوصی گرفته است که برای دسترسی به آن نیاز به پرداخت هزینه است.
پژوهشگران هشدار می‌دهند که در عرض تنها یک بعد از ظهر می‌توان با ده‌ها چکیده مطالعه که می‌توان آنها را برای انتشار به کنفرانس‌های مختلف ارسال کرد، روبرو شد و خطر این است که پس از پذیرش یک چکیده برای انتشار، می‌توان از همین فناوری برای نوشتن دست نوشته و مقاله استفاده کرد که کاملاً بر اساس داده‌های ساختگی و نتایج جعلی بنا شده است.
روش‌های مثبت استفاده از هوش مصنوعی
بر خلاف هشدارهای پژوهشگران، آنها خاطرنشان کردند که راه‌های مثبتی برای استفاده از هوش مصنوعی نیز وجود دارد.
آنها می‌گویند: استفاده از هوش مصنوعی برای تحقیقات ذاتاً یک تلاش مخرب نیست. درخواست از هوش مصنوعی برای بررسی دستور زبان کار یا نوشتن نتیجه‌ای برای نتایج قانونی و صحیح کسب شده در یک مطالعه، از دیگر کاربردهایی است که هوش مصنوعی می‌تواند در فرآیند پژوهش بگنجاند تا کارهای زمان‌بری را که روند پژوهش‌های علمی را کند می‌کند، حذف کند.
مشکل در تولید داده‌های جعلی است
مسئله زمانی چالش‌برانگیز می‌شود که فرد از داده‌هایی استفاده می‌کند که وجود ندارند و در واقع نتایج را برای نوشتن پژوهش می‌سازد که ممکن است به راحتی تشخیص انسانی را دور بزند و راه خود را به یک نشریه علمی باز کند.
پژوهشگران می‌گویند این آثار در صورت انتشار، پژوهش‌های مشروع را آلوده می‌کنند و ممکن است بر تعمیم‌پذیری آثار مشروع تأثیر بگذارند.
بر اساس این گزارش، پژوهشگران در پایان خاطرنشان کردند که برای ادامه استفاده ایمن از ChatGPT، ملاحظات مربوط به داده‌های جعلی و پیامدهای آن باید در نظر گرفته شود.
این مطالعه در مجله Patterns منتشر شده است.
منبع : ChatGPT
مهلت دانشجویان الزهرا(س) برای ثبت‌نام وام تحصیلی و ودیعه مسکن متأهلی
اعلام نتیجه اولیه آزمون سردفتری اسناد رسمی نوبت سال ۱۴۰۴
مجموعه‌رباعی «دوستش داشته باش» سروده میلاد عرفان‌پور منتشر شد
روایت زندگینامه شهید حاج اسماعیل رضایی منتشر می‌شود
۱۵ درصد مدارس کشور در برنامه بازرسی‌های دوره‌ای قرار می‌گیرند
ارائه ۸۵ طرح دانش‌آموزی در بیست‌وهشتمین جشنواره جوان خوارزمی
تصویر منتشر شده از جاسک
تصویری از عملیات های نیروی هوایی ارتش در شب های اخیر
رژیم چنج در آمریکا رخ داد+عکس
امروز آخرین مهلت اعتراض به آزمون‌های ارشد و دکتری علوم پزشکی
نسخه پیشنهادی سند حکمرانی نظام‌های ارزیابی آموزش عالی بررسی شد
طرح نوین تغذیه با محوریت دانشجویان اجرا می‌شود
پژوهش مسئله‌محور؛ کلید استفاده واقعی از ظرفیت علمی دانشگاه‌ها
استارلینک پایان حکمرانی ارتباطات در ایران است؟
هکرها با دمای بانک خون فرانسه بازی کردند و آن را بالا بردند
تصویب کلیات آیین‌نامه جدید ارتقای اعضای هیئت علمی
دانشگاه شهید بهشتی دلایل عدم تعلق وام دانشجویی را اعلام کرد
فاز دوم آمایش آموزش عالی به‌روز شد
داریوش فرهنگ گوینده یک مستند شد
ابلاغ مصوبه جدید شرکت مجدد در آزمون دستیاری پزشکی توسط رئیس جمهور
رابرت پتینسون با چهلمین جایزه سینماتک آمریکا تجلیل می‌شود
اجرای کنسرت‌نمایش «فرهاد» در تماشاخانه نوفل لوشاتو
اجرای نمایش «خاک نشینان» در فرهنگسرای نیاوران
شکست ترامپ سوژه کارلوس لطوف شد
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
تأکید بر حمایت از ظرفیت‌های بومی امنیت سایبری
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
تصویر/فراز مهم پیام رهبر انقلاب
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
فوتبال از مدرسه تا تیم ملی؛ وعده تازه برای کشف استعداد در دانش‌آموزان
ایلان ماسک اسپیس ایکس و تسلا را ادغام می‌کند؟
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
با وجود تحریم‌ها، تجهیزات کوانتومی بومی در حال ساخت است
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
گوگل به مدارس هشدار داد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
قرآن از راز ماندگاری قدرت فرعون می‌گوید
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
مسجد باید میدان‌دار اصلی فعالیت‌های قرآنی جامعه شود
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
موج جدید هک سوپرمارکت‌های اروپا
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
انتخابات میان‌دوره‌ای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
تب هوش مصنوعی در شرکت‌ها هم داغ شد
علت فوت حمید علیدوستی چه بود؟
داروهایی که به نفع ویروس عمل می‌کند و سلامت بیمار را به خطر می‌اندازد
کشف یک جرم مرموز در لبه منظومه شمسی توسط اخترشناسان
تصویر روز ناسا از شب در سیاره‌ای وهم‌انگیز
کنجکاوی کودک تا کجا باید درباره تلفن همراه والدین پیش برود؟
کتاب صوتی «پل‌های مدیسون کانتی» منتشر شد
چرا از قهرمانان فقط مدال‌هایشان را می‌بینیم؟
کتاب «هم‌سفیر» منتشر شد
ستاره اسکندری پس از هفت سال به صحنه تئاتر بازمی‌گردد
کمبود جدی فضای آموزشی در مناطق حاشیه‌ای و پرتراکم شهری
دانش‌آموزان قرآنی شایسته قدردانی هستند
چرا سریال «روشنایی شب» با واکنش رسانه صهیونیستی مواجه شد؟
محدودیت دسترسی به اطلاعات اسلحه‌ها برای نوجوانان در چت جی پی تی
ثبت‌نام آزمون انتخاب حسابدار رسمی سال ١۴۰۵ آغاز شد؛ اعلام زمان آزمون
تسهیلات جدید برای قبولی‌های ارشد و دکتری از سوی وزارت علوم
نمرات مردودی دانشجویان ورودی ۱۴۰۲ به بعد در معدل کل محاسبه نمی‌شود
تفکیک مسیر ارتقای اساتید علوم انسانی از رشته‌های مهندسی و کشاورزی
امکان ویرایش معدل و سهمیه در آزمون کارشناسی ارشد علوم پزشکی فراهم شد
کلیداولیه آزمون دکتری تخصصی علوم پزشکی۱۴۰۵ منتشر شد
ثبت‌نام وام‌های تحصیلی و ودیعه مسکن متأهلی دانشجویان شروع شد
آزمون وکالت کانون وکلای دادگستری ۱۴۰۵ با حضور ۱۰۱ هزار نفر برگزار شد
اعلام فهرست رشته‌های پذیرش مستقیم دستیاری تخصصی از بین پزشکان عمومی
وزیر علوم: پیوند دانش و فناوری، قدرت ملی را افزایش می‌دهد
اهمیت آموزش اخلاق و رفتار حرفه‌ای در محیط دانشگاه به پزشکان جوان
موج جدید هک سوپرمارکت‌های اروپا
دانش‌آموزان ایران پای آرمان‌های انقلاب و دفاع از وطن ایستاده‌اند
تصویر/فراز مهم پیام رهبر انقلاب
مسئولیت شرعی والدین در قبال نیازهای فرزندان امروز چیست؟
کنایه سفارت ایران در لندن به ترامپ پس از شکست انتخاباتی +عکس
پاسخ صمیمانه فرمانده نیروی دریایی سپاه به نامه دختران جهادگر مازندرانی+عکس
۲ پهپاد لوکاس غنیمت گرفته شدهٔ دشمن آمریکایی توسط سپاه+عکس
وام تحصیلی این دانشجویان ۵۰ درصد افزایش می‌یابد
دختران ایرانی در جستجوی «خود»؛ هویت در میدان کشمکش سنت و مدرنیته
تصمیم جدید وزارت علوم درباره درخواست دانشگاه‌ها برای ایجاد رشته جدید
لزوم متناسب‌سازی مستمر آموزش علوم پزشکی با نیازهای نظام سلامت
اخذ مجوز استخدام ۹ معلم بازمانده حادثه دبستان شجره طیبه میناب
روز مبارزه با استکبار، روز به خاک مالیدن پوزه قلدران وحشی خواهد شد
زلزلهٔ ۳.۱ ریشتری در عمق ۱۵ کیلومتری زمین، بیرم فارس را لرزاند
تغییر و به‌روزرسانی ۵۰ تا ۷۰ درصدی رشته‌های کشاورزی
شکار پهپادهای آمریکایی سوژه توییت سخنگوی سپاه+عکس
سرلشکر رضایی: ملت ایران شکست بزرگی را به ترامپ تحمیل کرد
ترامپ اورکل را وادار به عقب نشینی از قرارداد با تراشه ساز چینی کرد
وام تحصیلی دانشجویان برتر، ممتاز و متأهل ۵۰ درصد افزایش می‌یابد
آیا بانک‌ها برای خلق پول به مجوز فقهی نیاز دارند؟
آغاز کار نگارش جلد دوم مجموعه چهار جلدی «کربن‌شناسی»
واکنش کاخ سفید پس از شکست جمهوری‌خواهان در انتخابات میان‌دوره‌ای+عکس
بت ترامپ با شکست در جنگ با ایران ترک برداشت+عکس
قرآن از راز ماندگاری قدرت فرعون می‌گوید
انتخابات میان‌دوره‌ای آمریکا و ضربه سیاسی بزرگ به دونالد ترامپ
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.