به گزارش ثریا هنگامی که الکسا به این شکل پاسخ میدهد، واضح است که منافع توسعهدهندهی خود را به منافع شما ترجیح میدهد. با این حال، معمولا مشخص نیست که یک سیستم هوش مصنوعی به چه کسی خدمت میکند.
برای جلوگیری از مورد سوء استفاده قرار گرفتن توسط این سیستمها، مردم باید یاد بگیرند که با شک و تردید به هوش مصنوعی نزدیک شوند. این بدان معناست که تعمدا ورودیهایی را که به آن میدهید بسازید و به طور نقادانه در مورد خروجی آن فکر کنید.
نسلهای جدیدتر مدلهای هوش مصنوعی، با پاسخهای پیچیدهتر و کوتاهترشان، تشخیص اینکه چه کسی هنگام صحبت کردن نفع میبرد را دشوارتر میکنند.
شرکتهای اینترنتی آنچه شما میبینید برای تامین منافع خودشان دستکاری میکنند و این چیز جدیدی نیست. نتایج جستجوی گوگل(Google) و صفحهی فیسبوک شما با ورودیهایی پر شده که برای نمایش آنها پول دریافت شده است. فیسبوک، تیک تاک(TikTok) و سایر شرکتهای فناوری آنچه شما میبینید را دستکاری میکنند تا زمانی را که در این پلتفرم میگذرانید به حداکثر برسانند که خود به معنای بازدید بیشتر از آگهیها توسط شماست.
آنچه سیستمهای هوش مصنوعی را از سایر سرویسهای اینترنتی متمایز میکند میزان تعاملی بودن آنها است و اینکه چگونه این تعاملات به طور فزایندهای شبیه به روابط میشوند. نیازی نیست زیاد از فناوریهای امروزی فاصله بگیرید که بتوانید آیندهای را تصور کنید که در آن هوش مصنوعی سفرهایی را برای شما برنامهریزی میکند، از طرف شما مذاکره میکند یا به عنوان درمانگر و مربی در زندگی شما عمل میکند.
آنها احتمالا ۲۴ ساعته با شما خواهند بود، شما را از نزدیک میشناسند و میتوانند نیازهای شما را پیشبینی کنند. آنها در مسیر تبدیل شدن به دستیاران دیجیتال شخصی هستند.
به عنوان یک متخصص امنیت و دانشمند داده ما معتقدیم افرادی که به این هوش مصنوعیها تکیه میکنند باید به طور ضمنی به آنها اعتماد کنند تا زندگی روزمره را بگذرانند. این بدان معناست که آنها باید مطمئن شوند که هوش مصنوعی مخفیانه برای شخص دیگری کار نمیکند.
در سرتاسر اینترنت، دستگاهها و سرویسهایی که به نظر میرسد برای شما کار میکنند، در حال مخفیانه کار کردن علیه شما هستند.
تلویزیونهای هوشمند از شما جاسوسی میکنند. برنامههای تلفن همراه دادههای شما را جمعآوری کرده و میفروشند. بسیاری از برنامهها و وبسایتها شما را از طریق الگوهای تاریک فریب میدهند. این یک سرمایهداری نظارتی است و هوش مصنوعی در حال تبدیل شدن به بخشی از آن است.
در تاریکی
احتمالا شرایط با ظهور هوش مصنوعی خیلی بدتر میشود. برای اینکه دستیار دیجیتال هوش مصنوعی واقعا مفید باشد، باید شما را حتی بهتر از تلفن همراه شما و موتور جستجوگر گوگل شما بشناسد. حتی شاید از دوستان نزدیک، شرکای صمیمی و درمانگر شما نیز شما را بهتر بشناسد.
دلیلی برای اعتماد به ابزارهای مولد هوش مصنوعی امروزی وجود ندارد.
حقایق ساختگی که جیپیتی و دیگر مدلهای زبانی بزرگ تولید میکنند را فراموش کنید. انتظار میرود که با بهبود فناوری در چند سال آینده، آنها تا حد زیادی پاکسازی شوند.
اما نمیدانیم که انواع مختلف هوش مصنوعی چگونه پیکربندی شدهاند. چگونه آموزش دیدهاند، چه اطلاعاتی به آنها داده شده است و چه دستورالعملهایی به آنها داده شده تا پیروی کنند. به عنوان مثال، محققان قوانین مخفی حاکم بر رفتار چتبات مایکروسافت بینگ را کشف کردند. آنها تا حد زیادی بیخطر هستند اما میتوانند در هر زمانی تغییر کنند.
پول درآوردن
بسیاری از این هوش مصنوعیها با هزینههای هنگفت توسط برخی از بزرگترین انحصارهای فناوری ایجاد و آموزش داده میشوند. آنها برای استفاده رایگان یا با هزینه بسیار کم به مردم ارائه میشوند. این شرکتها باید به نحوی از آنها درآمدزایی کنند و مانند سایر بخشهای اینترنت، احتمالا به نوعی شامل نظارت و دستکاری میشود.
تصور کنید از چتبات خود بخواهید برای تعطیلات بعدی شما برنامهریزی کند. آیا شرکت هواپیمایی یا هتل زنجیرهای یا رستوران خاصی را انتخاب میکند که برای شما بهترین است یا جایی که شرکت سازندهی هوش مصنوعی شما با آن شراکت پنهانی دارد؟
این مشابه نتایج پولی در جستجوی گوگل و تبلیغات در فیس بوک است که احتمالا در طول زمان مخفیانهتر میشود.
اگر از چتبات خود اطلاعات سیاسی میخواهید، آیا نتایج تحت تاثیر سیاستهای شرکت سازنده آن خواهد بود؟ یا معطوف به نامزد انتخاباتی که بیشترین پول را پرداخت کرده میشود؟ یا حتی دیدگاه جمعیت شناختی افرادی که از دادههای آنها در آموزش مدل هوش مصنوعی استفاده شده است بر نتایج تاثیر دارد؟ آیا دستیار هوش مصنوعی شما مخفیانه یک جاسوس دوجانبه است؟ در حال حاضر هیچ راهی برای دانستن آن وجود ندارد.
قابل اعتماد بودن براساس قانون
ما معتقدیم مردم باید از این فناوری انتظار بیشتری داشته باشند و شرکتهای فناوری و هوش مصنوعی میتوانند قابل اعتمادتر شوند. قانون پیشنهادی هوش مصنوعی اتحادیه اروپا اقدامات مهمی را انجام میدهد که نیازمند شفافیت در مورد دادههای مورد استفاده برای آموزش مدلهای هوش مصنوعی، کاهش تعصب احتمالی، افشای خطرات قابل پیشبینی و گزارشدهی آزمایشهای استاندارد صنعتی است.
بیشتر هوش مصنوعیهای موجود از این دستورات نوظهور اروپایی پیروی نمیکنند.
هوش مصنوعیهای آینده باید قابل اعتماد باشند. تا زمانی که دولت حمایتهای قوی از مصرف کننده برای محصولات هوش مصنوعی ارائه نکند، مردم در تخمین زدن خطرات و سوگیریهای بالقوه هوش مصنوعی و کاهش بدترین اثرات آنها تنها هستند.
بنابراین، هنگامی که یک توصیه برای سفر یا اطلاعات سیاسی از یک ابزار هوش مصنوعی دریافت میکنید، با نگاه انتقادی آن را ببینید.
منبع: ایسنا
گوگل جایگزین یورگن کلوپ سرمربی لیورپول میشود
همه اجساد در خاک این شهر تجزیه نمیشود و سالم میماند+عکس
خودروهای پرنده غول پیکر در آسمان به پرواز درآمدند
کشف تازه از وجود سیاره نهم در منظومه شمسی
اسب سیاه مقابل تلسکوپ جیمز وب نمایان شد+عکس
تصاویر واقعی آیفون۱۶ در توییتر لو رفت+عکس
داخل ساختمانهای عجیب با علامت X در چین چه خبر است؟ +عکس
نکته عجیبی که در تلویزیون ۴K هواوی خبرساز شد
ملاقات ستاره دنباله دار با ماه و مشتری و اورانوس+عکس
چرا رباتها هنوز نتوانستند به گرد پای حیوانات برسند؟
تجلیل از ۶۵ عضو هیات علمی برگزیده/ جوانترین استاد ۴۵ساله و تقدیر از ۶ استاد زن
فرصت عوامل آموزشی و تربیتی مدارس برای ثبت تجربیات خلاقانه و نوآورانه خود تا ۲۰ اردیبهشت
تحویل ۱۰ هزار کلاس درس طی سال جاری در صورت تزریق بودجه
اعتراض دانشجویان در حمایت از مردم بی دفاع غزه
برگزاری اختتامیه چهارمین دوره جشنواره خودنویس در نمایشگاه کتاب
انتخاب استاد دانشگاه ایران به عنوان داور مهندسان برق و الکترونیک آمریکا
اعطای جایزه شیخ مفید به ۱۱۰ استاد برتر دانشگاه
حمایت ۳ میلیارد تومانی از پایاننامههای ارشد و دکتری
تمدید مهلت انتخاب رشته داوطلبان دوره دکتری تخصصی دانشگاه آزاد
تحلیل و آسیبشناسی شعر آیینی شاعران کاشان منتشر شد
انتشار ترجمه و شرح فصوصالحکم
اعطای گرنت برای کار پیرامون موضوعات مهم آینده پژوهشی دنیا
المپیاد ورزش دانشجویی با چاشنی فناوری
اسامی اساتید نمونه کشوری منتشر شد/معرفی جوان ترین و پیرترین استاد
فعالیت نوبت صبح مدارس ۶ شهر خوزستان غیرحضوری شد
باید در جذب نیروی انسانی مدارس ابتدایی تخصص ملاک قرار گیرد
بررسی پیشتازی بانوان در کنکور برای جلوگیری از آسیب به نظام خانواده و آموزش عالی
حمایت جامعه اسلامی دانشجویان دانشگاه تهران از خیزش ضد صهیونیستی دانشجویان ایالات متحده آمریکا
ترامپ خطاب به دانشجویان آمریکایی: اعتراضات حمایتی از فلسطین را متوقف کنید
مخبر: سند تحول بنیادین آموزش و پرورش سریعتر اجرایی شود
ساخت روزانه ۸ مدرسه در کشور/ استخدام ۱۹ هزار مربی ورزشی و مشاور پس از ۱۵ سال
معرفی ۲۵۰ موقعیت شغلی در نمایشگاه کار دانشگاه صنعتی امیرکبیر
سرکوب دانشجویان ضد صهیونیستی برگ دیگری از دموکراسی دروغین آمریکا را رقم زد
مهلت انتخاب رشته در آزمون دکتری سال ۱۴۰۳ برای بار سوم تمدید شد
اختتامیه جشنواره قرآنی، فرهنگی و هنری شهید آوینی برگزار می شود
دانشگاهها در اجرای برنامهها سند دانشگاه اسلامی را ملاک قرار دهند
نمایشگاه کتاب تهران را روایت کنید، جایزه بگیرید
پیکسل 8a گوگل برای گوشی سامسونگ شاخ و شانه کشید
رونمایی از برادر فیدلیتی هیبریدی در دو مدل پنج و هفت نفره+عکس
حمایت از ۱۰ دانشجوی پسادکتری با هدف توانمند سازی نیروی انسانی بخش کوانتوم
برچسب جدیدی که خودرو را در تابستان ۱۰ درجه خنکتر میکند+عکس
سازمان ملل صدای حقطلبی دنیا را بشنود/نیروهای امنیتی در اعتراضات ۱۴۰۱ وارد دانشگاه نشدند
اطلاعات تازه درباره Xperia ۱ VI سونی لو رفت+عکس
امیر خلبان اکبر معنوینژاد به یاران شهیدش پیوست
ترجمه درآمدی بر فلسفه سیاسی هوش مصنوعی چاپ شد
اسیر فلسطینی صهیونیستها برنده بوکر عربی ۲۰۲۴ شد
نقش دانشگاه امیرکبیر در تحقق شعارهای سال و اقتصاد دانشبنیان
پیشرفت علمی بدون داشتن علوم پایه قوی امکان پذیر نیست
تقدیر از پایاننامهها و رسالههای دکترای کاربردی در صنعت فولاد
معلمان تلاش کنند گره ذهنی دانش آموزان باز شود
دبیر کارگروه سلامت مدارس منصوب شد
پیگیری چهره به چهره و خانه به خانه دانشآموزان بازمانده از تحصیل در گیلان
طرح ملی درس عفاف و حجاب در طراحی پارچه و لباس دانشگاه های هنر
جزییات اولین آزمون دکتری حرفهای فیزیوتراپی اعلام شد
هشدار اپل درباره این حرکت اشتباه هنگام شارژ آیفون
تغییرات غافل گیرکننده در iOS ۱۸ در راه است
نخبه ۱۲ ساله ایرانی در انجمن هوش مصنوعی شروع به کار کرد+عکس
سفر محرمانه ایلان ماسک به چین لو رفت
موتور جست و جو و هوش مصنوعی به خودروهای کرهای راه پیدا کرد
گلبرگهای اطراف سحابی حلقه در فضا باز شدند+عکس
وضعیت مدارس سیل زده سیستانوبلوچستان/ تداوم آموزش دانشآموزان در مساجد
سالی که تابستان نیامد و باران و برف آمد
نظریه عجیب اینشتین درباره عمر انسان که توسط پزشکان رد شد
اعضای هیئت انتخاب رویداد استارتآپی فیلمنامه نویسی منصوب شدند
واکنش جمشیدی به مقابله با دانشجویان آمریکایی
فردا آخرین فرصت رفع نقص مدارک داوطلبان آزمون دستیاری پزشکی
مرحله مصاحبه داوطلبان مجاز آزمون دکتری ۱۴۰۳ حضوری برگزار می شود
کتاب من سید علیاکبر صنعتی هستم بازنشر شد
کودکان و نوجوانانِ امروز غرق در گوشی هستند
آموزش و پرورش سالهاست از مشکل دخالت افراد غیر مسؤول رنج میبرد
کاربران شاد در جشنواره عروسکخونه ۲۰ میلیون رأی دادند
جذب نیروی امریه در پژوهشکده علوم بهداشتی جهاددانشگاهی
طرح پایش سلامت برای همه اعضای جهاد دانشگاهی اجرا میشود
برافراشته شدن پرچم فلسطین در برترین دانشگاه جهان
جنبش دانشجویان آمریکایی و اروپایی برای توقف حمایت آمریکا از جنایتهای رژیم صهیونیست است
دانشجویان پیام نور برای تغییر محل آزمون تا ۱۶ اردیبهشت فرصت دارند
راهاندازی مدارس جدید مطابق اقلیم در منطقه خلیج فارس
علل پیشتازی دختران در آزمون سراسری از نگاه وزیر علوم
شروع غائله هایدگر در بازار نشر
قصه تصویری کرمی که عقاب را نجات داد چاپ شد
پیشفروش شنل نامرئی کننده آغاز شد+عکس
دانشمندان قلب ماه را دیدند+عکس
ورود قدرتمندترین گوشی نوبیا به بازار
انقلابی بزرگ در صنعت ترانزیت و موتورهای دیزلی اتفاق افتاد
رونمایی از برادر فیدلیتی هیبریدی در دو مدل پنج و هفت نفره+عکس
رونمایی از موتور ۶ سیلندر ۴۰۰۰ سیسی ساخته محققان ایرانی+عکس
هشدار اپل درباره این حرکت اشتباه هنگام شارژ آیفون
گشودن مقبره فراعنه مساوی با مرگ حتمی؟
هزینه نگهداری از خودروهای لوکس آمریکایی چقدر است؟
موتور آمونیاک سوز تویوتا با قدرت بیشتر و آلایندگی کمتر
نخبه ۱۲ ساله ایرانی در انجمن هوش مصنوعی شروع به کار کرد+عکس
تغییرات غافل گیرکننده در iOS ۱۸ در راه است
پیکسل 8a گوگل برای گوشی سامسونگ شاخ و شانه کشید
برچسب جدیدی که خودرو را در تابستان ۱۰ درجه خنکتر میکند+عکس
داخل ساختمانهای عجیب با علامت X در چین چه خبر است؟ +عکس
آخرین محور رویداد من یک دانشآموزم با نام «امام مهربانی کلید خورد
نکته عجیبی که در تلویزیون ۴K هواوی خبرساز شد
آغاز پذیرش دانشجوی دکتری بدون آزمون در دانشگاه آزاد
آییننامه مدرسه تراز سند تحول بنیادین نهایی شده است
فهرست دانشگاههای خارج از کشور مورد تایید وزارت بهداشت اعلام شد
پویش سلامت دهان و دندان ۱۷ تا ۱۹ اردیبهشت برگزار میشود
نسلکُشی در فلسطین قلب همه بشریت را به درد آورده است
لوگوی نود سالگی دانشگاه تهران منتشر شد
60 درصد پروژهای مدرسهسازی در حال ساخت با مشارکت مردم است
اینترنت در زمان برگزاری نوبت اول کنکور ۱۴۰۳ قطع نمیشود
فرصت انتخاب رشته داوطلبان آزمون دکتری سال ۱۴۰۳ دوباره تمدید شد
جمعه ۷ اردیبهشت نمایش «یاخته» باحضور خبرنگاران و عکاسان روی صحنه میرود
بدون نیاز به اینترنت با واتساپ فایل منتقل کنید
تظاهرات دانشجویان آرژانتین در پی کاهش ارائه آموزش عالی دولتی
حمایت دبیرخانه شورای عالی انقلاب فرهنگی از طرح های فرهنگی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.