به گزارش ثریا هنگامی که الکسا به این شکل پاسخ میدهد، واضح است که منافع توسعهدهندهی خود را به منافع شما ترجیح میدهد. با این حال، معمولا مشخص نیست که یک سیستم هوش مصنوعی به چه کسی خدمت میکند.
برای جلوگیری از مورد سوء استفاده قرار گرفتن توسط این سیستمها، مردم باید یاد بگیرند که با شک و تردید به هوش مصنوعی نزدیک شوند. این بدان معناست که تعمدا ورودیهایی را که به آن میدهید بسازید و به طور نقادانه در مورد خروجی آن فکر کنید.
نسلهای جدیدتر مدلهای هوش مصنوعی، با پاسخهای پیچیدهتر و کوتاهترشان، تشخیص اینکه چه کسی هنگام صحبت کردن نفع میبرد را دشوارتر میکنند.
شرکتهای اینترنتی آنچه شما میبینید برای تامین منافع خودشان دستکاری میکنند و این چیز جدیدی نیست. نتایج جستجوی گوگل(Google) و صفحهی فیسبوک شما با ورودیهایی پر شده که برای نمایش آنها پول دریافت شده است. فیسبوک، تیک تاک(TikTok) و سایر شرکتهای فناوری آنچه شما میبینید را دستکاری میکنند تا زمانی را که در این پلتفرم میگذرانید به حداکثر برسانند که خود به معنای بازدید بیشتر از آگهیها توسط شماست.
آنچه سیستمهای هوش مصنوعی را از سایر سرویسهای اینترنتی متمایز میکند میزان تعاملی بودن آنها است و اینکه چگونه این تعاملات به طور فزایندهای شبیه به روابط میشوند. نیازی نیست زیاد از فناوریهای امروزی فاصله بگیرید که بتوانید آیندهای را تصور کنید که در آن هوش مصنوعی سفرهایی را برای شما برنامهریزی میکند، از طرف شما مذاکره میکند یا به عنوان درمانگر و مربی در زندگی شما عمل میکند.
آنها احتمالا ۲۴ ساعته با شما خواهند بود، شما را از نزدیک میشناسند و میتوانند نیازهای شما را پیشبینی کنند. آنها در مسیر تبدیل شدن به دستیاران دیجیتال شخصی هستند.
به عنوان یک متخصص امنیت و دانشمند داده ما معتقدیم افرادی که به این هوش مصنوعیها تکیه میکنند باید به طور ضمنی به آنها اعتماد کنند تا زندگی روزمره را بگذرانند. این بدان معناست که آنها باید مطمئن شوند که هوش مصنوعی مخفیانه برای شخص دیگری کار نمیکند.
در سرتاسر اینترنت، دستگاهها و سرویسهایی که به نظر میرسد برای شما کار میکنند، در حال مخفیانه کار کردن علیه شما هستند.
تلویزیونهای هوشمند از شما جاسوسی میکنند. برنامههای تلفن همراه دادههای شما را جمعآوری کرده و میفروشند. بسیاری از برنامهها و وبسایتها شما را از طریق الگوهای تاریک فریب میدهند. این یک سرمایهداری نظارتی است و هوش مصنوعی در حال تبدیل شدن به بخشی از آن است.
در تاریکی
احتمالا شرایط با ظهور هوش مصنوعی خیلی بدتر میشود. برای اینکه دستیار دیجیتال هوش مصنوعی واقعا مفید باشد، باید شما را حتی بهتر از تلفن همراه شما و موتور جستجوگر گوگل شما بشناسد. حتی شاید از دوستان نزدیک، شرکای صمیمی و درمانگر شما نیز شما را بهتر بشناسد.
دلیلی برای اعتماد به ابزارهای مولد هوش مصنوعی امروزی وجود ندارد.
حقایق ساختگی که جیپیتی و دیگر مدلهای زبانی بزرگ تولید میکنند را فراموش کنید. انتظار میرود که با بهبود فناوری در چند سال آینده، آنها تا حد زیادی پاکسازی شوند.
اما نمیدانیم که انواع مختلف هوش مصنوعی چگونه پیکربندی شدهاند. چگونه آموزش دیدهاند، چه اطلاعاتی به آنها داده شده است و چه دستورالعملهایی به آنها داده شده تا پیروی کنند. به عنوان مثال، محققان قوانین مخفی حاکم بر رفتار چتبات مایکروسافت بینگ را کشف کردند. آنها تا حد زیادی بیخطر هستند اما میتوانند در هر زمانی تغییر کنند.
پول درآوردن
بسیاری از این هوش مصنوعیها با هزینههای هنگفت توسط برخی از بزرگترین انحصارهای فناوری ایجاد و آموزش داده میشوند. آنها برای استفاده رایگان یا با هزینه بسیار کم به مردم ارائه میشوند. این شرکتها باید به نحوی از آنها درآمدزایی کنند و مانند سایر بخشهای اینترنت، احتمالا به نوعی شامل نظارت و دستکاری میشود.
تصور کنید از چتبات خود بخواهید برای تعطیلات بعدی شما برنامهریزی کند. آیا شرکت هواپیمایی یا هتل زنجیرهای یا رستوران خاصی را انتخاب میکند که برای شما بهترین است یا جایی که شرکت سازندهی هوش مصنوعی شما با آن شراکت پنهانی دارد؟
این مشابه نتایج پولی در جستجوی گوگل و تبلیغات در فیس بوک است که احتمالا در طول زمان مخفیانهتر میشود.
اگر از چتبات خود اطلاعات سیاسی میخواهید، آیا نتایج تحت تاثیر سیاستهای شرکت سازنده آن خواهد بود؟ یا معطوف به نامزد انتخاباتی که بیشترین پول را پرداخت کرده میشود؟ یا حتی دیدگاه جمعیت شناختی افرادی که از دادههای آنها در آموزش مدل هوش مصنوعی استفاده شده است بر نتایج تاثیر دارد؟ آیا دستیار هوش مصنوعی شما مخفیانه یک جاسوس دوجانبه است؟ در حال حاضر هیچ راهی برای دانستن آن وجود ندارد.
قابل اعتماد بودن براساس قانون
ما معتقدیم مردم باید از این فناوری انتظار بیشتری داشته باشند و شرکتهای فناوری و هوش مصنوعی میتوانند قابل اعتمادتر شوند. قانون پیشنهادی هوش مصنوعی اتحادیه اروپا اقدامات مهمی را انجام میدهد که نیازمند شفافیت در مورد دادههای مورد استفاده برای آموزش مدلهای هوش مصنوعی، کاهش تعصب احتمالی، افشای خطرات قابل پیشبینی و گزارشدهی آزمایشهای استاندارد صنعتی است.
بیشتر هوش مصنوعیهای موجود از این دستورات نوظهور اروپایی پیروی نمیکنند.
هوش مصنوعیهای آینده باید قابل اعتماد باشند. تا زمانی که دولت حمایتهای قوی از مصرف کننده برای محصولات هوش مصنوعی ارائه نکند، مردم در تخمین زدن خطرات و سوگیریهای بالقوه هوش مصنوعی و کاهش بدترین اثرات آنها تنها هستند.
بنابراین، هنگامی که یک توصیه برای سفر یا اطلاعات سیاسی از یک ابزار هوش مصنوعی دریافت میکنید، با نگاه انتقادی آن را ببینید.
منبع: ایسنا
کشف خیره کننده دانشمندان درباره یونها همه را شگفت زده کرد
ارزانترین باتری مادامالعمر دنیا کشف شد+عکس
بزرگترین فروچاله زیرآبی دنیا که باعث انقراض دایناسورها شد+عکس
پشمک کیهانی که از غول منظومه شمسی هم بزرگتر است+عکس
چطور با گوشی خود بفهمیم که ما را ردیابی میکنند؟
مشوقهایی برای اضافه تدریس معلمان در نظر گرفتهایم/تعیین تکلیف داوطلبان آموزگاری تا تیر
آغاز آزمون استخدامی دبیری و هنر آموزی از فردا
معرفی نامزدهای جایزه شعر بهاران
کتاب تازه امین فقیری در نمایشگاه کتاب
اختتامیه رویداد ستفاتک در جهاددانشگاهی اصفهان
روایت کتابها از موسیقی؛ لطف مفخّم تا مضراب
اتمام سنجشسلامت نوآموزان تاپایان اردیبهشت/هنوز۳۰ درصد نوآموزان برای سنجش مراجعه نکردهاند
جزییات برگزاری امتحانات پایان نیم سال دوم پیام نور اعلام شد
آزمون صلاحیت بالینی پزشکی در دانشگاه های علوم پزشکی برگزار شد
ضوابط جدید ارزشیابی مدارک مقاطع داروسازی خارج از کشور اعلام شد
قیمت غذای دانشجویی تا مهرماه افزایشی ندارد
قبل از بحرانی شدن اعتراضات دانشجویی اطلاع رسانی کنید
ایجاد و بازسازی ۱۰۰۰ هنرستان تا پایان برنامه هفتم توسعه
توصیههایی به دانشآموزان برای حضور در آزمونهای نهایی؛ از موارد ممنوعه تا نحوه درج پاسخها
۲۰ درصد سوالات امتحانی دشوار است/ اخذ آزمون مجدد از افراد مشکوک
دانشگاهها برای افزایش بهرهوری به میدان بیایند
جزییات ثبت نام پذیرفته شدگان بدون آزمون رشتههای ارشد اعلام شد
فهرست ۶۷۳ دانشگاه برتر جوان در رتبهبندی تایمز منتشر شد
زمان اعلام نتایج اولیه آزمون کارشناسیارشد دانشگاه معارف اسلامی
قدیمی ترین عینک فروشی تهران
جزئیات پوشش بیمه ای در عینک سازی ها
پاسخ وکیل به آیا قانون تجارت تغییر میکند؟
قنات در سرزمین قنوت و قناعت - استان یزد
تحقق اقتصاد مقاومتی دانش بنیان و مردم پایه توسط اساتید بسیجی
پرداخت حقوق معلمان خرید خدمات و حقالتدریس به روز شد
رونمایی ۱۵ کتاب با موضوع اهلبیت به زبانهای اروپایی و آفریقایی در نمایشگاه کتاب
نسل جوان آمریکایی به حاکمیت معترض است/اعتراضات دانشجویی ادامه خواهد داشت
دانشگاه تهران میزبان اجلاس رؤسای دانشگاهها شد
بدهی آموزش و پرورش به فرهنگیان بابت پاداش پایان خدمت ۱۴۰۲/ معوقاتی که تا اسفند پارسال تسویه شد
مسئولان از پیشرفتهای علمی پشتیبانی کنند
استفاده ۱۳۹هزار دانشجو از بن اعتباری خرید کتاب از نمایشگاه
۴۶ دانشگاه ایران در میان برترین دانشگاه های جوان
پشتپرده برگزاری آزمونهای کشوری ششمیها و نهمیها/ برگزاری آزمون شفاهیفارسی در مقطع ابتدایی
خبر خوش برای متقاضیان رشته پزشکی/ گام بلند دانشگاههای ایران در ارتقای جایگاه جهانی
تشکیل دبیرخانه دائمی صنایع و خانه صنعت در معاونت پژوهش و فنآوری دانشگاه تهران
سامانه him نمونه بهرهوری درون دانشگاهی علوم پزشکی شهید بهشتی است
کاهش نگران کننده دانشجویان دانشگاههای غیردولتی
نخستین بیانیه مد موقر شیراز منتشر شد
مسؤولیت امتحانات نهایی از سال آینده با سازمان ملی سنجش خواهد بود
غیرانتفاعیها بیشترین حذف کد رشته را در آمایش آموزش عالی داشتند
مشارکت ۳۰هزار استاد و کارمند دانشگاه در ارزیابی موسسات غیرانتفاعی
استخدام یک روزه اساتید در دانشگاههای غیرانتفاعی
نوجوانان با «هفتخوان» به استقبال بزرگداشت فردوسی میروند
تأکید وزیر علوم بر رعایت اخلاق دیپلماسی علمی در پذیرش دانشجویان بینالملل
ساخت و تحویل ۷۰۰۰ مدرسه در دولت سیزدهم
آیین بزرگداشت ۱۷۵۷ سال سنت آموزش عالی در ایران ۸ خرداد برگزار میشود
۱۰ خرداد؛ برگزاری سومین کنگره شهدای دانشگاه آزاد
اعطای مالکیت ۱۴۰۰ واحد مسکونی به اعضای هیات علمی و کارکنان دانشگاه علامه
کارت آزمون استخدامی رشته شغل دبیری و هنرآموز منتشر شد
المپیاد علمی دانشجویان فرصتی برای اصلاح نگاه و تفکر علمی است
کارت شرکت در آزمون انتخاب سردفتر اسناد رسمی سال ۱۴۰۳ منتشر شد
وزیر سابق علوم: شهریههای دانشگاههای غیرانتفاعی کفاف هزینههای دانشگاه را نمیدهد
لزوم مدیریت رشتههای یک بار پذیرش در دانشگاههای غیردولتی و غیرانتفاعی همانند دانشگاه آزاد
ایجاد دو آزمایشگاه تخصصی برای توسعه میادین نفتی در دانشگاه صنعتی امیرکبیر
شناسایی ۸۷۴ هزار بازمانده از تحصیل با کد ملی/ بازگشت این افراد به تحصیل امکانپذیر است
نظارت وزارت کشور بر تامین «امنیت» حوزههای آزمونهای نهایی/ همکاری فراجا و آتشنشانی
نماد سنت آموزش عالی در ایران در دانشگاه تهران رونمایی شد
ارائه مهلت جدید ثبت نام آزمون دکتری تخصصی داروسازی
نتایج پذیرش بدون کنکور دانشگاه تهران اعلام شد
دانشجویان یونانی شب گذشته در حمایت از فلسطین تظاهرات برپا کردند
تحصیل ۸ درصد دانشجویان کل کشور در دانشگاههای غیردولتی/صدور مجوز دانشگاه علوم پزشکی غیرانتفاعی
ترجمه ماجرای زندگی و آثار الیور استون منتشر شد
حضور نمایندگان دانشگاه سن پترزبورگ روسیه در دانشگاه صنعتی شریف
حافظ» جلوتر از همه شاعران و نویسندگان ایرانی!
مناظره با گزاره «مداخله دولت در حوزه نشر از هر جهت زیانبار است» با حضور دو گروه از دانشگاههای الزهرا و تهران، در سیوپنجمین نمایشگاه بینالمللی کتاب تهران برگزار شد.
دستگاهها برای کمک به آموزش و پرورش فراتر از سخن گام بردارند
امروز؛ آخرین مهلت ثبتنام دانشجویان در المپیاد ورزشهای فناورانه
دانشکده رسانه فارس دانشجو میپذیرد
آغاز توزیع کارت آزمون استخدامی آموزش و پرورش از امروز
۱۰۷۳ مدرسه کانکسی بالای ۱۰ دانشآموز تا مهر امسال ساماندهی میشوند
نحوه انتخاب موضوعات پایان نامه برای پذیرش دانشجوی استاد محور
پرونده چهارمین مسابقه خودنویس در نمایشگاه کتاب تهران بسته میشود
بزرگداشت فردوسی در تماشاخانه مهر حوزه هنری برگزار میشود
نیاز سالانه سازمان نوسازی مدارس به ۱۶۸ هزار میلیاردتومان اعتبار/ساخت ۲۰۰ مدرسه بزرگ در سال جاری
تقدیر وزیر علوم از شیمیدانها / درخواست کمک برای دانشجویان علوم پایه/ تحقیر کمدین یهودی
چطور شد که شفق قطبی در ایران دیده شد؟ +عکس
چطور با گوشی خود بفهمیم که ما را ردیابی میکنند؟
کاسبی عجیب و پرسود چند ایرانی در آمازون+عکس
به روزرسانی طوفانی واتساپ تغییرات اساسی در ظاهرش ایجاد کرد+عکس
ترفند مخفیانه و زشت اپل در فروش یکی از محصولاتش لو رفت+عکس
استور بازی موبایل ایکس باکس در تابستان از راه میرسد
اپل برای ساخت و پخش تبلیغات زشتاش عذرخواهی کرد
بزرگترین فروچاله زیرآبی دنیا که باعث انقراض دایناسورها شد+عکس
هوش مصنوعی قرار است انسانها را نابود کند؟
تصویر ناسا از شفق قطبی بر فراز لهستان پربازدید شد+عکس
ارزانترین باتری مادامالعمر دنیا کشف شد+عکس
کشف خیره کننده دانشمندان درباره یونها همه را شگفت زده کرد
زاکربرگ میخواهد این شبکه معروف خبری را بخرد
اشتباه بیسابقه گوگل سالمندان را سردرگم کرد
نحوه انتخاب موضوعات پایان نامه برای پذیرش دانشجوی استاد محور
تمام اقدامات برای دستیاران پزشکی/ از افزایش حقوق تا بورسیه تحصیلی
شفق قطبی برای اولین بار در ایران هم دیده شد+عکس
آغاز توزیع کارت آزمون استخدامی آموزش و پرورش از امروز
راهنمای عملی آزمونهای نهایی دوره دوم متوسطه نظری منتشر شد
نحوه برگزاری امتحانات نهایی و تصحیح اوراق دانشآموزان اعلام شد
دو خبر خوش وزیر علوم برای جامعه دانشگاهی اعلام شد
ارائه مهلت جدید ثبت نام آزمون دکتری تخصصی داروسازی
پذیرش ۲۶ هزار دانشجوی دکتری در دانشگاهها/ نحوه محاسبه نمره دکتری
تولیدات دانشگاهها نظم دنیا را تغییر داده است
حضور نمایندگان دانشگاه سن پترزبورگ روسیه در دانشگاه صنعتی شریف
دانشجویان یونانی شب گذشته در حمایت از فلسطین تظاهرات برپا کردند
سوپرآلیاژ انقلابی ناسا شروع به کار کرد
آیین بزرگداشت ۱۷۵۷ سال سنت آموزش عالی در ایران ۸ خرداد برگزار میشود
مسؤولیت امتحانات نهایی از سال آینده با سازمان ملی سنجش خواهد بود
دانشجویان در شش محور در کرسیهای آزاد اندیشی با هم رقابت میکنند
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.