اشتباه فناوری تشخیص چهره و عصبانیت اعضای کنگره آمریکا

توریست مالزی- سیستم هوش مصنوعی تشخیص چهره شرکت “آمازون”، چهره ۲۸ عضو کنگره آمریکا را به اشتباه به مجرمین شباهت داد که این مسئله موجب عصبانیت این مقامات شد....
توریست مالزی- سیستم هوش مصنوعی تشخیص چهره شرکت “آمازون”، چهره ۲۸ عضو کنگره آمریکا را به اشتباه به مجرمین شباهت داد که این مسئله موجب عصبانیت این مقامات شد.

پس از آزمایش هوش مصنوعی تشخیص چهره آمازون توسط اتحادیه آزادی‌های مدنی کالیفرنیای شمالی، برخی از اشتباهات بروز کرد و ۲۸ عضو کنگره آمریکا را با مجرمان اشتباه گرفت. اکنون اعضای قانونگذار کنگره این سیستم را فراخوانی کرده‌ و خواسته‌اند استفاده از آن تحت بررسی دقیق قرار بگیرد.

سازمان دیده‌بان غیرانتفاعی “اتحادیه آزادی‌های مدنی کالیفرنیای شمالی”(ACLU) نقص در “تکنولوژی تشخیص چهره آمازون” به نام “Rekognition” را گزارش داد. این ابزار که در حال حاضر توسط سازمان‌های اجرای قانون در ایالت‌های اورگان و اورلاندو استفاده می‌شود، چهره ۲۸ عضو کنگره را به عنوان مجرمانی که قبلا دستگیر شده‌اند، نسبت داد .

ACLU نگران اشتباهات خطرناک سیستم هوش مصنوعی(AI) است که در تشخیص افراد رنگین پوست اختلال دارد. این آزمایش باعث شد که اعضای قانون‌گذار کنگره، نامه‌هایی را برای “جف بزوس” بنیانگذار و مدیر عامل آمازون و سازمان‌های اجرای قانون ارسال کنند.

سناتور ادوارد مارکی و لوئیس گوتیرز و مارک دسالنیر نامه‌ای به بزوس فرستادند و با اشاره به نتایج آزمایش اخیر ACLU، خواستار توقف این سیستم و همچنین ارائه جزئیاتی در مورد جایی که این فناوری در حال حاضر در حال استفاده است، شدند.

سه سناتور دیگر نیز یک نامه به دفتر رئیس پلیس نوشتند و خواستار بازبینی ۳۹ آژانس انتظامی شدند که این سیستم در آنها مورد استفاده قرار گرفته است. سناتورها می‌گویند همانطور که فناوری تشخیص چهره سهولت دسترسی را به ارمغان آورده و دقت را افزایش داده و هزینه‌ها را کاهش داده است، ما درک می‌کنیم که به عنوان یک ابزار اجرای قانون، جذاب است. با این وجود، این تکنولوژی با خطرات ذاتی، از جمله آسیب رساندن به حق مردم آمریکا در موضوع حریم خصوصی و همچنین تعصب نژادی و جنسیتی روبرو است.

کنگره در انجام نقش نظارتی خود، شناخت بهتر از میزان استفاده از این فناوری‌های جدید در سازمان‌های اجرای قانون را مهم می‌داند. “ACLU” آزمون خود را با سیستم تشخیص چهره که در سایت آمازون در دسترس عموم قرار دارد، انجام داد.

این سازمان، یک پایگاه داده و ابزار جستجو را با ۲۵ هزار عکس مجرمان دستگیر شده ساخت و سپس هر عضو فعلی کنگره و مجلس سنا را در معرض آزمایش این سیستم تشخیص چهره قرار داد. در نهایت، این سیستم ۲۸ مطابقت نادرست را انجام داد.

“ACLU” در بیانیه خود نوشت: متاسفانه اشتباهات بیشتر در مورد افراد رنگین پوست، شامل ۶ عضو سیاهپوست کنگره صورت گرفت. این اولین نقص شناسایی شده در مورد سیستم “Rekognition” نیست، چرا که در ماه گذشته، چندین سهامدار آمازون نیز خواستار توقف این سیستم شده بودند.

سهامداران در نامه‌ای اظهار داشتند: در حالی‌که “Rekognition” به منظور ارتقای برخی از فعالیت‌های اجرای قانون توسعه یافته باشد، اما ما عمیقا نگران هستیم که در نهایت موجب نقض حقوق مدنی و حقوق بشر شود. ما نگرانیم که این فناوری به صورت غیرمنصفانه و نامتناسب مورد استفاده قرار بگیرد و افراد رنگین پوست و مهاجران را مورد هدف قرار دهد.

منبع: ایسنا

پاسخی ارسال کنید

*

*

سه − 1 =

This site uses Akismet to reduce spam. Learn how your comment data is processed.

آخرین اخبار

زیر آسمان کوالالامپور

^