Kabar Teknologi – Amazon Melakukan Pembelaan Atas Sistem Pengenalan Wajah

Amazon telah melakukan pembelaan atas alat pengenalan wajah, Rekognition, terhadap klaim bias ras dan gender, setelah sebuah studi yang diterbitkan oleh Massachusetts Institute of Technology.

Para peneliti membandingkan alat dari lima perusahaan, termasuk Microsoft dan IBM.

Sementara tidak ada yang 100% akurat, ia menemukan bahwa alat Rekognition Amazon melakukan yang terburuk ketika mengenali wanita dengan kulit lebih gelap.

Amazon mengatakan penelitian itu “menyesatkan”.

Studi ini menemukan bahwa Amazon memiliki tingkat kesalahan 31% ketika mengidentifikasi jenis kelamin gambar perempuan dengan kulit gelap.

Ini dibandingkan dengan tingkat 22,5% dari Kairos, yang menawarkan produk komersial saingan, dan tingkat 17% dari IBM.

Sebaliknya Amazon, Microsoft dan Kairos semuanya berhasil mengidentifikasi gambar pria berkulit terang 100% dari waktu.

Alat bekerja dengan menawarkan skor probabilitas bahwa mereka benar dalam anggapan mereka.

Alat pengenalan wajah dilatih pada kumpulan data besar dari ratusan ribu gambar.

Tetapi ada kekhawatiran bahwa banyak dataset ini tidak cukup beragam untuk memungkinkan algoritma belajar mengidentifikasi dengan benar wajah yang bukan putih.

Klien Rekognisi termasuk perusahaan yang menyediakan alat untuk penegakan hukum AS, layanan silsilah, dan surat kabar Jepang, menurut situs web Amazon Web Services.

Dalam sebuah posting blog, Dr Matt Wood, manajer umum kecerdasan buatan di AWS, menyoroti beberapa kekhawatiran tentang penelitian ini , termasuk bahwa ia tidak menggunakan versi terbaru dari Rekognition.

Dia mengatakan temuan dari MIT tidak mencerminkan penelitian Amazon sendiri, yang telah menggunakan 12.000 gambar pria dan wanita dari enam etnis yang berbeda.

“Di semua etnis, kami tidak menemukan perbedaan signifikan dalam akurasi sehubungan dengan klasifikasi gender,” tulisnya.

Dia juga mengatakan perusahaan menyarankan penegak hukum untuk menggunakan hasil pengenalan wajah pembelajaran mesin ketika kepastian hasil terdaftar 99% atau lebih tinggi saja dan tidak pernah menggunakannya sebagai satu-satunya sumber identifikasi.

“Ingatlah bahwa tolok ukur kami tidak terlalu menantang. Kami memiliki gambar profil orang yang melihat langsung ke kamera. Kondisi dunia nyata jauh lebih sulit,” kata peneliti MIT Joy Buolamwini dalam posting Medium menanggapi kritik Dr Wood .

Dalam video YouTube sebelumnya, yang diterbitkan pada Juni 2018, para peneliti MIT menunjukkan berbagai alat pengenalan wajah, termasuk Amazon, menunjukkan bahwa presenter TV AS Oprah Winfrey mungkin seorang pria, berdasarkan foto profesionalnya.

“Pesan utamanya adalah untuk memeriksa semua sistem yang menganalisis wajah manusia untuk segala jenis bias. Jika Anda menjual satu sistem yang telah terbukti memiliki bias pada wajah manusia, diragukan produk-produk berbasis wajah Anda yang lain juga sepenuhnya bebas bias, “Kata Buolamwini.

Leave a Reply

Your email address will not be published. Required fields are marked *