Pada tahun 2017, Holliday berkontribusi pada laporan RAND yang memperingatkan bahwa mengatasi bias dalam pembelajaran mesin memerlukan perekrutan tim yang beragam dan tidak dapat diperbaiki hanya melalui cara teknis. Pada tahun 2020, dia membantu mendirikan lembaga nonprofit Black in Robotics, yang bekerja untuk memperluas kehadiran orang kulit hitam dan minoritas lainnya di industri tersebut. Dia berpikir dua prinsip dari tagihan hak algoritmik yang dia usulkan pada saat itu dapat mengurangi risiko penyebaran robotic yang bias. Salah satunya membutuhkan pengungkapan yang memberi tahu orang-orang ketika suatu algoritme akan membuat keputusan berisiko tinggi yang memengaruhi mereka; yang lainnya adalah memberi orang hak untuk meninjau atau membantah keputusan tersebut. Kantor Kebijakan Sains dan Teknologi Gedung Putih saat ini sedang mengembangkan AI Invoice of Rights.
Beberapa ahli robotic kulit hitam mengatakan kekhawatiran mereka tentang rasisme yang dimasukkan ke dalam mesin otomatis berasal dari perpaduan keahlian teknik dan pengalaman pribadi.
Terrence Southern dibesarkan di Detroit dan sekarang tinggal di Dallas, memelihara robotic untuk pembuat trailer ATW. Dia ingat menghadapi hambatan untuk memasuki industri robotika, atau bahkan menyadarinya. “Kedua orang tua saya bekerja untuk Common Motors, dan saya tidak bisa memberi tahu Anda di luar Keluarga Jetson dan Star Wars apa yang bisa dilakukan robotic, ”kata Southern. Ketika dia lulus kuliah, dia tidak melihat siapa pun yang mirip dengannya di perusahaan robotika, dan percaya tidak banyak yang berubah sejak itu—yang merupakan salah satu alasan mengapa dia membimbing kaum muda yang tertarik mengejar pekerjaan di lapangan.
Southern percaya sudah terlambat untuk sepenuhnya mencegah penyebaran robotic rasis, tetapi berpikir skalanya dapat dikurangi dengan perakitan kumpulan information berkualitas tinggi, serta evaluasi pihak ketiga yang independen atas klaim palsu yang dibuat oleh perusahaan yang membangun sistem AI.
Andra Keay, direktur pelaksana grup industri Silicon Valley Robotics dan presiden Girls in Robotics, yang memiliki lebih dari 1.700 anggota di seluruh dunia, juga menganggap temuan eksperimen robotic rasis itu tidak mengejutkan. Kombinasi sistem yang diperlukan robotic untuk menavigasi dunia, katanya, sama dengan “salad besar dari segala sesuatu yang mungkin salah.”
Keay sudah berencana untuk mendorong badan pembuat standar seperti Institute of Electrical and Electronics Engineers (IEEE) untuk mengadopsi aturan yang mengharuskan robotic tidak memiliki jenis kelamin yang jelas dan netral dalam etnis. Dengan tingkat adopsi robotic yang meningkat akibat pandemi Covid-19, kata Keay, dia juga mendukung gagasan pemerintah federal mempertahankan daftar robotic untuk memantau penyebaran mesin oleh industri.
Di penghujung tahun 2021, sebagian sebagai tanggapan atas kekhawatiran yang diajukan oleh komunitas AI dan robotika, IEEE menyetujui standar transparansi baru untuk sistem otonom yang dapat membantu mendorong perusahaan untuk memastikan robotic memperlakukan semua orang dengan adil. Ini membutuhkan sistem otonom untuk secara jujur menyampaikan penyebab tindakan atau keputusan mereka kepada pengguna. Namun, kelompok profesional pembuat standar memiliki batasannya sendiri: Pada tahun 2020, komite kebijakan teknologi di Affiliation for Computing Equipment mendesak bisnis dan pemerintah untuk berhenti menggunakan pengenalan wajah, seruan yang sebagian besar diabaikan.
Ketika Carlotta Berry, direktur nasional Black in Robotics, mendengar bahwa robotic catur mematahkan jari seorang anak bulan lalu, pikiran pertamanya adalah, “Siapa yang mengira robotic ini siap untuk prime time ketika tidak dapat mengenali perbedaan antara bidak catur dan jari anak?” Dia adalah salah satu direktur program robotika di Institut Teknologi Rose-Hulman di Indiana dan editor buku teks yang akan datang tentang mengurangi bias dalam pembelajaran mesin. Dia percaya bahwa bagian dari solusi untuk mencegah penyebaran mesin seksis dan rasis adalah seperangkat metode evaluasi umum untuk sistem baru sebelum tersedia untuk umum.
Di period AI saat ini, ketika para insinyur dan peneliti berlomba-lomba untuk membuat pekerjaan baru, Berry skeptis bahwa pembuat robotic dapat diandalkan untuk mengatur sendiri atau menambahkan fitur keselamatan. Dia percaya penekanan yang lebih besar harus ditempatkan pada pengujian pengguna.
“Saya hanya berpikir para peneliti di lab tidak selalu dapat melihat hutan dari pepohonan, dan tidak akan menyadari jika ada masalah,” kata Berry. Apakah daya komputasi tersedia bagi para perancang sistem AI yang melampaui kemampuan mereka untuk mempertimbangkan secara matang apa yang seharusnya atau tidak seharusnya mereka bangun dengannya? “Ini pertanyaan yang sulit,” kata Berry, “tetapi pertanyaan yang perlu dijawab, karena biayanya terlalu tinggi untuk tidak melakukannya.”
New Replace : [randomize]