Investigasi tahun 2020 oleh The Markup dan Propublica menemukan bahwa algoritme penyaringan penyewa sering menemui kendala seperti kesalahan identitas, terutama untuk orang kulit berwarna dengan nama belakang yang sama. Penilaian Propublica terhadap algoritme yang dibuat oleh perusahaan RealPage yang berbasis di Texas tahun lalu menunjukkan bahwa hal itu dapat menaikkan harga sewa.
Kasus kedua terhadap SafeRent di bawah Truthful Housing Act diselesaikan di pengadilan federal di Connecticut pada bulan November dan menunggu keputusan hakim. Itu dibawa oleh Carmen Arroyo dan lainnya, yang mengatakan algoritma CrimSAFE perusahaan menganggap tuduhan mengutil yang kemudian dibatalkan “mendiskualifikasi,” yang menyebabkan permintaan putranya yang cacat, yang tidak dapat berbicara atau berjalan, ditolak. Kasus tersebut menuduh sistem didiskriminasi berdasarkan kecacatan, asal kebangsaan, dan ras.
Menanggapi pengarahan yang diajukan oleh DOJ dan HUD, Andrew Soukup, seorang pengacara untuk SafeRent, mengatakan bahwa perusahaan bertujuan untuk memberikan prediksi kepada manajer properti dan pemilik tanah untuk membantu mereka membuat keputusan yang baik tetapi tidak dengan sendirinya membuat keputusan perumahan. “SafeRent tidak memutuskan apakah akan menyetujui aplikasi seseorang untuk perumahan. Keputusan itu dibuat oleh manajer properti dan tuan tanah, ”katanya dalam sebuah pernyataan.
Intervensi Departemen Kehakiman dalam kasus SafeRent adalah salah satu bagian dari upaya baru-baru ini oleh pemerintah AS untuk menegakkan hukum hak sipil pada algoritme yang membuat keputusan penting tentang kehidupan manusia. Di hari yang sama, departemen mengumumkan ketentuan perjanjian penyelesaian dengan Meta untuk penjualan iklan yang diduga melanggar Undang-Undang Perumahan Adil. Perusahaan telah mengembangkan sistem untuk mengurangi diskriminasi dalam iklan Fb dan akan tetap berada di bawah pengawasan pemerintah federal hingga tahun 2026.
“Pemantauan federal Meta harus mengirimkan sinyal kuat ke perusahaan teknologi lain bahwa mereka juga akan dimintai pertanggungjawaban karena gagal mengatasi diskriminasi algoritmik yang bertentangan dengan undang-undang hak sipil kami,” kata Clarke, pemimpin divisi hak sipil Departemen Kehakiman dalam sebuah penyataan. Tahun lalu dia bekerja dengan Equal Employment Alternative Fee untuk mengeluarkan panduan bagi bisnis yang menggunakan algoritme perekrutan tentang cara menghindari pelanggaran Undang-Undang Penyandang Disabilitas Amerika.
Bersama-sama, intervensi tersebut menunjukkan bahwa DOJ bertekad untuk menegakkan undang-undang antidiskriminasi federal untuk melindungi hak-hak masyarakat di period algoritme. “Jelas, periklanan berbeda dari penyeleksian penyewa, tetapi ini membuat industri yang berbeda ini menyadari bahwa mereka tidak dapat lagi bersembunyi di balik kurangnya transparansi dan akan ada akuntabilitas yang lebih besar,” kata Gilman, profesor hukum Universitas Baltimore. Dia telah mewakili klien berpenghasilan rendah selama 25 tahun, dan dalam beberapa tahun terakhir telah menemukan lebih banyak kasus di mana dia mencurigai algoritme yang bekerja di latar belakang menolak perumahan klien. Tetapi apakah undang-undang antidiskriminasi yang ada akan terbukti memadai atau apakah undang-undang baru diperlukan untuk melindungi dari algoritme berbahaya adalah masalah yang belum terselesaikan.
Sinyal yang dikirim ke sektor perumahan minggu ini oleh Departemen Kehakiman tampaknya sejalan dengan proklamasi lain oleh pemerintahan Biden tentang penanganan peran AI dalam pelanggaran hak asasi manusia. Tahun lalu, Gedung Putih mengusulkan AI Invoice of Rights, seperangkat prinsip yang dimaksudkan untuk melindungi warga negara dari algoritme di space kritis kehidupan mereka seperti perumahan, perawatan kesehatan, keuangan, dan tunjangan pemerintah. Administrasi Trump telah berusaha mempersulit penuntutan tuan tanah yang menggunakan algoritme penyaringan penyewa di bawah Undang-Undang Perumahan Adil.
New Replace : [randomize]