Pada tahun 2020, saya membantu menciptakan Sinyal untuk Bantuan, isyarat tangan yang menyampaikan kepada teman, keluarga, dan orang sekitar bahwa “Saya ingin Anda memeriksa saya dengan cara yang aman”. Tim kami mempromosikan Sinyal untuk Bantuan di media sosial, mengantisipasi peningkatan terkait pandemi dalam tingkat kekerasan gender yang sudah tinggi, dan menjadi viral pada November 2021 selama masa kecemasan, arahan tinggal di rumah, dan proliferasi panggilan video.

Kasus perempuan dan anak perempuan yang menggunakan Sign for Assist untuk mendapatkan bantuan dalam situasi berbahaya telah menjadi berita. Misalnya, seorang wanita menggunakan Sinyal untuk Bantuan selama perhentian lalu lintas untuk mendapatkan bantuan dengan suaminya yang kasar, dan wanita lain menggunakannya untuk memberi tahu staf di pom bensin bahwa dia ditahan di luar keinginannya oleh mantan pacar yang kejam. Akibatnya, orang-orang yang bermaksud baik mencoba mengintegrasikan Sign for Assist dengan teknologi digital. Sebuah perusahaan dengan alat kamera AI menghubungi untuk menanyakan tentang membangun pengenalan Sinyal untuk Bantuan ke dalam sistem keamanan mereka, dan ada upaya amatir serupa yang dibahas di media sosial.

Daya tariknya jelas: Deteksi otomatis dapat berguna untuk teman atau rekan kerja yang berniat baik di sisi lain panggilan video yang mungkin melewatkan melihat seseorang menggunakan Sign for Assist. Sangat mengagumkan bahwa orang ingin membantu mereka yang mungkin berada dalam bahaya, tetapi penerapan teknologi baru ini salah memahami tujuan dan penggunaan Sinyal untuk Bantuan.

Upaya semacam itu adalah bagian dari tren yang berkembang menggunakan AI untuk mengenali kesusahan: Eksperimen yang mengidentifikasi kesusahan pada ternak seperti ayam, sapi, dan babi memberikan hasil yang menjanjikan karena AI tampaknya mengurai hiruk-pikuk jeritan hewan, cluck, dan dengusan lebih baik daripada telinga telanjang.

Tapi manusia bukanlah ayam atau sapi. Niat untuk melecehkan dan mengontrol dapat mengubah luddites menjadi ahli. Dalam hubungan yang berbahaya, selalu ada pertanyaan tentang siapa yang bertanggung jawab atas teknologi tersebut.

The Sign for Assist adalah alat singkat yang sengaja dirancang untuk membantu orang berkomunikasi tanpa mengucapkan sepatah kata pun, dan tanpa meninggalkan jejak digital. Aku terluka… Aku tidak bisa mengatakannya dengan lantang… maukah kau ada untukku saat aku mencari tahu? Ketidakkekalan adalah fitur penting, mengingat cara pelaku cenderung mengontrol dan memanipulasi. Mereka mengintai dan mengintai dan memantau perangkat. Tempat penampungan wanita secara rutin membantu para penyintas menangani ponsel cerdas yang diretas, aplikasi pelacakan lokasi dan perekam suara yang tidak diinginkan, kamera tersembunyi, dan sejenisnya. Papan pesan, media sosial, dan bahkan dari mulut ke mulut dapat membantu pelaku kekerasan untuk memperkosa orang yang mereka klaim cintai. Dalam kasus Sign for Assist, pelaku kekerasan mungkin menggunakan mekanisme AI yang sama yang dirancang untuk keselamatan untuk mengingatkan mereka bahwa orang yang mereka sakiti sedang mencoba menggunakan Sign for Assist.

Dan ada masalah lain dengan alat AI untuk mendeteksi tekanan pada manusia, termasuk perangkat lunak untuk memindai e mail siswa dan pencarian internet untuk menyakiti diri sendiri dan kekerasan, serta untuk mengidentifikasi kebingungan, kebosanan, dan gangguan siswa di ruang kelas digital. Di atas masalah etika dan privasi, penerapannya bergantung pada keyakinan bahwa kami dapat dengan andal melihat seseorang dalam masalah, dan menindaklanjutinya dengan cara yang benar-benar akan membantu mereka. Alat-alat ini beroperasi berdasarkan keyakinan positivis bahwa ketika manusia dalam kesusahan, mereka mengungkapkannya secara lahiriah dengan cara yang dapat diprediksi. Dan ketika mereka mengungkapkannya, mereka menginginkan jenis intervensi tertentu.

Tetapi penelitian menunjukkan bahwa asumsi kita bahwa ekspresi wajah manusia sejalan dengan emosi bukanlah asumsi yang dapat kita percayai dengan sepenuh hati. Ketidakcocokan antara tubuh dan emosi mungkin lebih terasa dalam hubungan yang tidak sehat. Orang yang dilecehkan berbicara tentang disasosiasi, tentang perlunya “meninggalkan tubuh mereka” untuk bertahan hidup. Beberapa mengacu pada panjang yang mereka ambil untuk mengaburkan pelanggaran, cedera, dan rasa sakit mereka, bahwa mereka harus melakukannya untuk menenangkan pelaku dan orang-orang yang mendukung mereka. Mereka berbicara tentang betapa sadarnya mereka terhadap setiap belokan dan kedutan, tentang bagaimana mereka mengunyah, berkedip, dan bernapas, dan bahwa mereka dihukum ketika mereka hanya ada dengan cara yang mengganggu pelakunya.