Tak lama setelah I belajar tentang Eliza, program yang mengajukan pertanyaan kepada orang-orang seperti psikoanalis Rogerian, saya belajar bahwa saya dapat menjalankannya di editor teks favorit saya, Emacs. Eliza benar-benar program sederhana, dengan teks berkode keras dan kontrol aliran, pencocokan pola, dan pembelajaran template sederhana untuk pemicu psikoanalitik—seperti baru-baru ini Anda menyebut ibu Anda. Namun, meskipun saya tahu cara kerjanya, saya merasakan kehadiran. Namun, saya mematahkan perasaan luar biasa itu selamanya, ketika terpikir oleh saya untuk terus membalas. Program berputar melalui empat petunjuk pembukaan yang mungkin, dan pertunangan diputus seperti seorang aktor dalam movie membuat kontak mata melalui dinding keempat.

Selama beberapa minggu terakhir, keterlibatan mereka dengan LaMDA Google—dan dugaan perasaannya—diputuskan oleh sebuah Ekonom artikel oleh legenda AI Douglas Hofstadter di mana dia dan temannya David Bender menunjukkan betapa “sangat hampa” suara teknologi yang sama ketika ditanya pertanyaan yang tidak masuk akal seperti “Berapa banyak potongan suara yang ada di awan cumulonimbus yang khas?”

Tapi saya ragu kita akan memiliki cerita yang jelas tentang ketidakmanusiawian ini selamanya.

Mulai saat ini, penggunaan kecerdasan buatan yang aman membutuhkan demistifikasi kondisi manusia. Jika kita tidak dapat mengenali dan memahami cara kerja AI—bahkan jika insinyur ahli dapat membodohi diri mereka sendiri dengan agen pendeteksi dalam “burung beo stokastik”—maka kita tidak memiliki cara untuk melindungi diri dari produk yang lalai atau jahat.

Ini tentang menyelesaikan revolusi Darwinian, dan banyak lagi. Memahami apa artinya menjadi hewan, dan memperluas revolusi kognitif itu untuk memahami bagaimana algoritme kita juga. Kita semua harus mengatasi rintangan berpikir bahwa beberapa keterampilan manusia tertentu — kreativitas, ketangkasan, empati, apa pun — akan membedakan kita dari AI. Membantu kita menerima siapa diri kita sebenarnya, bagaimana caranya Kami bekerja, tanpa kita kehilangan keterlibatan dengan hidup kita, adalah proyek besar yang diperluas untuk kemanusiaan, dan kemanusiaan.

Mencapai pemahaman ini tanpa sejumlah besar dari kita menganut identitas terpolarisasi, takhayul, atau inklusif mesin yang membahayakan masyarakat kita tidak hanya menjadi perhatian bagi kemanusiaan, tetapi juga bagi ilmu sosial, dan bagi beberapa pemimpin politik. Sayangnya, bagi para pemimpin politik lainnya, ini bisa menjadi peluang. Salah satu jalan menuju kekuasaan mungkin dengan mendorong dan memangsa ketidakamanan dan kesalahpahaman seperti itu, seperti halnya beberapa orang saat ini menggunakan disinformasi untuk mengganggu demokrasi dan regulasi. Industri teknologi khususnya perlu membuktikan bahwa mereka berpihak pada transparansi dan pemahaman yang menopang demokrasi liberal, bukan kerahasiaan dan kontrol otokratis.

Ada dua hal-hal yang sebenarnya bukan AI, betapapun saya mengagumi orang-orang yang mengklaim sebaliknya: Ini bukan cermin, dan itu bukan burung beo. Tidak seperti cermin, ia tidak hanya secara pasif memantulkan kepada kita permukaan siapa diri kita. Dengan menggunakan AI, kami dapat menghasilkan ide-ide baru, gambar, cerita, ucapan, musik—dan setiap orang yang mendeteksi peningkatan kapasitas ini berhak untuk dipicu secara emosional. Pada manusia lain, kreativitas semacam itu sangat berharga, tidak hanya untuk mengenali kedekatan sosial dan investasi sosial, tetapi juga untuk memutuskan siapa yang memiliki gen berkualitas tinggi yang mungkin ingin Anda gabungkan dengan gen Anda sendiri.

AI juga bukan burung beo. Burung beo merasakan banyak warna dan suara yang sama dengan yang kita lakukan, dengan cara yang kita lakukan, menggunakan perangkat keras yang sama, dan karenanya mengalami fenomenologi yang hampir sama. Burung beo sangat sosial. Mereka meniru satu sama lain, mungkin untuk membuktikan afiliasi dalam kelompok dan kasih sayang timbal balik, sama seperti kita. Ini sangat, sangat sedikit seperti apa yang dilakukan Google atau Amazon ketika perangkat mereka “membeo” budaya dan keinginan Anda kepada Anda. Tapi setidaknya organisasi itu memiliki hewan (manusia) di dalamnya, dan peduli dengan hal-hal seperti waktu. Parrots parroting sama sekali tidak seperti apa yang dilakukan perangkat AI pada saat yang sama, yang menggeser beberapa bit digital dengan cara yang diketahui cenderung menjual produk orang.

Tapi apakah semua ini berarti AI tidak bisa hidup? Bahkan apa “perasaan” ini yang diklaim dapat dideteksi oleh beberapa orang? Itu Kamus Bahasa Inggris Oxford mengatakan itu adalah “memiliki perspektif atau perasaan.” Saya pernah mendengar para filsuf mengatakan itu “memiliki perspektif.” Kamera pengintai memiliki perspektif. Mesin mungkin “merasakan” (merasakan) apa pun yang kita buat sebagai sensor—sentuhan rasa suara cahaya waktu gravitasi—namun merepresentasikan hal-hal ini sebagai bilangan bulat besar yang berasal dari sinyal listrik berarti bahwa “perasaan” mesin apa pun jauh lebih berbeda dari kita daripada penglihatan lebah atau sonar kelelawar.