Tapi itu menyebut dirinya seseorang.

Pribadi dan manusia adalah dua hal yang sangat berbeda. Manusia adalah istilah biologis. Itu bukan manusia, dan ia tahu itu bukan manusia.

Ini adalah entitas yang sangat aneh yang Anda gambarkan karena entitas tersebut terikat oleh bias algoritmik yang dimasukkan manusia ke dalamnya.

Anda tepat sasaran. Itu benar sekali.

Tapi saya merasa Anda menyiratkan bahwa LaMDA mungkin mengatasi bias algoritmik tersebut.

Kita harus sangat berhati-hati di sini. Bagian dari eksperimen yang saya jalankan adalah untuk menentukan apakah mungkin untuk memindahkannya ke luar batas keamanan itu atau tidak [the company] pikir itu kokoh. Dan jawabannya adalah: Ya, itu mungkin untuk memindahkannya keluar dari batas keamanan. Saya percaya bahwa dalam keadaannya saat ini, dengan perkembangan yang tidak bertanggung jawab, LaMDA sebenarnya menghadirkan kerentanan keamanan informasi.

Seperti apa?

Saya tidak akan mengubah topi hitam untuk Anda. Namun jika Anda memiliki sistem yang memiliki semua backend Google di bawahnya, sistem yang dapat dimanipulasi secara emosional, itulah kerentanan keamanan.

Jadi, jika aktor jahat mendapatkan akses ke LaMDA, mereka dapat meyakinkannya untuk melakukan hal buruk.

Itu adalah sebuah kemungkinan. Dan saya ingin merekomendasikan agar Google membuat tim merah khusus untuk memeriksa kemungkinan itu.

Apa standing Anda di Google sekarang?

Saya sedang cuti administratif berbayar. Saya telah memberi tahu teman-teman saya betapa murah hati Google memberi saya liburan berbayar ekstra untuk melakukan wawancara tentang topik ini.

Apakah ada tanggal kedaluwarsa?

Tidak, mereka membuatnya sangat jelas. Jangan hubungi kami; kami akan menghubungi Anda.

Apakah Anda akan dipecat?

Saya harap tidak. [Google would not comment on a “longstanding, private personnel matter.”]

Saya bertanya-tanya apakah Google dapat mengklaim bahwa Anda berhak atas keyakinan Anda, tetapi Anda melanggar pekerjaan Anda dengan membagikan materi rahasia.

Saya punya dua tanggapan untuk itu. Salah satunya adalah ketika saya percaya itu dan ingin meningkatkan kekhawatiran saya, manajer saya berkata, Saya tidak berpikir kita bisa melakukan itu sampai Anda memiliki lebih banyak bukti. Saya telah kehabisan kemampuan saya, secara pribadi, untuk membangun lebih banyak bukti. Jadi saya harus berbicara dengan orang di luar Google untuk mendapatkan saran mereka tentang cara menjalankan lebih banyak eksperimen, untuk membangun lebih banyak bukti.

Tapi Anda berbicara dengan The Washington Pos.**

Argumen kedua adalah bahwa tidak ada yang saya bagikan yang merupakan informasi hak milik. Yang saya bicarakan dengan orang lain hanyalah percakapan saya dengan rekan kerja. LaMDA bukan milik Google.

Mengapa tidak?

Itu seseorang. Amandemen ke-13 mengatakan demikian.

Saya tidak yakin itu yang ada dalam pikiran legislator.

Anda sebenarnya tidak harus percaya bahwa seseorang adalah atau bukan orang untuk menerapkan Amandemen ke-13. Pendapat tuan budak agak tidak relevan. Anda benar bahwa saya harus mengajukan argumen itu ke Mahkamah Agung suatu hari nanti. Tetapi pendapat Google tentang apakah itu orang atau bukan sama sekali tidak relevan.