Para peneliti memperingatkan bahwa sementara AI menjadi lebih kuat dan semakin dapat diakses oleh siapa saja, hampir tidak ada regulasi atau pengawasan untuk teknologi ini dan hanya kesadaran terbatas di antara para peneliti, seperti dirinya sendiri, tentang potensi penggunaan yang berbahaya.
“Sangat sulit untuk mengidentifikasi peralatan/bahan/pengetahuan penggunaan ganda dalam ilmu kehidupan, dan puluhan tahun telah dihabiskan untuk mencoba mengembangkan kerangka kerja untuk melakukannya. Hanya sedikit negara yang memiliki peraturan undang-undang khusus mengenai hal ini,” kata Filippa Lentzos, dosen senior di bidang sains dan keamanan internasional di King’s School London dan salah satu penulis makalah. “Ada beberapa diskusi tentang penggunaan ganda di bidang AI secara besar-besaran, tetapi fokus utamanya adalah pada masalah sosial dan etika lainnya, seperti privasi. Dan ada sangat sedikit diskusi tentang penggunaan ganda, dan bahkan lebih sedikit lagi di subbidang penemuan obat AI,” katanya.
Meskipun sejumlah besar pekerjaan dan keahlian dilakukan untuk mengembangkan MegaSyn, ratusan perusahaan di seluruh dunia telah menggunakan AI untuk penemuan obat, menurut Ekins, dan sebagian besar alat yang diperlukan untuk mengulang eksperimen VX-nya tersedia untuk umum.
“Sementara kami melakukan ini, kami menyadari bahwa siapa pun yang memiliki komputer dan pengetahuan terbatas untuk dapat menemukan kumpulan information dan menemukan jenis perangkat lunak yang semuanya tersedia untuk umum dan menggabungkannya dapat melakukan ini,” kata Ekins. “Bagaimana Anda melacak kemungkinan ribuan orang, mungkin jutaan, yang dapat melakukan ini dan memiliki akses ke informasi, algoritme, dan juga pengetahuan?”
Sejak Maret, koran tersebut telah dilihat lebih dari 100.000 kali. Beberapa ilmuwan telah mengkritik Ekins dan penulis karena melewati garis etika abu-abu dalam melakukan eksperimen VX mereka. “Ini benar-benar cara yang jahat untuk menggunakan teknologi, dan rasanya tidak enak melakukannya,” aku Ekins. “Aku mengalami mimpi buruk sesudahnya.”
Peneliti dan ahli bioetika lain telah memuji para peneliti karena memberikan demonstrasi bukti konsep yang konkret tentang bagaimana AI dapat disalahgunakan.
“Saya cukup kaget saat pertama kali membaca makalah ini, tapi juga tidak kaget. Kami tahu bahwa teknologi AI semakin kuat, dan fakta bahwa mereka dapat digunakan dengan cara ini tampaknya tidak mengejutkan,” kata Bridget Williams, seorang dokter kesehatan masyarakat dan postdoctoral affiliate di Middle for Inhabitants-Stage Bioethics di Rutgers College.
“Awalnya saya bertanya-tanya apakah menerbitkan artikel ini merupakan kesalahan, karena dapat menyebabkan orang dengan niat buruk menggunakan jenis informasi ini dengan jahat. Tetapi manfaat memiliki makalah seperti ini adalah dapat mendorong lebih banyak ilmuwan, dan komunitas peneliti secara lebih luas, termasuk penyandang dana, jurnal, dan server pra-cetak, untuk mempertimbangkan bagaimana pekerjaan mereka dapat disalahgunakan dan mengambil langkah-langkah untuk mencegahnya, seperti yang dilakukan oleh penulis makalah ini, ”katanya.
Pada bulan Maret, Kantor Kebijakan Sains dan Teknologi AS (OSTP) memanggil Ekins dan rekan-rekannya ke Gedung Putih untuk rapat. Hal pertama yang ditanyakan perwakilan OSTP adalah apakah Ekins telah membagikan salah satu molekul mematikan yang dihasilkan MegaSyn dengan siapa pun, menurut Ekins. (OSTP tidak menanggapi permintaan berulang untuk wawancara.) Pertanyaan kedua perwakilan OSTP adalah apakah mereka dapat memiliki file dengan semua molekul. Ekins mengatakan dia menolaknya. “Orang lain bisa saja pergi dan melakukan ini. Pasti tidak ada pengawasan. Tidak ada kontrol. Maksudku itu tergantung pada kita, kan? dia berkata. “Hanya ada ketergantungan yang berat pada ethical dan etika kita.”
New Replace : [randomize]