Mostaque mengatakan bahwa meskipun beberapa gambar yang dibuat dengan kreasinya mungkin tidak menyenangkan, alat tersebut tidak melakukan sesuatu yang berbeda dari teknologi pembuatan gambar yang lebih mapan. “Menggunakan teknologi selalu tentang tanggung jawab pribadi orang-orang,” katanya. “Jika mereka menggunakan Photoshop untuk penggunaan ilegal atau tidak etis, itu adalah kesalahan orang tersebut. Mannequin dapat membuat hal-hal buruk hanya jika pengguna dengan sengaja membuatnya demikian.”
Atas kebaikan Elle Edin
Generator gambar seperti Secure Diffusion dapat membuat apa yang tampak seperti foto asli atau ilustrasi buatan tangan yang menggambarkan apa saja yang dapat dibayangkan seseorang. Hal ini dimungkinkan berkat algoritme yang belajar mengaitkan properti dari kumpulan besar gambar yang diambil dari net dan foundation knowledge gambar dengan label teks yang terkait. Algoritma mempelajari cara merender gambar baru agar sesuai dengan permintaan teks dalam proses yang melibatkan penambahan dan penghapusan gangguan acak pada gambar.
Karena alat seperti Secure Diffusion menggunakan gambar yang diambil dari net, knowledge pelatihan mereka sering menyertakan gambar pornografi, membuat perangkat lunak mampu menghasilkan gambar baru yang eksplisit secara seksual. Kekhawatiran lain adalah bahwa alat semacam itu dapat digunakan untuk membuat gambar yang tampak menunjukkan orang sungguhan melakukan sesuatu yang membahayakan—sesuatu yang mungkin menyebarkan informasi yang salah.
Kualitas citra yang dihasilkan AI telah melonjak dalam satu setengah tahun terakhir, dimulai dengan pengumuman sistem yang disebut DALL-E pada Januari 2021 oleh perusahaan riset AI OpenAI. Ini mempopulerkan mannequin menghasilkan gambar dari petunjuk teks, dan diikuti pada April 2022 oleh penerus yang lebih kuat, DALL-E 2, yang sekarang tersedia sebagai layanan komersial.
Sejak awal, OpenAI telah membatasi siapa yang dapat mengakses generator gambarnya, menyediakan akses hanya melalui perintah yang memfilter apa yang dapat diminta. Hal yang sama berlaku untuk layanan pesaing bernama Midjourney, dirilis pada Juli tahun ini, yang membantu mempopulerkan seni buatan AI dengan dapat diakses secara luas.
Difusi Stabil bukanlah generator seni AI open supply pertama. Tidak lama setelah DALL-E asli dirilis, pengembang membuat tiruan bernama DALL-E Mini yang tersedia bagi siapa saja, dan dengan cepat menjadi fenomena pembuatan meme. DALL-E Mini, kemudian diganti namanya menjadi Craiyon, masih menyertakan pagar pembatas yang mirip dengan yang ada di versi resmi DALL-E. Clement Delangue, CEO HuggingFace, sebuah perusahaan yang menampung banyak proyek AI sumber terbuka, termasuk Difusi Stabil dan Craiyon, mengatakan akan bermasalah jika teknologi hanya dikendalikan oleh beberapa perusahaan besar.
New Replace : [randomize]