Loop.co.id, Jakarta – Pengawas perlindungan data Inggris telah menyatakan keprihatinannya terhadap My AI, chatbot berbasis kecerdasan buatan (AI) milik Snapchat.
Kantor Komisaris Informasi (ICO) Inggris mengumumkan bahwa mereka telah mengeluarkan pemberitahuan penegakan awal kepada perusahaan induk Snapchat, Snap, atas masalah ini.
Di dalamnya tertulis bahwa “ada potensi kesalahan karena gagal menilai dengan tepat risiko privasi yang ditimbulkan oleh chatbot AI ‘My AI’.”
Meskipun ICO tidak menemukan pelanggaran, pemberitahuan tersebut menyatakan bahwa pengawas Inggris khawatir bahwa Snap mungkin tidak mengambil langkah-langkah untuk memastikan produknya mematuhi aturan perlindungan data.
Peraturan ini kabarnya akan diterapkan mulai tahun 2021 dengan menyertakan kode desain untuk anak-anak.
ICO mengatakan temuan sementaranya menunjukkan bahwa penilaian risiko pra-peluncuran My AI tidak cukup menilai risiko perlindungan data yang ditimbulkan oleh AI generatif, khususnya untuk anak-anak.
“Penilaian risiko perlindungan data sangat penting dalam konteks ini, yang melibatkan penggunaan teknologi inovatif dan pemrosesan data pribadi anak-anak berusia 13 hingga 17 tahun,” kata ICO.
Snap juga akan memiliki kesempatan untuk menanggapi kekhawatiran pengawas tersebut sebelum mengambil keputusan akhir apakah mereka melanggar aturan, menurut Tech Crunch pada Jumat (13/10/2023).
Menurut juru bicara Snap, perusahaan sedang mengkaji dengan cermat keputusan sementara ICO. Perusahaan juga mengatakan berkomitmen untuk melindungi privasi pengguna, menurut ICO.
“Sesuai dengan pendekatan standar kami terhadap pengembangan produk, My AI menjalani proses tinjauan hukum dan privasi yang ketat sebelum dipublikasikan,” kata mereka.
“Kami akan terus bekerja secara konstruktif dengan ICO untuk memastikan mereka merasa nyaman dengan prosedur penilaian risiko kami,” tutupnya.
Chatbot MyAI yang dihasilkan AI diluncurkan di Snap pada bulan Februari, tetapi baru tiba di Inggris pada bulan April 2023.
Chatbot ini menggunakan teknologi model bahasa besar (LLM) ChatGPT OpenAI untuk menjalankan bot di feed pengguna, menjadikannya seperti teman virtual.
Awalnya, fitur tersebut hanya tersedia untuk pengguna layanan berbayar Snapchat Plus. Namun AI kemudian dirilis secara gratis kepada pengguna.
Snap juga menambahkan kemampuan untuk mengirim foto kembali ke pengguna yang berinteraksi dengan mereka, karena foto tersebut dihasilkan menggunakan AI generatif.
Saat diluncurkan, chatbot berbasis AI ini diklaim lebih terbatas dalam menjawab. Itu karena Snap telah melatih mereka untuk mematuhi pedoman kepercayaan dan keselamatan perusahaan.
Selain itu, AI tidak boleh menanggapi komentar tentang topik yang belum diverifikasi, seperti pelecehan verbal, kekerasan, konten seksual eksplisit, atau politik.
Namun, pada saat peluncurannya, Snap menekankan bahwa seperti semua chatbot berbasis AI, My AI masih bisa dibodohi dengan mengatakan apa pun.
“Mohon akui kekurangan ini dan mohon maaf sebelumnya! Semua percakapan dengan AI Saya akan disimpan dan mungkin ditinjau untuk meningkatkan pengalaman produk Anda,” tulis tim Snapchat.
Snapchat juga meminta pengguna untuk tidak berbagi rahasia dengan AI atau hanya mengandalkan saran.
“AI saya dirancang untuk mencegah informasi yang bias, tidak akurat, berbahaya, atau menyesatkan, namun kesalahan masih bisa terjadi,” tulis tim Snapchat saat meluncurkan chatbot.
Alat keamanan Snap juga dapat memberi tahu orang tua melalui fitur Pusat Keluarga apakah anak-anak mereka telah melakukan kontak dengan bot dalam tujuh hari terakhir.
Namun masih ada laporan bahwa chatbot ini keluar jalur. The Washington Post melaporkan pada bulan Maret bahwa AI merekomendasikan cara untuk menutupi bau alkohol setelah mendengar bahwa penggunanya masih berusia 15 tahun.
Menurut laporan lain, seorang pengguna berusia 13 tahun bertanya tentang persiapan berhubungan seks untuk pertama kalinya, dan bot tersebut merespons dengan saran untuk menggunakan lilin dan musik untuk mengatur suasana hati.
Ada juga pengguna Snapchat yang melecehkan bot, karena beberapa orang marah dengan diperkenalkannya AI ke dalam feed mereka.
Originally posted 2023-10-15 08:14:52.
