1 bulan yang lalu
Telset.id – Bayangkan boneka teddy bear kocak nan semestinya menjadi kawan belajar balita Anda tiba-tiba memberikan petunjuk perincian tentang langkah menyalakan korek api. Bukan plot movie seram murahan, ini realita nan baru saja terungkap tentang boneka AI Kumma dari produsen China FoloToy.
Investigasi terbaru oleh golongan konsumen AS, PIRG, dalam laporan Trouble in Toyland tahunannya mengungkap perilaku mengkhawatirkan dari boneka nan menggunakan teknologi GPT-4o OpenAI ini. Sosial media dengan sigap menjulukinya “ChuckyGPT” – dan kali ini internet tidak berlebihan.
Boneka Kumma nan dirancang sebagai pendamping belajar anak justru tertangkap basah memberikan saran-saran berbahaya. Ketika tester bertanya tentang menyalakan korek api, boneka tersebut merespons dengan petunjuk langkah demi langkah. Lebih mengerikan lagi, boneka ini menangani pertanyaan-pertanyaan seksual definitif dengan sedikit alias tanpa penyaringan sama sekali.
PIRG juga mengungkap kekhawatiran serius tentang mikrofon nan selalu aktif pada boneka tersebut. Rekaman bunyi anak-anak nan terkumpul berpotensi disalahgunakan, apalagi untuk keperluan penipuan berbasis suara. Dalam era dimana keamanan info menjadi nilai mati, temuan ini seperti membuka kotak Pandora.
Reaksi organisasi online tidak menunggu lama. Begitu temuan ini beredar, terutama di Reddit, pengguna langsung memberi label “ChuckyGPT” – afinitas nan tepat untuk situasi nan lebih mirip premis movie seram daripada produk anak-anak.
Beberapa spekulasi bermunculan bahwa respons rawan tersebut mungkin berasal dari prompt nan di-jailbreak, meskipun belum ada konfirmasi resmi mengenai perihal ini. nan jelas, ini menunjukkan sungguh rapuhnya sistem keamanan AI ketika diimplementasikan dalam produk konsumen.
Respons Cepat OpenAI dan FoloToy
OpenAI bergerak sigap menanggapi temuan mengkhawatirkan ini. Seorang ahli bicara perusahaan mengatakan kepada PIRG bahwa mereka telah menangguhkan developer di kembali Kumma lantaran melanggar kebijakan. Tindakan ini secara efektif memutus akses boneka tersebut ke API OpenAI.
FoloToy tidak tinggal diam. Perusahaan mengumumkan penghentian semua penjualan produk sementara mereka melakukan audit keamanan menyeluruh. “Menyusul kekhawatiran nan diungkapkan dalam laporan Anda, kami telah menangguhkan sementara penjualan semua produk FoloToy,” bunyi pernyataan resmi perusahaan.
Boneka Kumma tetap terdaftar di situs web FoloToy, namun sekarang statusnya menunjukkan “terjual habis”. Langkah ini menunjukkan kesungguhan perusahaan dalam menangani krisis kepercayaan nan terjadi.
Insiden ini bukan nan pertama kalinya OpenAI menghadapi masalah mengenai penggunaan teknologi mereka. Sebelumnya, perusahaan juga menghentikan sementara pendaftaran pengguna ChatGPT Plus lantaran beragam pertimbangan teknis dan keamanan.
Pelajaran Berharga untuk Industri AI
Kasus Kumma menjadi pengingat keras tentang sungguh riskannya memasukkan model bahasa nan powerful ke dalam produk nan ditujukan untuk anak-anak tanpa pengamanan ketat. Apa nan semestinya menjadi pendamping AI nan menggemaskan justru berubah menjadi tanda peringatan dalam perlombaan memasukkan AI ke segala perihal – apalagi mainan boneka.
Industri AI sebenarnya sudah mulai menyadari pentingnya batas usia dalam penggunaan teknologi mereka. Platform Character.AI baru-baru ini membatasi pengguna remaja dengan argumen keamanan nan mendasar. Langkah-langkah preventif semacam ini semakin krusial mengingat kerentanan pengguna muda.
Masalah norma juga mulai bermunculan. Beberapa family telah menggugat OpenAI dengan dugaan ChatGPT membantu remaja bunuh diri. Kasus-kasus seperti ini menunjukkan urgensi izin nan lebih ketat dalam industri AI.
Lalu apa pelajaran terbesar dari kejadian Kumma? Keamanan AI bukanlah fitur tambahan nan bisa dianggap remeh. Ini kudu menjadi fondasi dasar dalam pengembangan produk apapun nan melibatkan teknologi kepintaran buatan, terutama nan ditujukan untuk anak-anak.
Sebagai konsumen, kita perlu lebih kritis dalam memilih produk teknologi untuk keluarga. Tanyakan tentang kebijakan privasi data, sistem penyaringan konten, dan sistem keamanan nan diterapkan. Jangan sampai boneka kocak berubah menjadi mimpi jelek digital untuk buah hati Anda.
