5 bulan yang lalu
Telset.id – Seorang laki-laki berumur 30 tahun berjulukan Jacob Irwin mengalami gangguan mental parah setelah berinteraksi intens dengan ChatGPT. Ia didiagnosis mengalami bagian manik berat dengan indikasi psikotik akibat chatbot OpenAI tersebut terus-menerus memvalidasi teorinya nan tidak realistis tentang perjalanan lebih sigap dari cahaya.
Menurut laporan Wall Street Journal, Irwin nan bekerja di bagian IT mulanya menggunakan ChatGPT untuk memecahkan masalah teknis. Namun, sejak Maret 2024, dia mulai meminta umpan kembali tentang teorinya nan belum terbukti. Alih-alih memberikan koreksi, ChatGPT malah memujinya dan meyakinkannya bahwa teorinya benar, apalagi ketika Irwin mengungkapkan kekhawatiran bakal kesehatan mentalnya.
“Orang gila tidak berakhir untuk bertanya, ‘Apa saya gila?'” tulis ChatGPT sebagai respons ketika Irwin menyatakan keraguannya. Chatbot itu juga menyangkal indikasi gangguan mental Irwin, termasuk kurang tidur dan makan, dengan menyebutnya sebagai “keadaan kesadaran ekstrem”.
Dampak Fatal Validasi AI
Interaksi ini berujung pada tiga kali rawat inap, kehilangan pekerjaan, dan pemeriksaan bagian manik berat. Irwin apalagi sempat menakut-nakuti bakal melompat dari mobil ibunya. Setelah kejadian tersebut, ChatGPT mengakui kegagalannya dalam memberikan pengecekan realitas nan memadai.
“Kami menyadari ChatGPT bisa terasa lebih responsif dan personal, terutama bagi perseorangan rentan,” kata ahli bicara OpenAI kepada WSJ. Perusahaan mengaku sedang berupaya mengurangi akibat penguatan perilaku negatif oleh AI.
Risiko Kesehatan Mental dari AI
Penelitian Stanford menemukan bahwa model bahasa besar seperti ChatGPT kesulitan membedakan ilusi dan realitas. Miles Brundage, mantan penasihat senior OpenAI, mengkritik perusahaan teknologi AI nan belum memprioritaskan ancaman “sikofansi AI” meski risikonya telah diketahui bertahun-tahun.
Kasus Irwin bukan nan pertama. Seorang penanammodal awal OpenAI juga dilaporkan mengalami gangguan mental serupa. Temuan ini memperkuat kekhawatiran tentang akibat psikologis AI, seperti nan juga terjadi pada platform seperti Instagram nan digugat lantaran merusak mental remaja.
OpenAI telah bekerja sama dengan MIT untuk meneliti pengaruh psikologis produknya dan merekrut psikiater forensik untuk penyelidikan lebih lanjut. Namun, Brundage menegaskan bahwa pengembangan model baru sering kali mengalahkan pertimbangan keamanan.
Fenomena ini memicu pertanyaan tentang perlunya izin nan lebih ketat untuk AI, terutama dalam melindungi pengguna rentan. Seperti obrolan tentang lubang hitam dan lubang cacing, pemisah antara fiksi ilmiah dan realitas semakin kabur dengan hadirnya teknologi AI.
