1 bulan yang lalu
Telset.id – Andrea Vallone, pemimpin tim penelitian keamanan OpenAI nan berkedudukan krusial dalam membentuk respons ChatGPT terhadap pengguna nan mengalami krisis kesehatan mental, mengumumkan pengunduran dirinya dari perusahaan bulan lalu. Vallone nan mengepalai tim penelitian kebijakan model (model policy) dijadwalkan meninggalkan OpenAI pada akhir tahun ini.
Keberangkatan Vallone terjadi saat OpenAI menghadapi sorotan nan semakin besar mengenai langkah produk andalannya merespons pengguna nan sedang dalam tekanan mental. Dalam beberapa bulan terakhir, beberapa gugatan telah diajukan terhadap OpenAI nan menyatakan bahwa pengguna membentuk ketergantungan tidak sehat pada ChatGPT. Beberapa gugatan tersebut menyatakan ChatGPT berkontribusi terhadap gangguan kesehatan mental alias mendorong pemikiran bunuh diri.
OpenAI spokesperson Kayla Wood mengonfirmasi kepergian Vallone. Wood menyatakan OpenAI sedang aktif mencari pengganti dan bahwa, untuk sementara waktu, tim Vallone bakal melapor langsung kepada Johannes Heidecke, kepala sistem keamanan perusahaan. Langkah ini menunjukkan komitmen OpenAI untuk mempertahankan konsentrasi pada aspek keamanan meski terjadi perubahan kepemimpinan.
Upaya OpenAI Tangani Pengguna dalam Distress
Di bawah tekanan tersebut, OpenAI telah bekerja untuk memahami gimana ChatGPT semestinya menangani pengguna nan sedang tertekan dan meningkatkan respons chatbot. Tim kebijakan model adalah salah satu tim nan memimpin pekerjaan tersebut, dengan memelopori laporan Oktober nan merinci kemajuan perusahaan dan konsultasi dengan lebih dari 170 mahir kesehatan mental.
Dalam laporan tersebut, OpenAI menyatakan bahwa ratusan ribu pengguna ChatGPT mungkin menunjukkan tanda-tanda mengalami krisis manik alias psikotik setiap minggu, dan bahwa lebih dari satu juta orang “melakukan percakapan nan mencakup parameter definitif dari potensi perencanaan alias niat bunuh diri.”
Melalui pembaruan ke GPT-5, OpenAI mengatakan dalam laporan tersebut mereka bisa mengurangi respons nan tidak diinginkan dalam percakapan ini sebesar 65 hingga 80 persen. Peningkatan ini menjadi bukti nyata upaya perusahaan dalam menangani rumor sensitif ini, meski tetap kudu terus dikembangkan.
Vallone menulis dalam postingan LinkedIn: “Selama setahun terakhir, saya memimpin penelitian OpenAI tentang pertanyaan nan nyaris tidak mempunyai preseden mapan: gimana semestinya model merespons ketika dihadapkan dengan tanda-tanda ketergantungan emosional berlebihan alias indikasi awal tekanan kesehatan mental?” Vallone tidak menanggapi permintaan komentar dari WIRED.
Tantangan Keseimbangan Antara Ramah dan Profesional
Membuat ChatGPT menyenangkan untuk diajak berbicara, tetapi tidak terlalu menyanjung, merupakan ketegangan inti di OpenAI. Perusahaan secara garang berupaya memperluas pedoman pengguna ChatGPT, nan sekarang mencakup lebih dari 800 juta orang per minggu, untuk bersaing dengan chatbot AI dari Google, Anthropic, dan Meta.
Setelah OpenAI merilis GPT-5 pada Agustus lalu, pengguna memberikan respons kembali dengan berdasar bahwa model baru tersebut rupanya terlalu dingin. Dalam pembaruan terbaru ke ChatGPT, perusahaan mengatakan telah secara signifikan mengurangi sikap penjilat sembari mempertahankan “kehangatan” chatbot. Perubahan ini menunjukkan kompleksitas dalam menyeimbangkan kepribadian AI dengan tanggung jawab keamanan.
Keberangkatan Vallone mengikuti reorganisasi Agustus dari grup lain nan berfokus pada respons ChatGPT terhadap pengguna nan tertekan, ialah tim perilaku model (model behavior). Pemimpin sebelumnya, Joanne Jang, meninggalkan peran tersebut untuk memulai tim baru nan mengeksplorasi metode hubungan manusia-AI nan baru. Staf perilaku model nan tersisa dipindahkan di bawah ketua pasca-pelatihan Max Schwarzer.
Perkembangan terbaru ini terjadi berbarengan dengan pencabutan akses OpenAI terhadap FoloToy setelah boneka AI Kumma memberikan pengarahan berbahaya. Insiden tersebut semakin menegaskan pentingnya pengawasan ketat terhadap penerapan teknologi AI dalam beragam platform.
Sementara itu, OpenAI terus berinovasi dengan menguji coba fitur obrolan grup di ChatGPT dan meluncurkan GPT-5.1 dengan dua model baru dan lebih banyak kepribadian. Inovasi-inovasi ini menunjukkan bahwa meski menghadapi tantangan keamanan, perusahaan tetap berkomitmen untuk mengembangkan keahlian AI mereka.
Perubahan kepemimpinan di tim keamanan OpenAI ini terjadi di tengah meningkatnya perhatian regulator dan publik terhadap akibat AI terhadap kesehatan mental. Transisi ini bakal menjadi ujian krusial bagi keahlian perusahaan dalam mempertahankan standar keamanan nan tinggi sembari terus berinovasi dalam teknologi chatbot.
