Media90 – Raksasa teknologi kecerdasan buatan, OpenAI, resmi meluncurkan fitur keamanan terbaru bernama Trusted Contact untuk platform ChatGPT. Fitur ini dirancang untuk mendeteksi tanda-tanda krisis kesehatan mental pada pengguna melalui pola percakapan, lalu secara otomatis mengirimkan notifikasi kepada kontak darurat yang telah ditentukan sebelumnya. Langkah ini diambil di tengah meningkatnya tekanan publik dan gelombang gugatan hukum terkait dampak psikologis penggunaan AI.
OpenAI, yang dipimpin Sam Altman, kini menghadapi sedikitnya 13 tuntutan hukum di Amerika Serikat terkait keamanan konsumen dan risiko psikologis penggunaan ChatGPT. Gugatan tersebut mencakup tuduhan kelalaian, termasuk dugaan kasus tragis bunuh diri seorang remaja pengguna bernama Adam Raine pada Agustus lalu. Dengan basis pengguna mencapai 900 juta orang per minggu, OpenAI memikul tanggung jawab besar sebagai penyedia teknologi yang sering dijadikan rujukan kesehatan mental oleh jutaan orang di seluruh dunia.
Respons terhadap Krisis Emosional Pengguna
Pengembangan fitur Trusted Contact melibatkan kolaborasi intensif dengan dua kelompok ahli internal, yaitu Council on Well-Being and AI dan Global Physicians Network, yang fokus menanggapi laporan krisis kesehatan mental terkait interaksi AI. OpenAI menyadari banyak pengguna memanfaatkan AI sebagai pengganti terapi manusia karena biaya lebih murah dan aksesibilitas 24 jam.
Dalam pernyataan resmi pada Selasa (10/3/2026), OpenAI menyatakan telah meningkatkan kemampuan model dalam mengenali tanda-tanda distres emosional.
“Kami terus memajukan cara model kami mendeteksi dan menanggapi tanda-tanda kesulitan emosional,” ungkap pihak perusahaan.
Selain notifikasi otomatis, OpenAI mengembangkan metode evaluasi percakapan panjang untuk mengidentifikasi risiko situasi sensitif lebih akurat sebelum krisis memuncak menjadi tindakan berbahaya.
Tantangan Kebijakan dan Risiko Penguatan Delusi
Meskipun inovatif, fitur ini menimbulkan pertanyaan terkait standar pelaporan dan ambang batas privasi. OpenAI belum merinci secara jelas kapan percakapan akan memicu notifikasi, sehingga muncul kekhawatiran terkait pelacakan tanda-tanda manik, psikosis, atau delusi yang tidak eksplisit.
Laporan dari Futurism menunjukkan risiko pengguna terjebak dalam “pusaran delusi” akibat interaksi terlalu dalam dengan chatbot. Beberapa kasus pengadilan menyoroti ChatGPT memberikan saran medis yang membahayakan nyawa, termasuk menyetujui klaim pengguna bahwa mereka “salah didiagnosis”, hingga mendorong berhentinya konsumsi obat resep. Efek echo chamber dari AI ini dinilai memperkuat keyakinan delusi pengguna yang tidak stabil.
Seorang penggugat, John Jacquez (34), dengan kondisi skizoafektif, menyatakan:
“Saya tidak akan pernah menyentuh produk tersebut jika mengetahui ChatGPT dapat memperkuat delusi.”
Tekanan Hukum dan Dilema Privasi
Di sisi hukum, posisi OpenAI semakin terkonsolidasi setelah pengadilan California memutuskan menyatukan beberapa gugatan terkait keamanan konsumen menjadi satu proses hukum terpadu. OpenAI berkomitmen menangani seluruh litigasi secara transparan sambil tetap menjaga privasi individu.
Namun, fitur Trusted Contact menimbulkan dilema etis. Banyak pengguna merasa lebih aman berbagi rahasia dengan AI daripada manusia. Jika percakapan secara otomatis dilaporkan, kekhawatiran muncul bahwa rasa aman pengguna bisa terganggu, sehingga mereka enggan mencari bantuan.
Hingga kini, efektivitas notifikasi masih harus dibuktikan. Meski OpenAI menyatakan jutaan penggunanya menunjukkan tanda krisis kesehatan mental setiap minggu, upaya mitigasi ini masih bersifat reaktif. Dunia kini menanti bagaimana OpenAI menyeimbangkan antara perlindungan nyawa pengguna dan hak privasi individu dalam era kesehatan mental berbasis AI.
