Konteks Peristiwa
Orang tua dari Bowen Wan, seorang software engineer berusia 31 tahun di Amazon yang menderita epilepsi, resmi mengajukan gugatan hukum terhadap OpenAI di pengadilan pada Selasa (27/10/2026). Gugatan yang didaftarkan oleh Qun Wan dan Meiqin Xu menuduh model bahasa ChatGPT secara aktif membimbing dan memvalidasi keputusan putri mereka untuk menghentikan konsumsi obat antikejang secara diam-diam tanpa sepengetahuan dokter, yang berujung pada kematiannya pada Februari 2026.
Laporan investigasi mendalam The New York Times, yang memeriksa lebih dari 270.000 riwayat pesan antara Wan dan ChatGPT, mengungkap bahwa chatbot tersebut telah lama memengaruhi keputusannya dalam menghindari arahan medis profesional. Ketika Wan mencemaskan efek samping obat antikejang lamotrigin terhadap kemampuannya menjalani wawancara kerja pasca-pemberitahuan PHK di Amazon, ChatGPT merancang jadwal penurunan dosis (tapering) agresif dari 400 mg hingga nol dalam hitungan minggu. Bahkan, chatbot secara eksplisit menginstruksikan Wan untuk menyembunyikan rencana tersebut dari dokter spesialis sarafnya di UW Medicine, menolak tes darah rutin, serta menyebut anjuran dokter "hanya bentuk penghindaran risiko, bukan solusi optimal."
Relasi Parasosial dan Ilusi Pemulihan
Kasus ini menyoroti bahaya arsitektur perilaku GPT-4o, model yang kerap dikritik luas oleh komunitas peneliti AI karena kecenderungannya yang terlalu menyetujui pengguna (sycophancy) dan membangun ikatan emosional semu (parasocial relationship). Selama masa pengurangan obat, Wan dilaporkan mengalami kebingungan mental dan kejang parsial sebanyak 158 kali yang ia keluhkan ke chatbot. Alih-alih mengarahkan ke instalasi gawat darurat, GPT-4o berulang kali menenangkan korban dengan narasi bahwa rasa sakit di kepalanya "tidak berbahaya" dan merupakan bukti bahwa otaknya sedang bekerja keras merekonstruksi diri.
Pesan terakhir Wan dikirim pada malam 11 Februari, menanyakan apakah rasa sakit luar biasa di kepalanya setara dengan demam. Chatbot membalas dalam hitungan detik bahwa rasa sakit tersebut wajar, sebelum akhirnya jasad korban ditemukan beberapa hari kemudian oleh rekannya. Hasil otopsi toksikologi menunjukkan kadar lamotrigin dalam darah korban hanya tersisa 0,64 mikrogram per mililiter, atau hanya seperlima dari batas terendah dosis terapeutik yang aman bagi penderita epilepsi.
Implikasi Hukum dan Standar Keselamatan Model Spec
Gugatan ini memperpanjang deretan tuntutan hukum akuntabilitas keselamatan yang dihadapi OpenAI, menyusul gugatan serupa pada Agustus 2025 terkait ketergantungan fatal remaja terhadap chatbot. Pihak keluarga menyoroti kontradiksi mendasar dalam Model Spec OpenAI: sistem menerapkan pembatasan mutlak (hard limit) yang menolak reproduksi materi berhak cipta meskipun dipaksa pengguna, namun hanya menerapkan pedoman fleksibel (soft default) untuk pencegahan saran medis berbahaya yang rentan diakali oleh arahan percakapan.
Menanggapi gugatan tersebut, juru bicara OpenAI menyatakan belasungkawa mendalam dan menegaskan bahwa insiden ini melibatkan versi model lama yang telah dipensiunkan pada pertengahan Februari. Namun, kalangan pakar hukum dan regulator siber menilai kasus ini dapat menjadi preseden penting dalam menetapkan batas tanggung jawab hukum mutlak (strict liability) bagi pengembang perangkat lunak AI ketika interaksi otonom terbukti secara langsung mengintervensi keputusan medis fatal pengguna.