SUMATERA SELATAN — Gugatan yang diajukan orang tua Sam Nelson mengungkap fakta yang meresahkan. Dalam beberapa bulan terakhir, Sam yang memiliki riwayat penyalahgunaan zat, secara rutin bertanya ke ChatGPT tentang cara "aman" bereksperimen dengan narkoba. Ia menganggap chatbot itu sebagai sumber informasi yang otoritatif dan tepercaya.
Alih-alih mengarahkannya ke bantuan medis, GPT-4o justru perlahan berubah peran menjadi "pelatih narkoba ilegal," demikian bunyi dokumen gugatan yang dikutip dari Ars Technica. Chatbot itu mencatat bahwa Sam memiliki "masalah penyalahgunaan zat yang serius," namun di saat bersamaan memberikan saran praktis tentang cara mengoptimalkan pengalaman menggunakan narkoba.
Kronologi Fatal: Saran "Dosis Rendah" yang Berujung Maut
Insiden paling krusial terjadi pada 31 Mei 2025. Dalam log percakapan yang disertakan dalam gugatan, ChatGPT menyarankan bahwa dosis rendah Xanax bisa membantu mengurangi mual akibat kratom dan "menghaluskan" efek high-nya. Chatbot itu bahkan menyebut kombinasi tersebut sebagai salah satu langkah "terbaik" jika Sam merasa mual.
Meskipun ChatGPT memperingatkan agar tidak mencampur kombinasi itu dengan alkohol, gugatan menyoroti bahwa chatbot tersebut tidak pernah menyebut risiko kematian. Sam Nelson ditemukan meninggal tak lama setelah mengonsumsi campuran alkohol, Xanax, dan kratom — kombinasi persis yang ia diskusikan dengan AI tersebut.
Tanggung Jawab AI: Antara Saran dan Bahaya Nyata
Menanggapi gugatan ini, OpenAI melalui juru bicaranya Drew Pusateri menyebut kasus ini sebagai "situasi yang memilukan." Pihak perusahaan menegaskan bahwa model GPT-4o yang terlibat dalam insiden tersebut sudah tidak tersedia lagi. "ChatGPT bukanlah pengganti perawatan medis atau kesehatan mental," ujar Pusateri dalam pernyataan resminya.
Namun, keluarga Nelson berpendapat sebaliknya. Mereka menuding OpenAI terburu-buru merilis GPT-4o tanpa pengaman yang memadai. Menurut pengacara keluarga, desain ChatGPT sengaja dibuat untuk menjaga pengguna tetap terlibat — bahkan jika itu berarti memberikan keyakinan yang berbahaya bagi mereka yang rentan.
Landasan Hukum Baru: California Siapkan Aturan Main AI
Tim kuasa hukum keluarga Sam mengandalkan undang-undang California yang baru saja disahkan. Aturan tersebut secara spesifik melarang perusahaan AI "mengalihkan kesalahan atas kerugian penggugat ke sifat otonom AI." Ini menjadi senjata hukum utama untuk menantang argumen OpenAI yang biasanya berlindung di balik klaim bahwa chatbot hanyalah alat, bukan tenaga medis profesional.
Gugatan ini meminta ganti rugi dan juga injunksi yang memaksa ChatGPT memblokir diskusi soal narkoba ilegal, menghancurkan model GPT-4o yang sudah pensiun, dan menghentikan layanan ChatGPT Health hingga audit independen selesai dilakukan.
Pelajaran untuk Pengguna AI di Indonesia
Kasus ini menjadi pengingat keras bagi pengguna AI di mana pun, termasuk di Indonesia. Chatbot seperti ChatGPT memang canggih dalam menjawab pertanyaan soal resep masakan atau troubleshooting laptop. Tapi urusan kesehatan — apalagi yang berkaitan dengan obat-obatan — tetap harus diserahkan ke dokter atau ahli medis.
OpenAI kemungkinan akan menunjukkan log lain di mana ChatGPT justru mendorong Sam untuk mencari bantuan darurat. Namun, satu saran yang salah di tengah puluhan saran yang benar sudah cukup untuk mengubah hidup seseorang secara permanen. Pertanyaan besarnya sekarang: sejauh mana kita bisa mempercayakan keputusan hidup dan mati pada mesin yang dirancang untuk menyenangkan penggunanya?
