Dorongan Kesehatan ChatGPT dari OpenAI Menimbulkan Pertanyaan tentang Keamanan Data

Pada hari Rabu, OpenAI mengumumkan fitur baru di ChatGPT yang memungkinkan pengguna menghubungkan rekam medis dan data kebugaran, menimbulkan kekhawatiran di antara beberapa ahli dan kelompok advokasi terkait penggunaan data pribadi.

Perusahaan AI berbasis di San Francisco, California ini mengatakan alat yang diberi nama ChatGPT Health, dikembangkan bersama dokter, dirancang untuk mendukung perawatan bukan untuk mendiagnosis atau mengobati penyakit. Perusahaan memposisikannya sebagai cara untuk membantu pengguna lebih memahami kesehatan mereka.

Bagi banyak pengguna, ChatGPT telah menjadi platform utama untuk bertanya tentang perawatan medis dan kesehatan mental.

OpenAI mengatakan kepada

bahwa ChatGPT Health hanya membagikan “informasi kesehatan umum yang faktual” dan tidak memberikan “nasihat medis yang dipersonalisasi atau tidak aman.”

Untuk pertanyaan yang berisiko lebih tinggi, alat ini akan memberikan informasi umum, menandai potensi risiko, dan mendorong orang untuk berbicara dengan apoteker atau penyedia layanan kesehatan yang mengetahui situasi spesifik mereka.

Langkah ini diambil tak lama setelah perusahaan melaporkan pada bulan Oktober bahwa lebih dari 1 juta pengguna setiap minggu membicarakan bunuh diri dengan chatbot tersebut. Angka ini setara dengan sekitar 0,15% dari seluruh pengguna ChatGPT pada saat itu.

Meskipun angka-angka tersebut mewakili bagian yang relatif kecil dari keseluruhan populasi pengguna, sebagian besar tetap perlu menangani masalah keamanan dan privasi data, menurut para ahli.

“Bahkan ketika perusahaan mengklaim memiliki perlindungan privasi, konsumen sering kali kurang memiliki persetujuan yang bermakna, transparansi, atau kendali atas bagaimana data mereka digunakan, disimpan, atau digunakan kembali,” kata advokat akuntabilitas big-tech Public Citizen, J.B. Branch kepada

“Data kesehatan sangat sensitif, dan tanpa batasan hukum yang jelas serta pengawasan yang dapat ditegakkan, perlindungan yang diawasi sendiri tidak cukup untuk melindungi orang dari penyalahgunaan, identifikasi ulang, atau dampak buruk di kemudian hari.”

OpenAI mengatakan dalam pernyataannya bahwa data kesehatan di ChatGPT Health dienkripsi secara default, disimpan terpisah dari obrolan lainnya, dan tidak digunakan untuk melatih model dasarnya.

Menurut penasihat kebijakan senior Center for Democracy and Technology, Andrew Crawford, banyak pengguna secara keliru menganggap data kesehatan dilindungi berdasarkan sensitivitasnya, bukan berdasarkan siapa yang menyimpannya.

“Ketika data kesehatan Anda disimpan oleh dokter atau perusahaan asuransi Anda, aturan privasi HIPAA berlaku,” kata Crawford kepada

. “Hal yang sama tidak berlaku untuk entitas yang tidak tercakup HIPAA, seperti pengembang aplikasi kesehatan, pelacak kesehatan wearable, atau perusahaan AI.”

Crawford mengatakan peluncuran ChatGPT Health juga menyoroti bagaimana beban tanggung jawab jatuh pada konsumen di tengah ketiadaan undang-undang privasi federal yang komprehensif yang mengatur data kesehatan yang disimpan oleh perusahaan teknologi.

“Sangat disayangkan bahwa undang-undang dan regulasi federal kita saat ini membebankan tanggung jawab itu kepada konsumen individu untuk menganalisis apakah mereka nyaman dengan cara teknologi yang mereka gunakan sehari-hari menangani dan membagikan data mereka,” ujarnya.

OpenAI mengatakan ChatGPT Health akan diluncurkan pertama kali ke sekelompok kecil pengguna.

Daftar tunggu dibuka untuk pengguna ChatGPT di luar Uni Eropa dan Inggris, dengan akses lebih luas direncanakan dalam beberapa minggu ke depan di web dan iOS. Pengumuman OpenAI tidak menyebutkan perangkat Google atau Android.