El impulso de salud de ChatGPT de OpenAI genera dudas sobre la seguridad de los datos

El miércoles, OpenAI anunció una nueva función en ChatGPT que permite a los usuarios conectar sus registros médicos y datos de bienestar, generando preocupación entre algunos expertos y grupos de defensa sobre el uso de datos personales.

La gigante de IA con sede en San Francisco, California, dijo que la herramienta, llamada ChatGPT Health, desarrollada junto a médicos, está diseñada para apoyar el cuidado y no para diagnosticar o tratar enfermedades. La empresa la presenta como una forma de ayudar a los usuarios a entender mejor su salud.

Para muchos usuarios, ChatGPT ya se ha convertido en la plataforma de referencia para preguntas sobre atención médica y salud mental.

OpenAI le dijo a

que ChatGPT Health solo comparte “información de salud general y factual” y no brinda “consejos médicos personalizados ni peligrosos”.

Para preguntas de mayor riesgo, proporcionará información general, señalará posibles riesgos y alentará a las personas a hablar con un farmacéutico o profesional de la salud que conozca su situación específica.

Esta medida se produce poco después de que la empresa informara en octubre que más de 1 millón de usuarios discuten sobre suicidio con el chatbot cada semana. Eso representaba aproximadamente el 0,15% de todos los usuarios de ChatGPT en ese momento.

Si bien esas cifras representan una proporción relativamente pequeña de la población total de usuarios, la mayoría deberá abordar cuestiones de seguridad y privacidad de datos, según los expertos.

“Incluso cuando las empresas afirman tener resguardos de privacidad, los consumidores a menudo carecen de un consentimiento significativo, transparencia o control sobre cómo se utiliza, retiene o reutiliza su información”, dijo el defensor de la rendición de cuentas de las grandes tecnológicas de Public Citizen, J.B. Branch, a

“Los datos de salud son especialmente sensibles y, sin límites legales claros y supervisión aplicable, los resguardos autoimpuestos simplemente no son suficientes para proteger a las personas del uso indebido, la reidentificación o daños posteriores.”

OpenAI dijo en su comunicado que los datos de salud en ChatGPT Health están cifrados por defecto, se almacenan por separado de otros chats y no se utilizan para entrenar sus modelos base.

Según Andrew Crawford, asesor principal de políticas del Center for Democracy and Technology, muchos usuarios suponen erróneamente que los datos de salud están protegidos por su sensibilidad, en lugar de por quién los posee.

“Cuando tus datos de salud los tiene tu médico o tu compañía de seguro, se aplican las normas de privacidad HIPAA”, dijo Crawford a

. “Eso no ocurre con entidades que no están cubiertas por HIPAA, como desarrolladores de aplicaciones de salud, dispositivos portátiles de monitoreo o empresas de IA.”

Crawford dijo que el lanzamiento de ChatGPT Health también pone de manifiesto cómo la carga de la responsabilidad recae en los consumidores ante la ausencia de una ley federal integral de privacidad que regule los datos de salud en manos de empresas tecnológicas.

“Es lamentable que nuestras leyes y regulaciones federales actuales coloquen esa responsabilidad en los consumidores individuales para analizar si se sienten cómodos con la forma en que la tecnología que usan a diario maneja y comparte sus datos”, señaló.

OpenAI dijo que ChatGPT Health será implementado primero para un pequeño grupo de usuarios.

La lista de espera está disponible para usuarios de ChatGPT fuera de la Unión Europea y el Reino Unido, con acceso más amplio previsto para las próximas semanas en la web y iOS. El anuncio de OpenAI no mencionó dispositivos de Google o Android.