En bref
- OpenAI indique que ChatGPT Health sera déployé auprès de certains utilisateurs à partir de cette semaine, avec un accès plus large prévu dans les semaines à venir.
- La fonctionnalité stocke les conversations de santé séparément des autres discussions et ne les utilise pas pour entraîner les modèles d’OpenAI.
- Les défenseurs de la vie privée avertissent que les données de santé partagées avec des outils d’IA échappent souvent aux lois américaines sur la confidentialité médicale.
Mercredi, OpenAI a annoncé une nouvelle fonctionnalité dans ChatGPT, permettant aux utilisateurs de connecter leurs dossiers médicaux et données de bien-être, suscitant l’inquiétude de certains experts et groupes de défense quant à l’utilisation des données personnelles.
Le géant de l’IA basé à San Francisco, en Californie, a déclaré que l’outil, baptisé ChatGPT Health, développé avec des médecins, est conçu pour soutenir les soins plutôt que pour diagnostiquer ou traiter des maladies. L’entreprise le présente comme un moyen d’aider les utilisateurs à mieux comprendre leur santé.
Pour de nombreux utilisateurs, ChatGPT est déjà devenu la plateforme incontournable pour les questions concernant les soins médicaux et la santé mentale.
OpenAI a déclaré à
Decrypt
que ChatGPT Health ne partage que des “informations de santé générales et factuelles” et ne fournit pas de conseils médicaux personnalisés ou dangereux.
Pour les questions à risque élevé, il fournira des informations générales, signalera les risques potentiels et encouragera les personnes à consulter un pharmacien ou un professionnel de santé connaissant leur situation spécifique.
Cette initiative suit de près le rapport de l’entreprise d’octobre, selon lequel plus d’un million d’utilisateurs discutent chaque semaine du suicide avec le chatbot. Cela représentait environ 0,15 % de tous les utilisateurs de ChatGPT à l’époque.
Bien que ces chiffres représentent une part relativement faible de la population totale d’utilisateurs, la plupart devront répondre aux préoccupations liées à la sécurité et à la confidentialité des données, selon les experts.
« Même lorsque les entreprises affirment disposer de garanties en matière de confidentialité, les consommateurs manquent souvent de consentement réel, de transparence ou de contrôle sur la manière dont leurs données sont utilisées, conservées ou réutilisées », a déclaré J.B. Branch, défenseur de la responsabilité des grandes entreprises technologiques chez Public Citizen, à
Decrypt.
« Les données de santé sont particulièrement sensibles, et sans limites légales claires et une supervision exécutoire, les garanties auto-régulées ne suffisent tout simplement pas à protéger les personnes contre une mauvaise utilisation, la ré-identification ou des préjudices ultérieurs. »
OpenAI a indiqué dans son communiqué que les données de santé dans ChatGPT Health sont chiffrées par défaut, stockées séparément des autres discussions, et ne sont pas utilisées pour entraîner ses modèles fondamentaux.
Selon Andrew Crawford, conseiller principal en politique au Center for Democracy and Technology, de nombreux utilisateurs supposent à tort que les données de santé sont protégées en raison de leur sensibilité, plutôt qu’en fonction de qui les détient.
« Lorsque vos données de santé sont détenues par votre médecin ou votre compagnie d’assurance, les règles de confidentialité HIPAA s’appliquent », a déclaré Crawford à
Decrypt
. « Ce n’est pas le cas pour les entités non couvertes par HIPAA, comme les développeurs d’applications de santé, les trackers de santé portables ou les entreprises d’IA. »
Crawford a indiqué que le lancement de ChatGPT Health met également en lumière le fait que la charge de la responsabilité incombe aux consommateurs en l’absence d’une loi fédérale complète sur la confidentialité des données de santé détenues par les entreprises technologiques.
« Il est regrettable que nos lois et règlements fédéraux actuels fassent peser cette responsabilité sur les consommateurs individuels, qui doivent analyser s’ils sont à l’aise avec la manière dont la technologie qu’ils utilisent chaque jour gère et partage leurs données », a-t-il déclaré.
OpenAI a indiqué que ChatGPT Health sera d’abord lancé auprès d’un petit groupe d’utilisateurs.
La liste d’attente est ouverte aux utilisateurs de ChatGPT en dehors de l’Union européenne et du Royaume-Uni, avec un accès plus large prévu dans les semaines à venir sur le web et iOS. L’annonce d’OpenAI n’a pas mentionné Google ni les appareils Android.
