OpenAIs ChatGPT-Gesundheitsoffensive wirft Fragen zur Datensicherheit auf

Am Mittwoch kündigte OpenAI eine neue Funktion in ChatGPT an, die es Nutzern ermöglicht, medizinische Aufzeichnungen und Wellnessdaten zu verknüpfen – was bei einigen Experten und Interessenvertretungen Bedenken hinsichtlich der Nutzung persönlicher Daten auslöst.

Der in San Francisco, Kalifornien ansässige KI-Gigant erklärte, dass das Tool, genannt ChatGPT Health, in Zusammenarbeit mit Ärzten entwickelt wurde und dazu dient, die Versorgung zu unterstützen und nicht, Krankheiten zu diagnostizieren oder zu behandeln. Das Unternehmen positioniert es als Möglichkeit, Nutzern zu helfen, ihre Gesundheit besser zu verstehen.

Für viele Nutzer ist ChatGPT bereits die bevorzugte Plattform für Fragen zu medizinischer Versorgung und psychischer Gesundheit.

OpenAI sagte gegenüber

dass ChatGPT Health ausschließlich allgemeine, „faktische Gesundheitsinformationen“ teilt und keine „individuelle oder unsichere medizinische Beratung“ bietet.

Bei risikoreicheren Fragen gibt es umfassende Informationen, weist auf potenzielle Risiken hin und ermutigt die Nutzer, mit einem Apotheker oder einer medizinischen Fachkraft zu sprechen, die ihre jeweilige Situation kennt.

Diese Maßnahme folgt kurz nachdem das Unternehmen im Oktober mitgeteilt hatte, dass mehr als eine Million Nutzer jede Woche Suizidgedanken mit dem Chatbot besprechen. Das entsprach damals etwa 0,15 % aller ChatGPT-Nutzer.

Auch wenn diese Zahlen einen relativ kleinen Anteil an der Gesamtbevölkerung der Nutzer darstellen, müssen die meisten laut Experten Sicherheits- und Datenschutzaspekte beachten.

„Selbst wenn Unternehmen behaupten, Datenschutzmaßnahmen zu haben, fehlt es den Verbrauchern oft an wirklicher Einwilligung, Transparenz oder Kontrolle darüber, wie ihre Daten genutzt, gespeichert oder anderweitig verwendet werden“, sagte J.B. Branch, Verantwortlicher für Big-Tech-Rechenschaftspflicht bei Public Citizen, gegenüber

„Gesundheitsdaten sind besonders sensibel, und ohne klare gesetzliche Grenzen und durchsetzbare Aufsicht reichen selbstregulierte Schutzmaßnahmen einfach nicht aus, um Menschen vor Missbrauch, erneuter Identifikation oder Folgeschäden zu schützen.“

OpenAI erklärte in seiner Mitteilung, dass Gesundheitsdaten in ChatGPT Health standardmäßig verschlüsselt, getrennt von anderen Chats gespeichert und nicht zur Schulung der eigenen Basismodelle verwendet werden.

Laut Andrew Crawford, Senior Policy Counsel beim Center for Democracy and Technology, gehen viele Nutzer fälschlicherweise davon aus, dass Gesundheitsdaten aufgrund ihrer Sensibilität geschützt sind – tatsächlich hängt es aber davon ab, wer sie speichert.

„Wenn Ihre Gesundheitsdaten von Ihrem Arzt oder Ihrer Krankenversicherung gespeichert werden, gelten die HIPAA-Datenschutzregeln“, sagte Crawford gegenüber

. „Das gilt jedoch nicht für Unternehmen, die nicht unter HIPAA fallen, wie Entwickler von Gesundheits-Apps, Wearable-Health-Tracker oder KI-Unternehmen.“

Crawford betonte, dass die Einführung von ChatGPT Health auch verdeutlicht, wie die Verantwortung auf Konsumenten abgewälzt wird, solange es kein umfassendes nationales Datenschutzgesetz für von Technologiefirmen gespeicherte Gesundheitsdaten gibt.

„Es ist bedauerlich, dass unsere derzeitigen Bundesgesetze und -verordnungen diese Verantwortung auf einzelne Verbraucher abwälzen, die selbst prüfen müssen, ob sie damit einverstanden sind, wie die von ihnen täglich genutzte Technologie ihre Daten verarbeitet und weitergibt“, sagte er.

OpenAI gab an, dass ChatGPT Health zunächst für eine kleine Nutzergruppe eingeführt wird.

Die Warteliste steht ChatGPT-Nutzern außerhalb der Europäischen Union und des Vereinigten Königreichs offen. In den kommenden Wochen soll der Zugang über Web und iOS weiter ausgebaut werden. Die Ankündigung von OpenAI erwähnte Google- oder Android-Geräte nicht.