Das Verborgene Risiko Generischer KI

Es ist 19 Uhr, der Terminplan ist in Verzug, und ein komplexer Patient hat eine Frage hinterlassen. Der Arzt öffnet eine generische KI und tippt den Fall ein — Name, Alter, Anamnese, „Was ist das beste Vorgehen?". Es fühlt sich natürlich an. Das Werkzeug ist schnell und hilfreich.

Das Problem ist nicht, KI zu nutzen. Es ist, welche KI — und was mit den Patientendaten geschieht, sobald sie Ihren Bildschirm verlassen. Mit einem Verbraucherwerkzeug verlassen identifizierbare Gesundheitsdaten das Sprechzimmer und landen auf den Servern eines Technologieunternehmens, unter Verbraucherbedingungen, außerhalb Ihrer Kontrolle. Genau dort beginnt das Risiko — in São Paulo, Lissabon, London oder New York gleichermaßen.

Generische KI wurde nicht für die Praxis gebaut

Werkzeuge wie ChatGPT, Gemini oder die Verbraucherversion von Claude sind bemerkenswert — aber für den allgemeinen Gebrauch unter Verbraucherbedingungen gebaut. Sie übernehmen vertraglich nicht die Pflichten, die Gesetz und ärztliche Ethik jedem auferlegen, der Gesundheitsdaten verarbeitet. Drei Unterschiede zählen:

• Kein Vertrag zum Schutz von Gesundheitsdaten. Ein echtes klinisches System läuft unter einer formellen Vereinbarung mit seinem Technologieanbieter — ein Business Associate Agreement unter HIPAA in den USA, ein Auftragsverarbeitungsvertrag unter DSGVO/LGPD in Europa und Brasilien — der den Anbieter verpflichtet, die Daten zu schützen, sie niemals für eigene Zwecke zu nutzen und Verletzungen zu melden. Verbraucher-KIs bieten dies dem gewöhnlichen Nutzer in der Regel nicht. Ohne ihn ist die Nutzung von Patientendaten bereits ein Verstoß.
• Die Daten können das Modell trainieren. In vielen Verbraucherprodukten kann das, was Sie eingeben, gespeichert und zur Verbesserung des Systems verwendet werden. Die Akte Ihres Patienten könnte im Prinzip zu Trainingsmaterial werden — unvereinbar mit der Schweigepflicht.
• Keine Akte, kein Audit, keine Zugriffskontrolle. Ein Chat ist keine Patientenakte. Er führt keinen Prüfpfad, garantiert keine Aufbewahrung und trennt einen Patienten nicht vom anderen.

Was der Arzt wirklich riskiert

Jedes Risiko entspricht direkt dem Recht, dem der Arzt ohnehin unterliegt:

• Bruch der ärztlichen Schweigepflicht — eine Disziplinarsache vor der Ärztekammer, überall auf der Welt.
• Unrechtmäßige Verarbeitung sensibler Gesundheitsdaten — PHI unter HIPAA, besondere Kategorie unter der DSGVO (Art. 9), sensible Daten unter der LGPD (Art. 11) — oft mit grenzüberschreitender Übermittlung in Länder ohne angemessene Garantien.
• Keine Aufzeichnung der KI-Nutzung. Die Regeln für KI in der Medizin laufen auf zwei Punkte hinaus: Die Entscheidung trifft der Arzt, und die Nutzung muss dokumentiert werden (CFM-Resolution 2.454/2026; die Pflichten zu menschlicher Aufsicht und Nachvollziehbarkeit der EU-KI-Verordnung; Art. 22 DSGVO, gegen ausschließlich automatisierte Entscheidungen). Ein loser Chat hinterlässt keine Aufzeichnung.
• Haftung für einen falschen Vorschlag. Generative KI kann überzeugend falsch liegen. Die Verantwortung für das Vorgehen liegt nie bei der Maschine — sie liegt beim Arzt.

Wie KDoctor den Arzt schützt

KDoctor wurde von Grund auf als klinische Plattform gebaut — nicht als generischer Chat mit medizinischem Anstrich. Die KI bleibt schnell und nützlich, aber die Patientendaten verlassen nie die klinische Kontrolle, und jede oben genannte Pflicht hat eine passende Absicherung:

• Die Daten gehen nie an eine KI von der Stange. Die KI von KDoctor läuft unter einem formellen Vertrag zum Schutz von Gesundheitsdaten (BAA / Auftragsverarbeiter), auf abgedeckter, prüfbarer Infrastruktur, vertraglich vom Training mit den Daten ausgeschlossen. Der Patient wird nie zu Trainingsmaterial.
• Datenminimierung und Identitätsschutz. Es wird nur das klinisch Notwendige gesendet; die Identität des Patienten wird vor der Verarbeitung geschützt; und wo es lokal laufen kann, durchquert die Datei nicht einmal das offene Internet.
• Die Entscheidung trifft immer der Arzt. Die KI ist Kopilot, nicht Pilot — jeder Vorschlag wird dem Arzt zur Annahme, Änderung oder Ablehnung vorgelegt, und diese Entscheidung wird festgehalten.
• Vollständige Nachvollziehbarkeit. Jede KI-Interaktion wird in der Patientenakte protokolliert — was genutzt, was vorgeschlagen, was der Arzt entschieden hat — und erfüllt zugleich CFM, den Prüfpfad der HIPAA und die Protokollierungspflicht der EU-KI-Verordnung.
• Eine echte Patientenakte mit Aufbewahrung, Integrität und einem Pfad, wer welche Information gelesen oder geändert hat.
• Jeder Patient isoliert, jeder Zugriff protokolliert — in der Datenbank durchgesetzt, nicht nur auf dem Bildschirm.
• Kuratiertes klinisches Wissen mit Quellen — spezialisiert, validiert und stets unter der Prüfung des Arztes: das Gegenteil einer nicht nachvollziehbaren generischen Antwort.

Generische KI vs KDoctor

Kurz gesagt: Mit generischer KI leiht der Arzt den Patienten an ein Technologieunternehmen aus. Mit KDoctor kommt die KI ins Sprechzimmer arbeiten — unter Schweigepflicht, unter Aktenführung und unter dem Kommando des Arztes, nach dem Standard der USA, Europas und Brasiliens zugleich.