通用AI暗藏的风险

2026年6月7日5 分钟阅读作者：K Team

晚上7点，门诊延误，一位复杂的患者留下了一个问题。医生打开一个通用AI，输入病例——姓名、年龄、病史，"最佳处置是什么？"。这很自然。工具快速且有用。

问题不在于使用AI，而在于用哪一个AI——以及患者数据离开你的屏幕那一刻会发生什么。使用面向消费者的工具时，可识别的健康信息离开诊室，进入一家科技公司的服务器，受消费者使用条款约束，脱离你的掌控。风险正是从这里开始——无论在圣保罗、里斯本、伦敦还是纽约。

通用AI不是为诊室而生的

ChatGPT、Gemini 或 Claude 的消费者版本都很出色——但它们是为通用场景、按消费者条款打造的。它们并未以合同形式承担法律与医学伦理对处理健康数据者所施加的义务。三点差异至关重要：

没有健康数据保护合同。 严肃的临床系统在与技术提供方的正式协议下运行——在美国是 HIPAA 下的业务伙伴协议（BAA），在欧洲与巴西是 GDPR/LGPD 下的处理者合同——约束提供方保护数据、绝不用于自身目的并通报泄露。消费者AI通常不会向普通用户提供这一点。没有它，使用患者数据本身就是违规。
数据可能用于训练模型。 在许多消费者产品中，你输入的内容可能被保留并用于改进系统。你患者的病历，原则上可能成为训练素材——与保密义务相悖。
没有记录、没有审计、没有访问控制。 聊天不是病历。它不留审计轨迹，不保证留存，也不将一位患者与另一位隔离。

每一项风险都直接对应医生本就受其约束的法律：

违反医疗保密——在世界任何地方，都是医师协会/医师会的纪律事项。
非法处理敏感健康数据——在 HIPAA 下为 PHI，在 GDPR 下为特殊类别数据（第9条），在 LGPD 下为敏感数据（第11条）——往往伴随向缺乏充分保障的司法辖区的跨境传输。
缺少AI使用记录。 医疗AI的规范汇聚于两点：决定由医生作出，且使用必须有记录（CFM 第2.454/2026号决议；欧盟《人工智能法》的人为监督与可追溯义务；GDPR 第22条，禁止纯自动化决定）。零散的聊天不留记录。
对错误建议的责任。 生成式AI可能在自信中出错。诊疗行为的责任从不在机器——而在医生。

KDoctor 从一开始就被构建为临床平台——而非披着医学外衣的通用聊天。AI依旧快速且有用，但患者数据从不离开临床掌控，上述每一项义务都有对应的保障：

数据从不流向现成的AI。 KDoctor 的AI在正式的健康数据保护合同（BAA／处理者）下运行，置于覆盖且可审计的基础设施之上，并被合同禁止用该数据进行训练。患者绝不会成为训练素材。
最小化与身份保护。 仅发送临床必要的内容；在处理之前保护患者身份；凡可本地运行之处，数据甚至不经过开放互联网。
决定始终由医生作出。 AI是副驾，而非主驾——每条建议都呈交医生接受、修改或拒绝，且该决定会被记录。
完整的可追溯性。 与AI的每一次交互都记录在患者病历中——用了什么、建议了什么、医生决定了什么——同时满足 CFM、HIPAA 的审计轨迹与欧盟《人工智能法》的日志义务。
一份真正的病历——具备留存、完整性，以及谁读取或更改了每条信息的轨迹。
每位患者相互隔离，每次访问都有记录——在数据库层面强制实现，而非仅停留在屏幕上。
带出处的精选临床知识——专业、经过验证，且始终在医生的审阅之下：与不可追溯的通用回答截然相反。

一句话：使用通用AI，医生等于把患者借给了一家科技公司。使用 KDoctor，AI走进诊室来工作——在保密之下、在记录之下、在医生的指挥之下，同时达到美国、欧洲与巴西的标准。