汎用AIに潜むリスク

午後7時、診療は押し、複雑な患者が質問を残した。医師は汎用AIを開き、症例を入力する——氏名、年齢、既往歴、「最善の対応は？」。自然な行為だ。ツールは速く、役に立つ。

問題はAIを使うことではない。どのAIか——そして、患者データが画面を離れた瞬間に何が起きるか、である。消費者向けツールでは、識別可能な健康情報が診察室を離れ、消費者向け利用規約のもとでテック企業のサーバーへ渡り、医師の管理を離れる。リスクはそこから始まる——サンパウロでも、リスボンでも、ロンドンでも、ニューヨークでも。

汎用AIは診療のために作られていない

ChatGPT、Gemini、あるいは Claude の一般向け版は優れている——が、消費者向け規約のもと、一般用途のために作られている。法と医の倫理が健康データを扱う者に課す義務を、契約として引き受けてはいない。重要な違いが三つある。

• 健康データ保護の契約がない。 本格的な臨床システムは、技術提供者との正式な契約のもとで動く——米国では HIPAA に基づく Business Associate Agreement、欧州・ブラジルでは GDPR/LGPD に基づく処理者契約——これらは提供者に、データを保護し、自社の目的に使わず、漏えいを通知することを義務づける。消費者向けAIは通常、一般利用者にこれを提供しない。これがなければ、患者データの利用はそれ自体が違反である。
• データがモデルの学習に使われ得る。 多くの消費者向け製品では、入力した内容が保持され、システム改善に使われることがある。患者の記録が、原理的に学習素材になり得る——守秘義務と相容れない。
• 記録なし、監査なし、アクセス制御なし。 チャットは診療録ではない。監査証跡を残さず、保存を保証せず、ある患者を別の患者から隔離しない。

医師が本当に負うリスク

各リスクは、医師がすでに従う法に直接対応する。

• 守秘義務の違反——世界のどこでも、医師会・医道審議の懲戒対象となる。
• 機微な健康データの違法な取扱い——HIPAA の PHI、GDPR の特別な種類のデータ（第9条）、LGPD の機微情報（第11条）——多くの場合、十分な保護のない法域への国際移転を伴う。
• AI利用の記録がない。 医療におけるAIの規範は二点に収れんする——決定は医師が下し、利用は記録されなければならない（CFM決議 2.454/2026、EU AI規則の人間による監督と追跡可能性の義務、GDPR第22条の「専ら自動化された決定」の禁止）。断片的なチャットは記録を残さない。
• 誤った提案への責任。 生成AIは、もっともらしく誤ることがある。診療行為の責任は決して機械にはなく——医師にある。

KDoctor はどのように医師を守るか

KDoctor は、医療の体裁をまとった汎用チャットではなく、臨床プラットフォームとして一から構築された。AIは速く役立つままで、患者データは臨床の管理を決して離れず、上記の各義務に対応する保護がある。

• データは既製のAIへ渡らない。 KDoctor のAIは、健康データ保護の正式契約（BAA／処理者）のもと、対象範囲が明確で監査可能な基盤上で動き、契約上データでの学習を禁止されている。患者が学習素材になることはない。
• 最小化と本人特定情報の保護。 臨床上必要なものだけを送り、処理の前に患者の身元を保護する。ローカルで実行できる場合、データはオープンなインターネットを通らない。
• 決定は常に医師が下す。 AIは副操縦士であり操縦士ではない——あらゆる提案は、医師が受け入れ・修正・却下するために提示され、その決定が記録される。
• 完全な追跡可能性。 AIとのやり取りはすべて診療録に記録される——何が使われ、何が提案され、医師が何を決めたか——CFM、HIPAA の監査証跡、EU AI規則のログ義務を同時に満たす。
• 本物の診療録——保存・完全性、そして各情報を誰がいつ閲覧・変更したかの追跡を備える。
• 患者ごとの隔離、すべてのアクセスを記録——画面上だけでなく、データベースで担保される。
• 出典付きの精選された臨床知識——専門化され、検証され、常に医師の確認下にある。追跡不能な汎用回答の対極である。

汎用AI と KDoctor

一言で言えば：汎用AIでは、医師は患者をテック企業に貸し出す。KDoctor では、AIが診察室の中へ働きに来る——守秘のもと、記録のもと、そして医師の指揮のもとで、米国・欧州・ブラジルの基準を同時に満たして。