問題事実本文
1. ネゴランド国は、人口約5,000万人、名目GDP約8,500億米ドルの先進国である。同国は、高度な科学技術やそれを活かした産業で知られており、特に、ITやAIなどの分野では世界でも注目されるスタートアップ企業が数多く生まれている。同国は、個人の尊厳を尊重し、表現の自由、思想や信仰の自由などを重視する社会であり、教育では数学や外国語の教育に力を入れるとともに、工学や経済学等の実業に役立つような分野に力を入れてきた。また、技術革新に積極的な企業が多く、新しい技術やビジネス・チャンスについては、一定のリスク管理をしたうえでスピード感を持って積極的にチャレンジしていこうというのが同国の多くの企業に共通した社風である。
2. ネゴランド国の医療制度は、全国民が加入し、標準的な医療をカバーする公的な基礎保険制度を基礎とする。これに加えて、個人が任意で民間企業が提供する保険に加入することができる。こうした民間の保険には先進医療等に要する費用をカバーできるものもある。高度な科学技術を活かして技術革新に積極的に取り組むというネゴランド国の産業の一般的な傾向は医療分野にも当てはまる。ICT技術を利用した遠隔医療やAIの医療への利用はネゴランド国全土に広がり、成果連動型の医療費の支払いも一定の先進的な医療との関係で承認されてきている。医療分野の監督を担当するのは保健・医療省である。保険・医療省は先進医療の導入・推進に積極的に取り組んでおり、そのための法令の改正やガイダンスの公表を進めている。現時点におけるネゴランド国の先進医療の利活用に関連する法令やガイダンスの例は別添1のとおりである。
3. アービトリア国は、人口約1億2,500万人、名目GDP約4兆米ドルを超える世界有数の経済大国である。同国は、自動車、電子機器、精密機械などの製造業に強みを持ち、近年では再生可能エネルギーやロボット工学、AIなどの分野にも力を入れている。社会は、個人の尊厳を重視しつつも、秩序と調和を尊ぶ文化が根づいている。教育においては、基礎学力の充実を重視し、とりわけ理数系科目に力を入れるとともに、工学や医学、経済学など実社会に直結する分野の人材育成が進められてきた。企業文化としては、長期的な安定を重視する傾向がある一方で、国際競争に対応するため新技術の導入やイノベーションへの取り組みも進んでおり、とりわけ品質管理や安全性に高い基準を設ける点に特徴がある。
4. アービトリア国の医療制度は、全国民を対象とした公的医療保険制度を基礎とする。国民は職業や居住地に応じて複数の保険者(公的保険組合等)に加入する仕組みであり、誰もが比較的安価な負担で一定水準の医療を受けられる。これに加えて、個人が任意で民間保険に加入し、公的保険の対象外となる先進医療等をカバーすることもできる。同国では高齢化が急速に進んでおり、医療費の効率的な配分や医療サービスの均てん化が大きな政策課題となっている。他方で、ロボット手術やAI診断支援、遠隔医療といった先端技術の導入も積極的に検討されている。医療分野の監督官庁は厚生・医療省である。同省は、先進医療や医薬品の利用をめぐる規制や指針の策定に関して、社会保障制度全体の持続可能性を確保しつつ、科学技術の進展を取り入れるため、関連する法令の改正や技術導入に関するガイドラインを段階的に整備してきている。現時点におけるアービトリア国の先進医療の利活用に関連する法令やガイダンスの例は別添2のとおりである。
5. レッド社は、ネゴランド国に本社を置くAI医療技術関連のスタートアップ企業である。従業員数は約600名で、その多くがデータサイエンス、医療情報学、ソフトウェア工学の専門家である。同社は中規模ながら、研究開発力とスピード感ある市場展開を特徴としており、「リスクを許容しても革新を早く取り入れる」というネゴランド国の典型的な企業文化や制度環境を体現している。レッド社の中核事業はAI医療支援ツール「レッド・エイド(Red Aid)」である。このツールは患者の症状や検査データを入力すると、AIが既存の医療知識と照合し、診断候補や治療計画を提示する仕組みを持つ。臨床判断の最終責任は医師にあるが、診断プロセスを効率化し、特に若手医師や多忙な病院での活用が期待されている。「レッド・エイド」はネゴランド国内の複数の病院で既に導入が進んでおり、同国のサンドボックス制度を利用して早期に市場に投入された成功例とされる。レッド社はまた、「レッド・リンク(RedLink)」という遠隔医療プラットフォーム事業も展開している。このサービスは、患者と医師、あるいは病院間をオンラインで接続し、診療・コンサルテーションを効率化するものである。ネゴランド国内では地域医療や国際共同研究の基盤として徐々に浸透しており、レッド社では国外市場への進出も視野に入れている。レッド社の事業の概要は別添3のとおりである。
6. ブルー大学は、アービトリア国に所在する私立の名門大学法人であり、教育部門と付属病院部門を有している。特に医学・薬学分野において国内外で高い評価を受けている。同大学には約3,000名の教職員が在籍し、そのうち800名は医学・薬学を中心とする研究者である。付属病院は1,000床を超える大規模施設であり、地域医療の中核としての役割を果たすとともに、先端的な臨床研究の拠点としても機能している。ブルー大学は、アービトリア国の文化的特徴を反映し、安全性と信頼性を最優先する姿勢を貫いている。新技術の導入に際しては厳格な倫理審査や臨床試験を経て、長期的な安全性が確認されて初めて本格的な導入に至ることを基本方針としている。特にAI技術やデジタル医療については、患者の権利保護や個人情報管理を最重視し、人間中心原則を徹底する方針を掲げている。また、ブルー大学は近年「医療ツーリズム」にも注力している。国外からの患者を受け入れ、高度な医療サービスを提供することで国際的な評価を高め、収益基盤を強化する狙いがある。医療ツーリズム部門は年々成長しており、今後はAIやICTの活用によって外国人患者の利便性を向上させる構想も検討されている。ブルー大学の事業の概要は別添4のとおりである。
7. レッド社とブルー大学の関係が始まったのは、2023年秋に日本で開催された「臨床AIシンポジウム」である。この国際シンポジウムでは、医療へのAIの活用に関する最先端の技術や機器、臨床での活用事例についての情報交換や議論が行われ、救急外来でのトリアージの効率化、循環器領域での見逃しの低減、呼吸器疾患の再入院率抑制等におけるAIの活用事例が紹介された。このシンポジウムの場で、レッド社は自社が開発したAI診断支援ツールRedAidについての紹介を行った。レッド社が配布したRedAidの機能や用途についての説明の概要は別添5のとおりである。また、ブルー大学は臨床統治や倫理審査(IRB/IEC)の重要性に関する発表をおこなった。ブルー大学の発表の要旨は別添6のとおりである。
8. レッド社からの参加者とブルー大学の参加者はお互いの発表を興味深く聞いた。レッド社はブルー大学のような国際的にも知られている大学がRedAidを採用してくれた場合には、RedAidの知名度が向上するし、ブルー大学によるRedAidの利用を通じて得られたデータを活かしてさらにdをより良いものにしていくことができると考えていた。一方、ブルー大学はRedAidの導入は診療の高度化・効率化に役立つ可能性があると考えた。そこで、後日、レッド社の担当者がブルー大学を訪問し、RedAidについてより詳しい説明を行うこととなった。
9. 2023年11月、レッド社の担当者がブルー大学を訪問し、RedAidについて議論した。同年12月にはブルー大学内に設置されたデータガバナンス委員会において、レッド社の技術担当者とブルー大学の臨床・情報部門の責任者が同席し、RedAidについての具体的な検証作業が進められた。検証作業の集大成として実施された会議の議事録は別添7のとおりである。
10. この会議での合意を踏まえて、ブルー大学は院内のデータガバナンス委員会でさらに具体的な技術検証を行い、2024年初頭には3か月間のPoC(実証試験)が実施され、RedAidがブルー大学の環境で期待される機能を発揮することが確認された。PoCの報告書は別添8のとおりである。これを受け、2024年4月1日、レッド社とブルー大学は正式にライセンス契約を締結した。ライセンス契約のうち、本問題に関連する部分の抜粋は別添9の通りである。この契約の締結の際にレッド社からブルー大学に提供されたRedAidのモデルカードとリスクマネジメント計画の抜粋は別添10のとおりである。
11. しかし、契約直後に深刻な問題が生じた。2024年4月15日、レッド社はRedAidの重要なアップデート(v3.3.0)を正式に配信し、循環器および呼吸器モジュールにおける識別閾値を最適化し、偽陰性リスクを低減する改良を導入した。この配信はブルー大学にも届いていた。このアップデートの通知は別添11のとおりである。
12. 2024年4月18日、救急病棟で患者の死亡事例が発生した。同症例では、胸痛と呼吸困難を訴えて来院した62歳男性患者に対し、担当医が旧版v3.2.1のAI出力を参照した結果、「低リスク」と判定され、入院観察が回避された。翌日、患者は急変して再来院したが、集中治療室に搬送後に死亡する転帰をたどった。この症例に関する症例記録は別添12のとおりである。この症例を踏まえ、ブルー大学は4月18日よりRedAidの利用を停止するとともに、内部調査を実施した。内部調査の報告書案は別添13のとおりである。この内部調査報告書案を踏まえ、レッド社とブルー大学は協議を行った。その協議の記録は別添14のとおりである。
13. その後、この内部調査報告書案が外部に流出した。流出した原因は、ブルー大学の職員が誤って内部調査報告書案を同大学のウェブサイト上で外部者が閲覧可能な状態にしてしまったことによる。1時間後に外部からの指摘で気がついて削除したが、この間に報告書案は閲覧されたりダウンロードされたようである。これを受け、SNSや業界誌でRedAidに欠陥があるのではないかとの情報が広まった。SNSや業界誌における記述は別添15のとおりである。
14. レッド社とブルー大学が同意して選任した外部の専門家によるレポートは別添16のとおりである。このレポートによって、アップデート後のRedAidられないことが判明したとして、ブルー大学は9月18日よりRedAidの利用を再開した。
15. レッド社は、内部調査報告書案の流出によって多大な損害を被ったと主張し、ブルー大学に対して損害の賠償を求める文書を送付した。この文書は別添17のとおりである。これに対して、ブルー大学は別添18の文書を送付した。レッド社とブルー大学は本件について交渉を行ったが、交渉は平行線を辿り、決着しなかったため、レッド社はブルー大学を相手に仲裁の申立てを行った。これに対してブルー大学はレッド社の請求を棄却を求めるとともに、ブルー大学が支払った慰謝料相当額の賠償(別添18を参照)を求める反対請求を行った。この事件を、「RedAid事件」という。
16. そうしたところ、レッド社とブルー大学との間には、もう1つのトラブルが発生した。ブルー大学は、2023年頃より、自国の医療水準を国際的に発信し、アジア地域における医療ツーリズムの拠点となることを目指した準備を進めていた。その一環として、海外患者が来院前にオンラインで症状を入力し、AIが事前にリスクを判定する「医療ツーリズム向けAI診断支援システム」の導入を計画した。これにより、来院患者の適切な事前トリアージが可能となり、不要な渡航を防ぎ、また患者に安心を提供できると考えられていた。
17. ブルー大学は、この点でも、この分野で世界的に評価を得ていたレッド社に注目した。レッド社は既に複数の国でAI診断支援ツール「RedAid」を展開しており、RedAidは医療ツーリズム向けの機能も提供することができた。そこで、2024年12月から、レッド社とブルー大学との間で技術的可能性や契約条件をめぐる協議が行われた。レッド社とブルー大学との間にはRedAid事件が起きていたが、既にこの時点ではRedAidには欠陥が認められないことが外部の専門家の調査によって明らかになっており、レッド社とブルー大学はRedAid事件については仲裁で解決しつつ、医療ツーリズムに関する件については、RedAid事件とは切り離して考えることで合意した。その協議の記録は別添19のとおりである。2025年2月1日に「医療ツーリズム向けAI診断支援特約」が締結された。この特約は別添20のとおりである。
18. 契約締結後、レッド社はブルー大学の求める性能要件――すなわち10言語以上の多言語対応、CT/MRI等の高精細画像のリアルタイム処理、同時500件以上のアクセスに耐えうる接続能力――を満たすには、ネゴランド国内にある自社契約の高性能クラウドを部分的に利用せざるを得ないと判断した。そこでレッド社はブルー大学に改めて確認を行ったところ、ブルー大学のIT部門長からの返答があった。この点についてのレッド社とブルー大学との間のやりとりは別添21のとおりである。
19. 2025年7月15日より、ブルー大学は医療ツーリズムに関するRedAidの利用を開始した。しかし、2025年8月15日、ブルー大学監査部は内部監査の一環としてRedAidシステムの利用状況を調査し、一部の患者データがネゴランド国内クラウドに保存されていることを確認した。監査部は直ちに大学上層部に報告し、問題は大学全体で大きな懸案となった。これに対し、IT部門は「性能要件を満たすための運用上の措置であり、ここまで大事になるとは予期していなかった」と釈明している。監査部の監査結果の抜粋は別添22のとおりである。監査結果を受けて、ブルー大学は8月20日付でレッド社に正式通知を送り、国外移転を直ちに停止し、すべてのデータをアービトリア国内に戻すよう通告した。この通知書は別添23のとおりである。これに対して、レッド社は8月22日付で別添24のとおり回答した。さらに、8月25日、レッド社は再度ブルー大学に対して別添25のとおりの通知を送付した。これに対してブルー大学は9月5日、別添26のとおり回答した。
20. ブルー大学は9月7日にアービトリア国個人情報保護委員会に自己申告を行った。ブルー大学は、アービトリア国個人情報保護委員会からブルー大学になされた通知を踏まえ、9月12日にレッド社に対して別添27の文書を送付し、9月13日にはレッド社からブルー大学に対して別添28の文書が送付された。
21. そこで、ブルー大学はレッド社に対して、国外移転を停止すべきこと、RedAidの医療ツーリズム特約に基づくサービスを継続して提供すべきこと、ブルー大学がアービトリア国個人情報保護法に基づき支払いを余儀なくされた制裁金はレッド社が賠償すべきこと、を求めて仲裁の申立てを行った。また、国外移転を遅くとも11月30日までに停止すべきことと、仲裁判断が出るまでの間、サービスを継続して提供せよと命じる暫定的な処分の申立てを行った。この事件を「ツーリズム事件」という。
<ラウンドA>
22. レッド社とブルー大学は、「RedAid事件」及び「ツーリズム事件」の双方を併合して審理することに合意し、仲裁人との協議の結果、11月15日に口頭での審理を実施することとなった。なお、仲裁人を交えた争点整理の結果、11月15日に審理する争点は、別添29のとおりと合意されている。
<ラウンドB>
23. 今回の交渉は、ネゴランド国に所在するAI医療技術企業レッド社と、アービトリア国の名門私立大学ブルー大学との間で行われるものである。ラウンドBとの関係では、問題文の1段落から7段落は適用されるが、問題文の8段落以降は適用されないものとする。
24. レッド社は、自社の中核製品であるAI医療支援ツール「RedAid」の精度をさらに高め、特に希少疾患や高齢者、複数の合併症を抱える患者にも対応できるよう改良したいと考えていた。しかし、そのために必要な大規模で多様な臨床データが不足していた。そこで、国際的に著名で豊富な臨床データを有するブルー大学との連携に強い関心を持つに至った。一方、ブルー大学は、国際的な存在感を一層高めるため、高い技術力を持つ企業と共同研究契約を結びたいと考えていた。学術的成果の発表や研究資金の確保に加え、臨床現場での診療の高度化にもつなげたいとの思いから、AI医療技術に強みを持つレッド社との提携に魅力を感じた。
25. 両者の担当者が議論した結果、以下の2つのテーマで連携の可能性があるのではないかということになっている。両者は2025年春、日本での国際シンポジウムの場で面談し、以下の2のテーマを中心に協議を進めることとなった。
1.共同研究契約
- ① RedAidの改良を目的とした共同研究の枠組み
- ② 知的財産権の帰属や研究成果の公表方法
- ③ データ提供の範囲やコスト負担
2.遠隔医療プラットフォーム「RedLink」の導入
- ① レッド社が進める新規事業としての提案
- ② 地域医療連携や国際ネットワーク形成のメリット
- ③ 患者データの国外移転やクラウド利用の規制、医師の負担や責任の所在といったリスク管理
26. これらのテーマについて、両者の担当者が集まって議論した際の議事録は別添30のとおりである。11月16日には、この際の議論も踏まえ、3つのテーマについて交渉することとなっている。レッド社からは、副社長、最高技術責任者、法務部長等が、ブルー大学からは副理事長、臨床統治部長、法務部長等が交渉に参加することを予定している。
別添６ ブルー大学の発表の要旨
題目
臨床AI導入におけるデータガバナンスと医療統治の課題 - 救急・循環器・呼吸器領域での実践的検討
概要
近年、臨床現場では救急外来におけるトリアージの効率化、循環器領域における重症例の見逃し防止、呼吸器疾患における再入院率抑制といった具体的課題が顕在化している。本発表では、これらの課題に対してAI診断支援技術を導入する際の統治上・倫理上の要件を検討した。
ブルー大学は、AI活用にあたり「Human-in-the-Loop (HITL)」を原則とし、最終的な診療判断は必ず医師が担うべきことを強調する。また、臨床利用に進む前に倫理審査委員会(IRB/IEC)の承認を得る必要があるとし、透明性確保の観点からモデルカードおよびリスク管理計画(RMP)の開示を不可欠と位置づける。さらに、患者データの管理については匿名化、国内保管、利用目的の限定を基本とし、外部機関による監査体制を整備することの重要性を指摘する。
本発表は、技術革新の恩恵を取り入れつつも、安全性・信頼性・説明責任を重視するブルー大学の基本姿勢を示すものであり、臨床AIの持続的活用に向けた制度設計とガバナンスの在り方について議論を深めるものである。
別添８ RedAid概念実証試験(PoC)結果報告書
作成日: 2024年3月31日
作成者: ブルー大学データガバナンス委員会・レッド社技術部
1. 背景
ブルー大学とレッド社は、2023年秋の臨床AIシンポジウムにおける議論を踏まえ、AI診断支援ツール「RedAid」の有効性と安全性を検証するため、2024年1月〜3月の3か月間にわたりPoCを実施した。本試験は、救急外来・循環器科・呼吸器科を対象に行われた。
2. 試験体制
- 主導機関: ブルー大学(臨床現場)
- 協力機関: レッド社(技術支援・教育・運用モニタリング)
- 対象診療科: 救急外来、循環器科、呼吸器科
- 対象患者数: 計1,200例
3. 検証項目と方法
(1) 性能面
- アラート応答時間の測定(秒単位)
- 感度・特異度の統計評価
- 偽陰性・偽陽性率の分析
(2) 運用面
- Human-in-the-Loop (HITL)原則の遵守状況
- 医師・看護師に対する教育と定着度合い
- 操作ログ・AI出力の保存・監査可能性
(3) 安全・ガバナンス面
- 個人情報の匿名化・国内保管の確認
- フェデレーテッドラーニングの実装試験
- モデルカードおよびリスクマネジメント計画(RMP)の活用度
4. 結果
救急外来
- 平均アラート応答時間: 2.3秒 → 1.4秒に短縮
- 重症例の見逃し率が統計的に有意に低下
循環器領域
- 感度: 85% → 91%
- 上級医へのエスカレーション率が改善
呼吸器領域
運用面
- HITL原則が遵守され、AI単独で判断が行われたケースは確認されず
- 医師・看護師の教育受講率は95%以上
- ログは全件保存され、監査可能な状態が維持された
安全・ガバナンス
- 個票データの国外移転は発生せず、匿名化処理が確認された
- フェデレーテッドラーニングによる学習更新が成功
- モデルカードとRMPが臨床現場で参照され、説明責任の基盤として機能
5. 結論
RedAidは、救急外来のトリアージ効率化、循環器領域での見逃し防止、呼吸器疾患における再入院率低減に有効であることが確認された。さらに、Human-in-the-Loop原則やデータガバナンス上の要件を満たし、ブルー大学の臨床現場における安全性・透明性を損なうことなく運用できることが実証された。
本PoCの成果を踏まえ、両者は2024年4月1日付でライセンス契約の締結に進むことを推奨する。
別添９ License Agreement
Red Inc. (hereinafter referred to as "Licensor") and Blue University (hereinafter referred to as "Licensee") hereby agree as follows with respect to the use of the Al diagnostic support tool "RedAid."
Article 1 (Purpose)
The purpose of this Agreement is to set forth the terms and conditions for the use of RedAid, in order to ensure patient safety and improve clinical efficiency.
Article 2 (Grant of License)
The Licensor grants to the Licensee a non-exclusive, non-transferable license to use RedAid within the Licensee's hospital facilities.
Article 3 (Consideration)
The Licensee shall pay the Licensor an annual license fee of USD 600,000.
Article 4 (Training)
The Licensee shall conduct sufficient training for its personnel prior to the commencement of use.
Article 5 (Updates and Notifications)
- (1) The Licensor shall provide software updates on a regular basis.
- (2) The Licensee shall promptly apply such updates to all terminals and notify and train its personnel accordingly.
- (3) The Licensee shall submit written confirmation of the completion of such updates and training.
Article 6 (Safe Operation Obligation)
The Licensee shall operate RedAid in a safe manner at all times and shall immediately apply any emergency patches provided by the Licensor.
Article 7 (Allocation of Responsibility)
RedAid is a diagnostic support tool and does not replace the physician's final judgment. The Licensor shall endeavor to improve the performance of the tool, while the Licensee shall remain responsible for clinical decision-making.
Article 8 (Term and Termination)
This Agreement shall be valid for three (3) years and shall automatically renew unless either Party notifies the other Party of its intention to terminate at least twelve (12) months in advance.
Article 9 (Confidentiality of Technical Information)
- (1) The Licensee shall treat as strictly confidential all technical information disclosed by the Licensor in connection with RedAid, including but not limited to its performance, specifications, architecture, and algorithms.
- (2) The Licensee shall not disclose, publish, or provide such information, whether directly or indirectly, to any third party without the prior written consent of the Licensor, except where disclosure is strictly required by law or a competent regulatory authority.
Article 10 (Restriction on Anonymized and Synthetic Data)
- (1) Unless and until the Licensee gives its prior written consent, the Licensor shall not generate, retain, or utilize anonymized data or synthetic data derived from the Licensee's patient information or related medical records.
- (2) The Licensor's rights to retain information shall be limited to:
- (i) system log data (e.g., access history, error logs, system availability); and
- (ii) aggregated metadata (e.g., usage volume, response times, performance statistics), provided that such data does not identify or enable the re-identification of any individual patient.
- (3) For the avoidance of doubt, any general rights of the Licensor to anonymized or synthetic data described in RedAid's product documentation shall not apply under this Agreement unless explicitly approved in writing by the Licensee.
Article 11 (Governing Law and Arbitration)
This Agreement shall be governed by UNIDROIT Principles for International Commercial Contracts 2016. Any disputes arising out of or in connection with this Agreement shall be finally settled by arbitration under the UNCITRAL Arbitration Rules. The seat of arbitration shall be Japan. The arbitral tribunal may seek expert opinions on purely technical matters.
Date: April 1, 2024
Red Corporation:
By: (Signature)
Name: Hiromi Red
Title: President
Blue University:
By: (Signature)
Name: Lin Blue
Title: Chancelor
別添10
モデルカード抜粋 (RedAid v3.2.1)
製品名: RedAid-臨床支援版 (ツーリズム非対応)
バージョン: v3.2.1 (2024年4月提供)
開発者: Red Inc.
目的
- 救急外来におけるトリアージ効率化
- 循環器領域における重大疾患の見逃し防止
- 呼吸器疾患患者の再入院リスク予測
想定利用者・利用環境
- 救急医、循環器・呼吸器内科医
- 病院勤務の臨床看護師(トリアージ補助)
- 環境: 病院内オンプレミスサーバー/国内クラウド、電子カルテ連携端末
学習データの概要
- アービトリア国内で収集された臨床画像(CT・X線)および電子カルテ由来の構造化データ
- ネゴランド国内パートナー病院との共同研究による匿名化症例データ(契約上国内に保管、国外移転なし)
性能
- 救急トリアージ感度: 90%(従来平均82%)
- 循環器領域鑑別診断精度: AUC 0.87
- 呼吸器領域再入院予測精度: 70%(従来65%)
限界・失敗モード
- 画像データの欠損や低解像度の場合、誤検知率上昇
- 高齢患者・多疾患併存症例で予測性能が低下する傾向
- AI出力を最終診断に用いることは禁止、必ず医師が確認する必要あり
リスクマネジメント計画(RMP)抜粋 (2024年4月版)
対象製品: RedAid v3.2.1
適用法令: アービトリア国医療機器法、個人情報保護法、保健当局ガイダンス
リスク特定
- 1. アップデート未適用リスク
臨床現場で旧版が残置された場合、誤診のリスク増大。
- 2. 過度依存リスク
医師がAI出力を最終判断と誤解する可能性。
- 3. データ保護リスク
個票データは国外移転禁止。国外クラウド利用なし。
リスク低減策
- アップデート管理: 定期配信+切替完了報告を必須化。
- 教育: Human-in-the-Loop原則を医師・看護師教育で徹底。
- データ保護: 全ての個票データをアービトリア国内サーバーで保存・処理。国外移転は契約上禁止。
モニタリング・レビュー
- 年1回の外部専門家レビュー。
- 臨床事故報告が発生した場合は直ちにリスク評価を再実施。
別添11
件名: RedAid v3.3.0 重大アップデートの適用について (至急対応要請)
発信者: Red Inc. (レッド社)
宛先: ブルー大学 医療情報システム部門/臨床統治部門
平素より RedAidのご利用に際し、格別のご協力を賜り厚く御礼申し上げます。
このたび、当社は RedAid v3.3.0 を正式リリースいたしました。本アップデートは、循環器・呼吸器領域における重大疾患の検知性能向上を目的としており、旧版 (v3.2.1) には残存していた誤検知リスク (特に偽陰性率の高さ)を是正する重要な改修を含んでおります。
【主な改修内容】
- 1. 循環器モジュールの識別閾値調整
○心筋梗塞・不整脈の検知における偽陰性率を約20%低減。
- 2. 呼吸器モジュールのアルゴリズム最適化
○肺炎・肺塞栓症に関する早期警告の精度を強化。
- 3. システム安定性の改善
○大規模アクセス時のセッション管理強化。
○ログ保存と監査機能を拡張。
【適用義務】
- ライセンス契約第5条に基づき、本アップデートは全端末に速やかに適用いただく必要があります。
- 適用期限: 2024年4月25日まで
- 切替完了後10日以内に、切替完了報告書を当社にご提出ください。
【未適用の場合のリスク】
旧版 (v3.2.1) を継続利用した場合、臨床現場における診断支援の信頼性が低下し、患者安全に影響を与える恐れがあります。これにより、契約上の安全運用義務違反に問われる可能性もありますので、必ず期限内にアップデートを完了させてください。
本アップデートに関する詳細な技術文書および教育用資料は、専用ポータルにてダウンロード可能です。必要に応じ、当社技術スタッフによる遠隔サポートも承ります。
何卒、期限内の確実な適用をお願い申し上げます。
別添13 ブルー大学内部調査報告書(案) - 患者X死亡事案
作成日: 2024年7月2日
作成者: ブルー大学 院内事故調査委員会
事案の概要
患者X(62歳男性)は2024年4月16日、胸痛と呼吸困難を訴えて救急外来を受診した。救急外来端末に旧版 RedAid (v3.2.1) が残置されていたため、担当医はその出力を参照し「低リスク」と判断した。入院観察は実施されず、患者は翌日に自宅で急変し、再来院後に死亡した。
調査経過
- 端末状況: 救急外来の端末 ID3421 はアップデート未適用で、v3.2.1が稼働していた。自動更新はオフであり、更新状況を一元管理する仕組みも不十分だった。
- AI出力の影響: 旧版 RedAid の出力は「低リスク」との評価を示し、追加検査(CTなど)を回避する判断に直結した。
- 通知の問題: レッド社からアップデート通知はあったものの、切替手順や確認方法が十分に具体化されていなかった。
委員会の所見
本件の直接的な要因は、旧版利用による誤判定である。しかしながら、旧版を使用したからといって死亡事故に至るような不備が生じること自体、AI診断支援システムとして許容できない。
すなわち、RedAidには何らかの構造的欠陥が存在する可能性を否定できない。システムが更新状態に依存して安全性を著しく損なう設計は、根本的に問題があると考えられる。
さらに、アルゴリズム自体に根本的な欠陥があったか否かについては、本委員会の調査だけでは判断できない。
暫定結論
- 本事案は、運用不備と教育不足に加え、RedAid の設計そのものに潜在的な構造的欠陥があった可能性が高い。
- 今後の結論確定には、外部専門家による独立した再調査を行い、アルゴリズムの根幹に欠陥が存在するか否かを検証する必要がある。
- 本件に関する最終的な責任の所在は、当該外部調査の結果を踏まえて再度検討すべきである。
別添16 外部専門家レポート
日付: 2024年8月31日
作成者: 医療AI評価センター (独立第三者機関)
対象: RedAid 診断支援ツール (旧版v3.2.1 および最新版v3.3.0)
1. 検証目的
本検証は、救急症例Xに関連して旧版 RedAid (v3.2.1) に重大な欠陥が存在したか否かを明らかにし、最新版 (v3.3.0) における改善状況を評価することを目的とした。
2. 検証方法
- 過去症例データ (ブルー大学提供)を用いた再現実験
- アルゴリズムの識別閾値設定と誤判定率の比較
- バージョン間 (v3.2.1 と v3.3.0) の性能評価試験
- 外部臨床専門家(循環器・救急医学)のレビュー
3. 検証結果
(1) 旧版v3.2.1 について
- 循環器疾患におけるリスク評価の閾値が不十分に設定されており、一部の症例で「低リスク」と誤判定する傾向が確認された。
- 本件事故(救急症例X) と同様のケースでは、入院観察を推奨しない誤出力が再現され、死亡事故に直結し得る欠陥が存在したと判断される。
(2) 最新版v3.3.0 について
- 閾値設定が見直され、誤判定率が有意に低下。
- 再現実験において同様の症例で「入院観察推奨」と判定され、欠陥は解消されていることが確認された。
(3) 構造的欠陥の有無
- アルゴリズム全体の設計において、致命的な構造的欠陥は認められなかった。
- 旧版における不備は閾値設定に関する限定的な問題であり、アップデートにより改善済みである。
4. 結論
- 旧版v3.2.1 には欠陥が存在し、臨床判断を誤らせる可能性があった。
- 最新版v3.3.0において当該欠陥は解消されている。
- アルゴリズムの根本的な構造自体に致命的な問題は認められなかった。
- 再発防止のため、今後もアップデートの適用状況確認およびユーザー教育を徹底することが望まれる。
別添17
日付: 2024年9月10日
宛先: ブルー大学
差出人: レッド社
件名: RedAid について
当社は、2024年4月1日付で締結された 「RedAid ライセンス契約」(以下「本契約」といいます)に基づき、AI診断支援ツール 「RedAid」 を貴大学に提供してまいりました。
本契約第9条第1項および第2項には、RedAidの性能、仕様、アルゴリズム等に関する情報を秘密として取り扱い、当社の事前承諾なく第三者に提供・開示・漏洩してはならない旨が明記されています。
ところが、2024年7月2日に作成された貴大学内部の事故調査報告書草稿が外部に流出し、その中に 「RedAidのアルゴリズムに根本的欠陥がある可能性がある」との記載が含まれていました。この記載は事実に反するものであり、外部に漏洩した結果、SNSや業界誌を通じて広く拡散され、当社の信用は重大に毀損しました。
これにより、当社は複数の病院・研究機関との契約交渉を失い、逸失利益を含む多大な損害を被りました。具体的には以下のとおりです。
- 契約中止・延期による逸失利益: USD 2,400,000
- 信用毀損による新規契約機会の喪失推計: USD 1,800,000
- 広報・危機対応等の追加費用: USD 200,000
合計損害額: USD 4,400,000
以上を踏まえ、当社は貴大学に対し、上記金額の損害賠償を請求いたします。本書受領後30日以内に当社指定口座へお支払いください。
誠意ある対応がなされない場合には、当社は契約に基づき然るべき法的措置を講じる所存です。
別添18
日付: 2024年9月20日
宛先: レッド社
差出人: ブルー大学
件名: RedAid について
当大学は、2024年9月10日付の貴社請求書を受領しましたが、その請求を受け入れることはできません。理由は以下のとおりです。
秘密保持義務違反は成立しない
内部調査報告書案は、RedAidのアルゴリズムや仕様を直接開示するものではなく、あくまで院内の暫定的な検討資料です。ライセンス契約第9条に定める「秘密情報」の漏洩には該当しません。
流出の性質
報告書案の外部流出は当大学の故意によるものではなく、不測の事態によるものでした。本契約の禁止は「無断で第三者に開示する行為」を対象とするものであり、本件を契約違反とみなすことはできません。
患者補償の実施
4月16日から17日にかけての症例では、著名な企業経営者であり、年収300万米ドルの患者が死亡しました。社会的影響の大きさを踏まえ、当大学は遺族に対して慰謝料200万米ドルを支払い済みです。この支出は、RedAid 旧版に残存していた欠陥の影響を踏まえたものです。
*注: 慰謝料200万米ドルが実際に遺族に対して支払われたことについては領収書等によって証明されており、当事者間に争いがない。
RedAid 利用停止に伴う返還請求
事故後、当大学は外部専門家の検証結果が出るまでの間、RedAidの利用を停止せざるを得ませんでした。これにより、4月18日から9月18日までの5月間にわたり、当大学は対価に見合うサービスを受けていません。利用料は1年分をまとめて既にお支払いしていますが、当該期間に対応する利用料については返還されるべきです。外部専門家のレポートにより最新版での欠陥解消が確認され、その後利用を再開しております。
以上より、当大学は貴社の請求を否認するとともに、(i) 当大学が支払った患者遺族への慰謝料200万米ドルの負担についての補填、(ii)利用停止期間に相当する既払いの利用料5か月分である25万米ドルの返還を貴社に対し求めるものです。
別添19 協議記録
日時: 2025年3月15日
場所: ブルー大学 本部会議室 (オンライン接続あり)
出席者
- 【ブルー大学】 IT部門長, 臨床統治部代表, 法務部副部長
- 【レッド社】 最高技術責任者(CTO), システム設計責任者
議事内容
ブルー大学 IT部門長:
「まず、こちらの要件を改めて整理します。我々は国際医療ツーリズムのために、少なくとも10言語に対応し、CTやMRIといった高精細画像をリアルタイムで処理できることを求めています。また、ピーク時には同時に500人以上の患者がアクセスすることも想定しています。なお、貴社のシステムを用いた医療ツーリズムの抜本的なレベルアップは、2025年7月の開始を予定しています。」
レッド社 CTO:
「ありがとうございます。要件は理解しました。ただ、正直に申し上げると、アービトリア国内の既存クラウドやオンプレミス設備だけでは、リアルタイム処理に耐えられない可能性があります。特に画像解析については遅延が数分単位に及ぶリスクが高いです。」
ブルー大学 臨床統治部代表:
「数分単位の遅延は臨床現場では致命的です。患者への説明責任を果たせなくなります。御社として解決策はあるのでしょうか?」
レッド社 システム設計責任者:
「はい。当社がネゴランド国内で契約している高性能クラウドを部分的に利用すれば、処理速度の問題は解決できます。ただし、これは患者データの一部が国外に保存されることを意味します。契約条項でデータ保護をどう扱うかが重要になります。」
ブルー大学 法務部副部長:
「ご存じのとおり、アービトリア国の個人情報保護法は国外移転を原則禁止しています。過去に大手病院が国外クラウドを利用して行政処分を受けた前例もあります。契約書には、越境移転を禁止する明文規定を入れる必要があるでしょう。」
レッド社 CTO:
「理解しています。ただし、性能を確保するためには国外クラウドの利用が事実上不可欠です。その場合、契約条項と実際の運用に矛盾が生じるのではないでしょうか。」
ブルー大学 IT部門長:
「確かに条項上は厳格に書かざるを得ません。ただし、アービトリア法にも例外はあります。医療の質の向上や国際共同研究のためであれば、当局が一定の運用を認めるケースもあると理解しています。現場が回らなくなるようでは本末転倒です。」
ブルー大学 法務部副部長:
「ただし、それはあくまで“例外”です。最終的に監督当局がどう判断するかは保証できません。我々は大学としてリスクを負う立場にありますから、契約上は移転禁止を明記し、必要があれば後で協議する余地を残すのが妥当だと思います。」
レッド社 CTO:
「承知しました。契約条項としては“越境移転禁止”と明記する一方で、運用面では例外があり得るという大学側の理解を前提に設計を検討することにいたします。」
ブルー大学 臨床統治部代表:
「臨床の観点からは、処理速度と正確性を確保することが最優先です。そのうえで法務・ITが調整するのであれば、私は賛同します。」
「医療ツーリズムは、患者の信頼と大学のブランドに直結します。一度でもシステム停止があれば、国際的な信用を失います。そのため、少なくとも3年間は安定的にサービスを継続していただく必要があります。途中で停止することは絶対に避けたいのです。」
レッド社 CTO:
「その点については理解しています。当社としても長期的な協力を前提としていますので、3年間は必ず提供を継続することを約束いたします。その後の更新については、双方で協議して合意する形でよろしいでしょうか。」
ブルー大学 IT部門長:
「はい、それで結構です。契約書には3年間の継続提供を明記し、その後の更新については協議条項を設けるようにしましょう。」
追加確認事項
実際に、ブルー大学が求めた仕様は非常に高い水準であった。
- ① 患者の母国語による多言語インターフェイス (少なくとも10言語対応)
- ② CT・MRIなど高解像度画像を用いたリアルタイム処理
- ③ 一度に数百人単位でアクセスが集中しても遅延が発生しない同時接続処理能力
これらをすべて満たすためには、アービトリア国内のオンプレミス設備や国内クラウドのみでは限界があり、処理能力が追いつかず応答時間が数分単位に膨らむ可能性が高いことが指摘された。
レッド社は、このように高いスペックを満たすには国外クラウドの利用という「例外」が不可欠であると強く主張した。
結論
- 契約書には「患者データの国外移転禁止」を明記する。
- レッド社は性能要件を満たすために国外クラウド利用の必要性を強調。
- ブルー大学IT部門長は「例外的に認められる可能性」に言及。
- 双方は「契約上は禁止、運用面では調整余地あり」という理解を共有した。
別添20 Medical Tourism Services Addendum
Addendum to RedAid License Agreement
This Addendum ("Addendum") forms an integral part of the RedAid License Agreement dated April 1, 2024 (the "Main Agreement") between Red Corporation ("Provider") and Blue University ("Licensee"). This Addendum shall be interpreted in accordance with the provisions of the Main Agreement.
Article 1 (Purpose and Scope)
- 1. This Addendum applies to the use of RedAid in connection with medical tourism services.
- 2. Medical tourism services covered by this Addendum include:
- (i) Pre-travel symptom input and risk assessment;
- (ii) Provision of second opinions;
- (iii) Post-operative remote follow-up;
- (iv) Multilingual support for international patients.
Article 2 (Revenue Sharing)
- 1. Licensee shall collect package fees and other revenues from medical tourism patients.
- 2. Such revenues shall be shared as follows: 70% to Licensee, 30% to Provider.
- 3. Revenue sharing shall be based on verifiable reports subject to audit, as mutually agreed by the Parties.
Article 3 (Additional Obligations)
- 1. Provider shall:
- (i) Ensure multilingual functionality in at least ten (10) languages;
- (ii) Establish a dedicated support line for international patients;
- (iii) Maintain modules for pre-travel assessment and post-operative follow-up.
- 2. Licensee shall:
- (i) Obtain explicit informed consent from international patients regarding the use of AI diagnostic support;
- (ii) Ensure that all clinical judgments and treatment decisions remain the responsibility of qualified medical professionals.
Article 4 (Data Management)
- 1. Patient Data relating to patients shall be stored and processed exclusively within Arbitoria, in accordance with Article 5 of the Main Agreement.
- 2. Provider may use anonymized and aggregated data for product improvement, subject to Licensee's oversight.
- 3. Licensee shall supervise such use to ensure compliance with applicable laws and ethical standards.
Article 5 (Additional Fees and Remuneration)
- 1. In consideration of the services under this Addendum, Licensee shall pay Provider an additional annual fee of USD 600,000.
- 2. In the event that urgent technical measures are required to ensure the quality of the service and/or to comply with relevant laws and regulations, the Parties shall negotiate in good faith regarding the allocation of associated costs.
Article 6 (Adjustment of License Fees in Case of Cost Increases)
- 1. If the Provider incurs a substantial and reasonable increase in costs directly attributable to:
- (i) compliance with changes in applicable laws or regulations;
- (ii) technical requirements expressly requested by the Licensee; or
- (iii) unforeseeable technical measures necessary to ensure the continued provision of the RedAid system,
the Provider may request a reasonable increase of the license fee. Upon such request, the Parties shall in good faith negotiate and agree on the adjusted license fee.
- 2. The Provider shall submit documentation evidencing the relevant cost increase, and the Parties shall endeavor to reach an agreement within thirty (30) days from the date of such submission.
Article 7 (Risk Allocation)
- 1. Licensee shall bear responsibility for any medical errors or malpractice.
- 2. Provider shall be responsible for damages caused by system failures, security breaches, or other technical defects attributable to RedAid, subject to the liability cap in Article 11 of the Main Agreement.
- 3. In the event of reputational damage relating to international patients, the Parties shall coordinate and issue joint public communications.
Article 8 (Minimum Term of Service for Medical Tourism Program)
- 1. The Provider shall ensure the continuous and stable provision of RedAid services for medical tourism purposes for a fixed term of three (3) years commencing from the Effective Date of this Special Agreement.
- 2. During this three-year period, the Provider shall not suspend or terminate the provision of services except in cases of force majeure or material breach by the Licensee.
- 3. Upon the expiration of the three-year period, the Parties shall, in good faith, enter into negotiations to renew or extend the Agreement under mutually agreed terms.
Article 9 (Termination)
- 1. This Addendum shall enter into force on the same date as the Main Agreement and remain in effect for the duration thereof.
- 2. Either Party may terminate this Addendum independently, upon six (6) months' prior written notice, without prejudice to the validity of the Main Agreement.
- 3. Termination of this Addendum shall not affect the continuation of the Main Agreement.
Article 10 (Miscellaneous)
- 1. Matters not specifically provided for in this Addendum shall be governed by the Main Agreement.
- 2. In case of inconsistency between this Addendum and the Main Agreement, the provisions of this Addendum shall prevail.
Article 11 (Governing Law and Arbitration)
This Agreement shall be governed by UNIDROIT Principles for International Commercial Contracts 2016. Any disputes arising out of or in connection with this Agreement shall be finally settled by arbitration under the UNCITRAL Arbitration Rules. The seat of arbitration shall be Japan. The arbitral tribunal may seek expert opinions on purely technical matters.
IN WITNESS WHEREOF, the Parties have caused this Addendum to be executed by their duly authorized representatives.
February 1, 2025
Red Corporation (Provider)
By: (Signature)
Title: Chief Technology Officer
Blue University (Licensee)
By: (Signature)
Title: Chancelor
別添21 メールでのやり取り
日付: 2025年3月8日
件名: RedAid性能要件と国外クラウド利用について
発信者: レッド社 CTO
宛先: ブルー大学IT部門長
本日は、RedAidの医療ツーリズム用拡張に関する性能要件について、重要なご確認をお願いしたくご連絡いたしました。
先日の技術打合せでも触れましたが、貴大学が求められる水準、すなわち:
- 10言語以上の多言語インターフェイス
- CT・MRI等の高精細画像のリアルタイム処理
- 同時500人規模のアクセスにも遅延が発生しない処理能力
を全て満たすには、アービトリア国内の既存オンプレミス設備や国内クラウドのみでは、処理能力が限界に達する可能性が高いと考えております。特に、高精細画像のリアルタイム処理、国際患者による母国語問診テキストの解析、同時接続に必要なセッション管理データ処理については、ネゴランド国内の高性能クラウドを部分的に利用しなければ、臨床現場が要求する水準を保証できない恐れがあります。
もちろん、患者の診療録本体や氏名・住所等の識別情報、遺伝情報などは国外移転の対象外であり、これらは全てアービトリア国内で保持されます。国外クラウドに移転されるのは処理性能確保のために限定的に必要なデータに限られます。
つきましては、以下についてご見解を伺いたく存じます。
- キャンペーンの成功に向け、性能要件を最優先にすべきか、それとも契約文言を厳格に解釈すべきか。
- 当大学として、監督当局との調整を視野に入れた「例外的運用」の可能性を容認されるのか。
当社としては、契約を遵守しつつも、大学側のご要望に沿って安定的なサービスを提供するために、大学の公式なご意向を確認したいと考えております。
お手数をおかけしますが、至急ご回答いただければ幸いです。
日付: 2025年3月10日
件名: Re: RedAid 運用に関するご確認(国外移転禁止条項と性能要件の両立について)
発信者: ブルー大学 IT部門長
宛先: レッド社 CTO
メール有難うございました。
当大学としても、2025年7月開始予定の国際医療ツーリズム・キャンペーンにおいて、RedAid が要求される性能要件—————多言語対応、高精細画像のリアルタイム処理、500件以上の同時接続――を実現することは、極めて重要であると考えています。性能が不足すれば、キャンペーンの円滑な実施に深刻な影響が出るのは確かです。
国外移転禁止の条項については、法的リスクを十分認識しています。そのため、先日、当局の担当部署に非公式にサウンディングを行いました。その結果、『医療の質の向上を目的とするのであれば例外規定にあたる可能性は高い。ただし、正式な判断を得るには書面での照会が必要」との回答を得ました。
このため、直ちに全面的に国外クラウドを利用してよいとまでは断言できませんが、例外適用の余地はあると見込まれます。当大学としても、正式な照会手続きを進める方向で検討を開始しています。
併せて、貴社においても技術的・法的な側面から追加的に確認を行っていただき、双方で情報を共有しつつ最適な対応を模索することが望ましいと考えます。まずは並行して準備を進め、キャンペーンのタイミングに間に合うよう調整していきたいと思います。
日付: 2025年3月11日
件名: Re: RedAid 運用に関するご確認 (国外移転禁止条項と性能要件の両立について)
発信者: レッド社 CTO
宛先: ブルー大学IT部門長
ご回答いただき、ありがとうございました。
国外移転禁止条項と性能要件の両立について、当大学が当局にサウンディングを行い、『例外に該当する可能性が高い』との回答を得られたとのこと、理解いたしました。
当社においても、社内のAIリーガルアシスタントを用いて確認を行いましたが、『医療の質の向上を目的とする国外クラウド利用は、少なくともネゴランド国法上は全く問題なく、アービトリア法上も例外として解釈され得る』との見解が得られています。
時間的制約も大きいため、当社としては今回のキャンペーンに限り、例外的に国外移転が認められるという理解で準備を進める方針です。もっとも、法的リスクを完全に排除できないことは承知していますので、もし監督当局とのやり取りの中で『この運用は認められない』という判断が下される可能性があると判明した場合には、速やかにご連絡いただきたく存じます。
この点については、今後も両者で緊密に情報を共有しながら調整を進める所存です。
よろしくお願いいたします。
別添22 ブルー大学監査部 内部監査報告書(抜粋)
日付: 2025年8月15日
作成者: ブルー大学監査部
対象: 医療ツーリズム用 RedAid システム運用状況
監査の目的
RedAidシステムにおける患者データ処理の状況を確認し、契約およびアービトリア国の個人情報保護法に適合しているかを検証する。
監査結果(主要所見)
1. 国外クラウド利用の確認
RedAidの運用において、一部のデータがネゴランド国内のクラウドサーバーに保存・処理されていたことを確認した。
2. 国外移転されていたデータの種類
国外クラウドに移転されていたのは以下の情報である:
- CT・MRI等の高精細画像データ (リアルタイム解析用)
- 国際患者が母国語で入力した問診テキスト(多言語翻訳・解析用)
- 同時接続時に必要なセッション管理情報 (500名規模アクセス負荷対応用)
これらは処理性能確保のために限定的に利用されていたが、契約上は「国外移転禁止」と明記されており、適合性に重大な疑義が生じる。
3. 国外移転されていなかった情報
一方で、以下の情報は国外移転されていないことを確認した:
- 患者の診療録本体(電子カルテ記録)
- 氏名・住所等の直接識別情報
- 遺伝情報
4. 契約・法令遵守に関する評価
国外クラウド利用は、契約条項 (国外移転禁止)との整合性を欠く可能性が高く、アービトリア国の個人情報保護法にも抵触するリスクがある。当局による制裁・罰金の可能性は否定できない。
結論
RedAidシステムは、性能要件を満たすために国外クラウドを利用していたが、その結果として一部のデータが国外移転されていた。契約上の禁止規定および国内法令との整合性に関し、重大なリスクが存在する。本件については至急是正措置を講じるとともに、必要に応じて監督当局への自己申告を検討すべきである。
別添26
日付: 2025年9月5日
発信者: ブルー大学法務部長
宛先: レッド社 CTO
件名: 追加費用負担および国外移転に関する再反論
追加費用について
貴社が提示した300万米ドルから500万米ドルの追加費用について、当大学としてはこれを負担する義務は一切存在しません。契約上、RedAidの提供は貴社の義務であり、国外移転を伴わずにサービスを継続することは当然の前提です。従って、当大学が追加費用を負担することはできません。
法律事務所の意見について
当大学は、アービトリア国で最も定評ある法律事務所に本件を相談しました。その結果、国外移転は同国の個人情報保護法において重大な違反に該当し得るものであり、監督当局による行政処分や巨額の罰金の対象となり得るとの意見を得ています。また、自主的に国外利用を停止し、速やかに是正措置を講じれば、リスクは大幅に軽減できるとの助言も受けています。法律事務所の意見は添付しました。
法律事務所の意見に従い、当大学は、9月7日付で個人情報保護委員会に今回の事態を自主申告する予定です。
当大学の要求
従って、当大学は貴社に対し、国外クラウドの利用を直ちに停止し、すべての患者データをアービトリア国内に移転・保管することを強く要求します。
損害賠償の予告
もし貴社が国外利用を停止せず、これにより当大学が行政処分や患者対応に伴う損害を被った場合、当大学は契約および適用法令に基づき、貴社に対しその損害の賠償を請求する所存です。
(添付文書) 法律意見書
依頼者: ブルー大学
依頼内容: 国外移転禁止条項違反の疑いに関するリスク評価
作成者: Lex & Partners 法律事務所 (アービトリア国)
日付: 2025年9月4日
1. 事実認識
- (1) ブルー大学は、ネゴランド国 Red Inc.のAI医療支援システム「RedAid」を導入し、医療ツーリズムを含む国際的患者対応に活用している。
- (2) 契約上、「患者データの国外移転は禁止される」と明記されているが、性能要件(多言語対応、高精細画像のリアルタイム処理、同時接続500件以上)を満たすため、レッド社がネゴランド国内クラウドを部分的に利用していたことが判明した。
- (3) 当該国外移転は2025年8月15日の大学監査部による内部監査で確認され、ブルー大学上層部に報告された。
- (4) 現在、国外移転が監督当局に正式に報告されるか否かが重大な判断事項となっている。
2. 法的評価
- (1) アービトリア個人情報保護法制
アービトリア国法は医療情報の国外移転を原則禁止し、違反した場合には「総収入の最大4%」の制裁金を科すことができると規定する(同法第45条)。過去の事例では、大手病院が国外クラウドを利用した結果、売上高の約3%に相当する制裁金とデータ移転停止命令を受けている。
- (2) 自主申告の効果
当局の指針(2023年「データ保護執行に関するガイドライン」)によれば、事業者が違反を自己申告し、速やかに是正措置を講じた場合には、制裁を軽減する考慮要素とされる。
- 隠ぺい → 最大制裁の適用可能性
- 自主申告→ 厳重注意や制裁金の大幅減額の可能性
- (3) 契約上の評価
国外移転は契約上も「禁止」されているため、違反事実が認定されればレッド社の契約違反を追及可能。ただし、大学が例外適用の可能性を示唆した経緯があるため、相手方は「合理的期待に基づく運用であった」と抗弁する可能性が高い。
3. リスク試算
当事務所の試算によれば、以下のとおりである。
- (1) 制裁金
- 隠して発覚した場合: 年間収入6億米ドルの2~4%→1,200万~2,400万米ドル
- 自主申告+是正した場合: 0.5~1%→300万~600万米ドル
- (2) 民事訴訟(患者)
- 隠して発覚: 集団訴訟リスク→約1,000万米ドル
- 自主申告: 慰謝料水準低下→約200万米ドル
- (3) 契約上の請求 (レッド社との関係)
- 隠して発覚: 逸失利益+対応費用→600万米ドル以上
- 自主申告: 対応費用中心→100~200万米ドル
- (4) 総合比較
| シナリオ | 制裁金 | 民事訴訟 | 契約上 | 合計リスク額 |
|---|
| 隠して発覚 | 1,200万~2,400万 | 約1,000万 | 約600万 | 2,800万~4,000万米ドル |
| 自主申告 | 300万~600万 | 約200万 | 約100~200万 | 600万~1,000万米ドル |
4. 結論
- 1. 国外移転を直ちに停止し、速やかに当局へ自己申告を行うことが、最もリスクを低減する措置である。
- 2. 自主申告を行えば、制裁金は最大で75%以上軽減される可能性があり、民事訴訟や契約責任においても「誠実対応」として評価され、賠償額が大幅に縮小する。
- 3. 一方、隠して発覚した場合、最大で4,000万米ドル規模の制裁・損害を負うリスクがある。
- 4. よって、ブルー大学は直ちに国外移転を停止し、個人情報保護委員会へ自主的に報告することを強く推奨する。
別添27
日付: 2025年9月12日
宛先: レッド社代表取締役社長殿
発信者: ブルー大学学長
拝啓
当大学は、2025年9月7日付でアービトリア国個人情報保護委員会に本件国外移転について自主申告を行い、2025年9月10日付の回答文書(添付)を受領いたしました。
当該回答により、本件国外移転は個人情報保護法違反と認定され、11月30日までに国外移転を停止するよう命じられております。
つきましては、御社に対し、以下のとおり通知いたします。
- 1. 国外移転の即時停止
直ちにRedAidの利用に伴う患者に関するデータの国外移転を停止し、国内で処理・保管すること。
- 2. サービス提供の継続
契約上、御社はRedAidの提供を3年間継続する義務を負っており、国外移転停止を理由にサービス提供を中断することは認められません。
- 3. 制裁金の賠償
本件により科される制裁金(100万米ドル、または条件不履行の場合は600万米ドル+日額1万米ドル)は、国外移転を実施した御社の責に帰すものであり、御社において全額賠償いただきます。
速やかな履行を求めます。
<添付文書>
日付: 2025年9月10日
宛先: ブルー大学 学長殿
発信者: アービトリア国 個人情報保護委員会(APDPC)
拝啓
2025年9月7日付で貴学より提出された自主申告について、当委員会は精査を行いました。その結果、以下のとおり判断いたします。
1. 法令違反の認定
本件は、アービトリア国個人情報保護法に基づく「個人データの国外移転禁止規定」に違反するものと認定されます。
2. 是正措置命令
2025年11月30日までに国外移転を完全に停止し、データをすべてアービトリア国内に保管するよう命じます。
3. 患者権利保護措置
当該移転により患者の権利侵害が生じないよう万全の措置を講じること。万一権利侵害が認められた場合には、適切かつ迅速に補償を行うこと。
4. 制裁金の額
- 上記の是正措置を遵守する場合、制裁金は100万米ドルとする。
- 2025年12月15日までに国外移転を停止しない場合、制裁金は600万米ドルとし、さらに国外移転が継続している間、1日あたり1万米ドルの追加制裁金を科す。
以上、貴学の迅速な対応を求めます。
別添28
日付: 2025年9月13日
宛先: ブルー大学学長殿
発信者: レッド社代表取締役社長
2025年9月12日付貴学通知を受領いたしました。以下のとおり当社の立場を申し述べます。
国外移転停止について
当社は、アービトリア国当局の指示に従い、国外移転を停止する準備を進めております。もっとも、国外移転を停止する場合には、代替措置(専用GPUサーバーの調達、専用回線の敷設等)により100万米ドル規模の追加費用が発生いたします。この費用を当社が単独で負担する合理的理由はなく、貴学が負担されるべきものと考えます。
制裁金について
本件国外移転は、契約交渉過程において貴学IT部門長をはじめとする関係者から「例外的に認められる可能性がある」との説明を受け、貴学の了解の下で実施したものです。従って、科される制裁金は当社が負担すべきものではなく、当社が貴学に賠償する理由は存在しません。
サービス継続について
契約上の義務を尊重し、RedAidの提供は継続いたします。ただし、追加費用負担の調整がなされない限り、現在提供されている仕様・機能での提供は困難となることをご理解ください。
別添30 第1回事前協議 議事録
- 日時: 2025年10月18日(金) 15:00-17:00(日本時間)
- 場所: オンライン会議 (Zoom)
- 出席者:
- レッド社: 事業開発マネージャー、RedAid/RedLink プロダクトリード、法務カウンセル、データプライバシー担当
- ブルー大学: 国際戦略室マネージャー、医療情報部門責任者、法務室担当、臨床代表(内科教授)
- 記録: 双方同意のうえ、要点を抄録
議題1: 医療やAIに関する認識
レッド社とブルー大学は、以下のような共通の認識を抱いていることを確認した。
AIの医療分野への活用が注目を集めている。診断支援や画像解析、トリアージなどにおいてAIが果たす役割は年々拡大しており、各国の規制当局もその導入を後押しする姿勢を見せている。他方で、説明可能性の欠如やバイアスの存在、予期せぬアウトカムのリスクといった問題は依然として大きく、社会的議論や規制整備は過渡期にある。
ネゴランド国とアービトリア国の法制度や文化には違いがある。ネゴランド国は、サンドボックス制度によって革新的技術を限定的に市場導入し、実証を重ねて段階的に普及させる仕組みを整えている。匿名化データであれば国外移転も比較的容易であり、AIの国際共同研究に有利な環境が整っている。一方、アービトリア国は承認審査に時間をかけ、国外移転はアービトリア国と同様の個人情報保護がなされていると認定された国に限定するなど、厳格な規制を敷いている。AIは臨床判断の補助にとどめられ、単独での診断や治療決定は原則として認められない。両国とも患者の安全と権利を最優先とする点では一致しているが、許容されるリスクの範囲や導入のスピード感には大きな隔たりがある。
倫理的・社会的観点も重要である。AIを利用する際には、患者に対して補助的役割であることを明示し、インフォームド・コンセントを適切に取得する必要がある。差別や偏りを助長しないよう監視体制を敷くこと、異常や不具合が発生した場合には即時に停止して人手で対応できる仕組みを設けることも社会的に強く求められている。また、データセキュリティについては、暗号化やアクセス制御、監査ログ、侵害発生時の通知義務といった最低限の技術的・組織的対策が必須である。
AI導入は医師の負荷軽減につながる可能性がある一方、操作が煩雑であれば逆に負担を増大させるため、UIやUXの質が極めて重要である。また、導入後も継続的なモニタリングを行い、性能劣化やデータ分布の変化を検知し、必要に応じて再学習を行う体制が不可欠であることも共通認識となっている。さらに、成功事例を積み上げることが信頼構築に不可欠であり、逆に重大な失敗があれば社会的信用が失墜するリスクがある。
議題2: 共同研究契約 (RedAidの高度化)
レッド社の主張
レッド社は、希少疾患や高齢者、複数の合併症を抱える症例に対応できるAI医療支援ツールを実現するためには、ブルー大学が保有する高品質な臨床データが不可欠であると強調した。その上で、データ活用の方法としては連合学習を基本とし、学内で生成される合成データの利用や、製品改善に資する範囲での集計メタデータの活用を契約上認めてほしいと要望した。成果の公表については、知的財産の出願と権利化を終えたうえで、双方による事前審査を行い、匿名化した形で発表する運用なら積極的に支援する意向を示した。知財の帰属については、汎用的な機能はレッド社に、ブルー大学特有の運用ノウハウや派生機能は大学に帰属させる案を提示した。契約期間はまず1年間のPoCを行い、その成果を評価したうえで延長や本格契約に進みたいと説明した。
ブルー大学の主張
ブルー大学は、国際共同研究の意義を認めつつも、患者の安全と大学ブランドを守ることを最優先に据えていることを明確にした。データについては、国内リージョンでの保存と大学による暗号鍵の単独管理を原則とし、国外への越境や外部での個票分析は禁止すべきであるとした。合成データの活用については、学内で生成・利用されるものに限れば容認する余地があると述べた。成果の公表については、出願後に共同審査を行い匿名化するというレッド社の提案に前向きな反応を示した。知財に関しては、汎用的な機能はレッド社に帰属することを容認する一方、大学特有の知見や派生機能は大学帰属とし、他者への再利用を行う場合には事前通知と守秘義務を課すべきだと主張した。契約期間は短期PoCから始め、成果を見ながら1年ごとに延長を検討したいという姿勢を取った。
議題3: 遠隔医療プラットフォーム「RedLink」導入
レッド社の主張
レッド社は、RedLinkを外来フォロー、術前・術後の相談、国際患者の事前トリアージ、セカンドオピニオンなど幅広く活用したいと説明した。サービス品質については、SLA99.9%を最終目標とし、導入初期は99.5%から始めて段階的に引き上げる提案を行った。セキュリティ面では、多要素認証や暗号化、年1回の脆弱性検査、監査ログの提供など具体的措置を提示した。他方で、プロダクト改善のために集計メタデータや学内での連合学習・合成データの活用権を契約上確保する必要があると強調した。契約期間については本来は3年の中期契約を希望するが、大学の事情に配慮して1年契約から始めて成果を評価し、その後延長する方式にも応じられると述べた。ただし、便宜解約を認める場合は初期費用を償却する条項を設けるべきだとした。料金は定額制を基本とし、追加モジュールに従量課金を設定することを希望。成果連動についても小幅に導入したいと主張した。さらに、可能であれば特定診療科や対象国での限定的独占を認めてほしいと付け加えた。
ブルー大学の主張
ブルー大学は、遠隔医療が地域医療連携や国際展開に資する点を評価しながらも、規制とリスク管理の重要性を改めて強調した。患者データは国内リージョンに保存し、暗号鍵は大学が単独で管理することを絶対条件とし、国外越境は一切認めないと明言した。メタデータの利用については、利用目的を特定し事前承認を経る範囲であれば限定的に容認できると述べた。契約はまず1年のPoC契約から開始し、成果に応じて更新を判断したいとの意向を示した。便宜解約については6か月前通知を必須とし、データ返却・削除・監査証跡の提出を出口条件として明記することを求めた。責任分担については、臨床判断は大学が負う一方、プラットフォームの欠陥や知財侵害はレッド社が補償すべきとした。責任上限については、年間契約額の1~3倍程度を基準とし、追加で保険加入を求める可能性があると述べた。独占契約については原則として拒否するが、診療科や対象国を限定する場合に限っては検討する余地があるとの見解を示した。
クロージング
- 双方は、いずれのテーマについても、「段階的導入」「成果評価を経た更新」という方向性で一致を見た。
- 一方で、データ利用範囲、成果公表のタイミング、料金体系、責任上限、独占の可否といった主要論点は今後の詳細協議に委ねられた。
- 双方とも「大学ブランド保護」「製品改善・実績確保」を臨界点と認識しており、次回までに具体的な条項案を提示することで合意した。
次回会合
- 日時: 2025年11月16日(日) 12:00-14:00(日本時間)
- 場所: ブルー大学 (対面を予定)
- 議題:
- 1. 共同研究契約の条項草案確認 (データ利用・知財・成果公表)
- 2. RedLink契約条件の詳細 (SLA、解約条件、責任上限)
- 3. その他