責任の所在を決めるのが先のような…。
人工知能（AI）ブームは、AIによる診察内容の要約や患者の状態の分析という形で、すでに医療分野にも浸透し始めています。現時点では、ChatGPTと同様のAIトレーニング技術を使用して、手術ロボットを自律的に操作できるように訓練する方法が取り入れられているようです。
自律型AIロボが手術する日も近い？
ジョンズ・ホプキンス大学とスタンフォード大学の研究者らは、人間の操作するロボットアームが外科手術を行なう様子を録画した映像を使用して、学習モデルを構築しました。｢模倣学習｣と呼ばれるこの手法は、ビデオの動きをまねることで、手術に必要な細かい動作をひとつひとつプログラムする手間を大幅に削減できると研究チームは考えています。
ワシントン・ポスト紙は以下のように伝えています。
ロボットは、針の操作、結び目のつくり方、傷口の縫合を独学で習得しました。さらに、訓練されたロボットは単なる模倣を超えて、落とした針を拾い上げるなど、指示されなくても自分のミスを修正できるようになったそうです。科学者たちはすでに次の段階として、これらの異なるスキルを組み合わせて、動物の死体を使った手術を始めているといいます。
ロボット工学は何年も前から手術室で使用されています。2018年には、オーストラリアのPeter MacCallum Cancer Centreで行なわれた｢ブドウの手術（surgery on a grape）｣がSNSでバズったのですが、このデモンストレーションでロボットアームがどれくらい手術を支援し、精度を高められるかが明らかになりました。これのネタ元は、ダ・ヴィンチ・サージカル・システムが10年くらい前に行なったブドウの手術でした。
また、2020年には、約87万6000件のロボット支援手術が実施されたそうです。
ロボット手術器具は、外科医の手では決して届かない体内の場所にも到達して作業を行なえますし、震えに悩まされるようなこともありません。精密で正確なロボットは、神経を傷つけるリスクを減らします。
とはいえ、ロボット手術は通常、外科医がコントローラーを使って手動で操作します。つまり、主導権は常に外科医が握っているのです。
学習していない事態が生じたら？ ミスが起こったら？
一方で、自律的なロボットに対する懐疑的な声もあります。ChatGPTのようなAIモデルは｢知性｣を持っているわけではなく、以前に見たものを模倣しているだけで、根本的な概念を理解しているわけではないという指摘です。
人間の病理は無数にあり、多様なバリエーションを持つため、AIモデルが一度も見たことがないケースに直面したらどうなるのという疑問が生じます。もしも手術中に一瞬の判断ミスが起こったときに、AIがその対応を訓練されていない場合はどうなるのでしょうか？
少なくとも手術で使用される自律型ロボットは、アメリカ食品医薬品局（FDA）の認可が必要でしょう。
一方、AIが診療内容を要約したり、推奨事項を提示したりする場合は、医師が最終的に情報を確認・承認するとされているため、FDAの認可は不要です。
しかし、AIボットが誤った推奨を行なったり、誰も言っていないことを記録に加えたりするという証拠がすでに存在しているのを考えると、FDAの認可が不要という現状は懸念すべきです。過労気味の医師が、いったいどれくらいの頻度でAIが作成した情報を精査することなく、そのまま承認してしまうでしょうか？
この懸念は、イスラエルの兵士たちが情報をあまり精査せずにAIに頼って攻撃目標を特定していたとされる最近の事例とも重なります。ワシントン・ポスト紙は、｢AI技術の使い方を十分に訓練されていない兵士が、AIの予測をまったく裏付けることなく人間を攻撃対象とした｣と報告しています。時には｢対象が男性である｣というだけで攻撃が行なわれるケースもあったといいます。
人間がテクノロジーに頼りすぎ、判断過程から外れると、思わぬ事態を招く恐れがあります。
大きすぎる命のリスク
医療もまた、消費者市場よりもはるかにリスクが大きく、慎重さが求められる分野といえます。仮にGmailがメールを誤って要約しても、そんなに大きな問題にはなりませんが、AIシステムが誤診したり、手術中にミスを犯したりすれば、はるかに深刻な問題になります。実際にそうなった場合、いったい誰が責任を負うのでしょうか？ マイアミ大学のロボット手術部長はワシントン・ポスト紙のインタビューにこう答えています。
｢生死に関わる問題なので、リスクは非常に高いです。身体の解剖学的構造も、病気の進行具合も、患者によってそれぞれ異なります。私はCTスキャンやMRIの画像を見てから手術をします。もしもロボットが自律的に手術を行なうとしたら、CTスキャンやMRIの画像をすべて認識して、その読み取り方を理解する必要があります｣
さらに、ロボットは非常に小さな切開部で行なう腹腔鏡手術の方法も学ばなければなりません。
問われる責任の所在
完璧なテクノロジーなんてないので、AIが絶対にミスをしないなど到底考えられません。自律型テクノロジーは研究の観点から見れば非常に興味深いのですが、自律型ロボットが手術に失敗した場合の影響は計り知れません。もし問題が起きた場合、誰が責任を負うのでしょう？ 誰が医療免許を剥奪されるのでしょうか？
人間も完璧ではありませんが、少なくとも患者は、何か問題が起これば、何年もの経験を積んでいる医師が責任を問われる立場にあると理解しているでしょう。一方でAIモデルは人間の雑なモノマネに過ぎないので、たまに予測不可能な行動をとりますし、道徳的な指針を持ち合わせていません。
また、手術を自律型ロボットに頼りすぎると、医師の能力や知識がさび付くのではないかという懸念もあります。これは、出会い系アプリの普及で社交スキルが落ちるのと似ています。
医師不足をロボットでカバーしていいの？
過酷な労働で疲れ果てた医師を補うツールとして、自律型AI手術ロボットに価値を見出しているのだとしたら、むしろ医師不足を引き起こしている根本的な問題の解決に取り組むべきでしょう。アメリカでは、医学部の入試にかかるコストや学費が壊滅的に高すぎるせいで、医師不足が深刻化していると広く報じられています。
アメリカ医科大学協会（AAMC）によると、アメリカでは2036年までに1万人から2万人の外科医不足に陥る見通しなのだそう。
入試にかかるコスト（願書やテストの費用）や学費（授業料と教科書代）は右肩上がり極まりない状況で、すぐに安くなるとは到底考えられないため、自律型AI手術ロボットにすがりたくなる気持ちはわからないでもないですね。
Reference: Johns Hopkins University / YouTube, Peter MacCallum Cancer Centre, Wendy’s / X, Burger King / X, Oneida Health / YouTube
