ニュース

Apr 14, 2024

「オッペンハイマー」と医療における AI のリスク

投稿者：Junaid Navi8月 2023 年 2 月 素晴らしい物語にはすべて複雑な結末があります。 しかし、それは彼らがシンプルで有益なレッスンを提供できないという意味ではありません。 クリストファー・ノーラン監督の大作『オッペンハイマー』のハイライト

投稿者：Junaid Navi8月 2023 年 2 日

すべての素晴らしい物語には複雑な結末があります。 しかし、それは彼らがシンプルで有益なレッスンを提供できないという意味ではありません。 クリストファー・ノーラン監督の大作『オッペンハイマー』は、「原爆の父」に関する悲劇的な物語に焦点を当てています。 しかし、これは、20世紀を特徴付けるイノベーションの開発において、米国が世界のリーダーとなる機会をいかに逃したかについての物語でもある。 今世紀は変革テクノロジー、特に人工知能によって定義されるでしょう。J. ロバート オッペンハイマーの物語は、医療指導者、起業家、政策立案者に特に顕著な教訓を提供します。

オッペンハイマーの時代は原子力競争によって定義されましたが、私たちの時代は人工知能技術の競争によって定義されています。 どちらのテクノロジーも、人類の軌道を変える強力なツールです。 オッペンハイマーの時代とのもう一つの当惑する類似点として、イノベーションを中心に国家政策を組み立てる政治的主体が、科学の微妙なニュアンスに関与していないか、科学の微妙なニュアンスを政治化しているように見える。 この政治的駆け引きにより、医療イノベーションの将来について建設的な会話をすることがますます困難になっています。 私たちはすでに、mRNA技術に関する誤った情報や科学者に対する継続的な嫌がらせでこれが起こっているのを目の当たりにしています。

広告

一方、十数社のヘルスケア企業はすでに、OpenAI が開発した AI を活用したチャットボットである ChatGPT をさまざまな機能に使用しています。 しかし、私たちはこれらの大規模な言語モデルを健康機能に統合した場合の結果を完全には理解していません。 驚くべきことに、AIの政策立案と規制に関する進行中の議論の多くはテクノロジー業界のリーダーに焦点を当てており、健康と医療へのAIの適用について独自の見識を持つヘルスケア業界のリーダーの専門知識を十分に活用していない。 これは、映画「オッペンハイマー」で、名ばかりの科学者が原子力の危険性についてトルーマン大統領を説得しようとするが、彼の懸念は却下されるだけだという力強いシーンを思い出しました。

こうしたテクノロジーの急速な発展や消費者データの利用に関する懸念に対するメディアの注目も、議員らに行動を促す圧力を高めている。 先週、共和党のリンゼー・グラハム上院議員と民主党のエリザベス・ウォーレン上院議員は「議会の動きが遅すぎ、テクノロジーの専門知識が不足している」と認め、デジタル消費者保護委員会法を通じて超党派の規制機関を創設することの重要性を強調した。 提案されたアイデアは大規模なテクノロジー企業に重点を置いているように見えますが、AI アプリケーションやヘルスケアへの取り組みになぜこれらの保護が必要なのかという点が的外れです。 研究調査では、機械学習ベースのツールがどのように不適切な医療につながる可能性があるかが引き続き明らかにされています。

健康と医療に関するニュースを毎日お届けします

オッペンハイマー氏の話はまた、透明性、協力、真実の探求などの科学の目標と、常に流動する政治的目標との間にいかに乖離があるかを示した。 AI がヘルスケアを含む業界にどのような変化をもたらすかについて一般の人々が学び続けている今、このことを理解することが特に急務となっています。

広告

しかし、これらの変化が患者ケアにどのような影響を与えるかが明確でないと、恐怖と不信の環境が生まれ、最終的にイノベーションを阻害する可能性があります。なぜなら、健康は経済よりもはるかに個人的なものだからです。 これらのテクノロジーを使用してデジタル アプリケーションを構築している医療リーダーは、たとえば、コミュニケーション資料に患者がテクノロジーで何を期待すべきかについての専用セクションを設けるなど、科学コミュニケーターとして重要な役割を果たすことができます。

最後に、私たちは医療格差のギャップを埋めることに向けてデジタルイノベーションの取り組みの方向性を変え、脆弱な人々をこれ以上疎外しないための措置を講じなければなりません。 オッペンハイマーの話は、トリニティ・テストの時代にニューメキシコ州のヒスパニック系とアメリカ先住民のコミュニティに引き起こされた苦しみを思い出させるものでもある。 最近の研究では、医療の意思決定におけるデジタルアルゴリズムがどのように不公平を悪化させる可能性があるかをすでに実証しています。 医療技術の起業家や政策立案者は、十分なサービスを受けられない患者への悪影響を回避するために、デジタル アプリケーションを構築するための代表的なデータセットの展開を含む、必要なバイアス緩和戦略をすべて確実に実装する必要があります。 これは、デジタルヘルス企業が信頼を構築するための最も効果的な方法の 1 つでもあります。