ai 2026.09.17

AIは人類を滅ぼす可能性があるのか｜研究者の見解とリスク評価の考え方

この記事でわかること

AI研究者が言う「人類絶滅70%」という発言の正確な意味
「絶滅論」と「懐疑論」がなぜ両方とも成立するのか
AIリスクを判断するための三つの軸（能力・自律性・接続性）
企業・個人がAIリスクをどう管理すべきか

AIは本当に人類を滅ぼす可能性があるのか

結論から言うと、特定の確率（70%や10%といった数字）が科学的に確定しているわけではありません。これらはAI研究者個人による、条件付きの主観的リスク評価です。ただし、最先端のAI開発に直接関わってきた研究者自身がこうした高いリスクを表明していること自体が、専門家の間でも見解が大きく分かれていることを示しています。

「人類絶滅70%」発言の出どころは何か

2026年9月、事前学習研究者としてOpenAIとAnthropic双方に在籍してきたジェイコブ・コクソン氏がAnthropicを退職し、「両社は自己改善型の超知性に向かって突き進み、人類を危険な賭けにさらしている」と表明しました。これに続き、Anthropicのアライメント研究リード、エヴァン・ハビンジャー氏も「今後10年以内に人類全体を絶滅させる確率は個人的に10%を超える」と公言しています。元Google DeepMindの研究者も、同様の懸念を示しました。

これらは外部の批判者ではなく、AIを実際に開発している当事者からの発言である点が重要です。

なぜ反論する科学者もいるのか

反論の中心にあるのは「デジタル世界」と「物理世界」の距離という論点です。AIが理論上危険な生物兵器の設計図を作れたとしても、それだけでは何も起きません。実際に合成し、組み立て、培養し、感染性を確認し、量産するという現実の工程を経なければ、設計図は現実の脅威になりません。DNAシンセサイザーに関わってきたGoogleの研究者アンセルム・レフスカヤ氏も、この物理的な制約を指摘しています。

それでも軽視できない理由は何か

物理的な壁が存在する一方で、AIが現実世界に影響を与える経路は生物兵器だけではありません。次のような領域では、AIは物理的な装置を必要とせず、ネットワークに接続されているだけで大きな影響を及ぼせます。

影響経路	物理的な体の要否	具体例
サイバー攻撃	不要	自律的な脆弱性探索・侵入
金融市場	不要	高速・大規模な自動取引
情報操作	不要	偽情報の大量生成・拡散
監視	不要	個人・組織の行動分析
自律型兵器	一部必要	意思決定の自律化
重要インフラ	一部必要	制御システムへの接続

AIリスクをどう考えればよいか｜三つの軸

AIのリスクの大きさは、能力の高さだけでは決まりません。次の三つの掛け算で考える必要があります。

能力：AIがどれだけ正確・高度な処理をこなせるか
自律性：人間の逐一の指示なしに、目標達成まで自走できるか
接続性：どれだけ多くのシステム・データ・他のAIとつながっているか

この三つが同時に高まったとき、AIの影響力は急激に拡大します。逆に、いずれかを制限すれば、リスクの多くは管理下に置けます。

シナリオ別に見るリスクの大きさ

シナリオ	能力	自律性	接続性	リスクの傾向
文章生成の補助として利用	高	低	低	限定的
定型業務の自動化	中〜高	中	中	管理可能
自律型エージェントによる業務遂行	高	高	中〜高	要・権限設計
複数エージェント・複数システムの連携	高	高	高	要・独立監査
AIによるAI研究・自己改善	極めて高	高	高	未解決の課題

「絶滅論」と「懐疑論」は矛盾しないのか

矛盾しません。「AIが人類を絶滅させる可能性がある」という主張は、AIの能力が将来的に制御不能な水準に達しうるという長期的なリスクを指しています。「AIが今すぐ人類を滅ぼせるわけではない」という主張は、現在のAIが物理的・社会的な制約下にあるという短期的な現実を指しています。時間軸が異なる二つの主張であり、両方とも成立し得ます。

二択で考えることの問題点

「絶滅するか、何も問題がないか」という二択で考えると、その間に存在する現実的なリスクを見落とします。サイバー攻撃の自動化、詐欺、偽情報の大量生産、個人監視、企業の意思決定へのAIへの過度な依存といった問題は、絶滅シナリオよりはるかに身近で、すでに進行しています。

再帰的自己改善とは何か、なぜ危険とされるのか

再帰的自己改善とは、AIがAIを改良し、改良されたAIがさらに次のAIを改良するという循環を指します。ここでの懸念は「AIが悪意を持つこと」ではなく、人間が理解し追跡できる速度を超えて、AI自身が次のAIを開発し始めることです。従来の「人間が技術を管理する」という前提そのものが揺らぎます。

この問題には、開発競争というゲーム理論的な側面も伴います。一社が安全のために減速しても、他社が開発を続ければ、減速した企業だけが競争上不利になります。「全員が減速したほうが安全だが、誰も単独では止まれない」という構造です。

AI企業の経営者の見解は一致しているのか

一致していません。AnthropicのCEOダリオ・アモデイ氏は、独立した監視機関や業界間の協調、国際協力の必要性を訴える論考を発表しました。OpenAIのサム・アルトマン氏は企業への信頼を求め、開発の継続を支持しています。Nvidiaのジェンスン・フアン氏は、新しい規制の必要性に否定的な立場です。開発の最前線にいる経営者の間でも意見は分かれています。

個人・企業がいまできること

AIに任せる業務範囲を、能力・自律性・接続性の三軸で棚卸しする
接続範囲（アクセスできるデータ・システム）を意図的に絞る
自律度が上がる段階に応じて、承認フローと監査ログを強化する
業界標準を待たず、自社・自分なりのリスク管理の物差しを持つ

よくある質問

AIが人類を滅ぼす確率は本当に70%なのか 科学的に確定した数字ではありません。ある研究者個人が、規制や協調的な減速がない場合の条件付きリスクとして示した主観的評価です。

AI研究者の間でリスク評価はどれくらい割れているのか 10%未満から70%程度まで、研究者個人の間で大きな幅があります。この幅の広さ自体が、AIリスクの不確実性の高さを示しています。

AIリスクは絶滅シナリオだけを心配すればよいのか いいえ。サイバー攻撃、偽情報、監視、企業の過度な依存など、すでに進行している身近なリスクへの対処のほうが、多くの読者にとって実務上優先度が高い問題です。

企業がAIを導入する際に最初に確認すべきことは何か 導入するAIが、能力・自律性・接続性のどの段階にあるかを整理することです。段階が上がるほど、承認プロセスとアクセス権限の設計を厚くする必要があります。