AI開発競争の圧力は安全のための制約を弱め得る

bioshokは、高度なAIをめぐる国家間を中心とした開発競争が強まると、安全確保のために開発を遅らせたり制約を受け入れたりすることが難しくなると考えている。2024年の論考では、壊滅的リスクを抑えるためのフロンティアAI規制と、国家安全保障上の優位を確保するために開発やインフラ整備を加速する動きを、衝突し得る二つの潮流として整理している。カリフォルニア州のSB 1047が拒否されたことも、両者のせめぎ合いの中で、安全性を重視する規制より国家安全保障を理由とする開発加速が優先される方向へ傾く兆候だと解釈している。ただし、これは著者による政策状況の解釈であり、拒否そのものから必然的に導かれる結論として述べているわけではない。 AI安全性と国家安全保障の対立

この競争圧力の背景には、AGIを先に開発した国が、経済・軍事面や国際秩序の形成において大きな優位を得る可能性がある、という前提がある。相手国が開発を続けていると考えるほど、自国だけが安全対策のために開発速度を落とすことには戦略的なコストが生じる。そのためbioshokは、国家安全保障を理由とするAI開発が、単なる規制緩和ではなく、政府管理下のクローズドな開発、半導体・電力・データセンターへの大規模投資、同盟国との協力などを伴いながら加速する可能性を論じている。 AI安全性と国家安全保障の対立

安全性への影響についてbioshokが特に懸念するのは、技術面でのリードが縮まって他国に追いつかれる懸念が強まるほど、開発速度が安全面での慎重さより優先されることである。記事では、安全性を軽視した軍拡競争が進めば、国家間のエスカレーションだけでなく、高度なAIのミスアラインメントによる存亡リスクも大きくなり得ると述べている。したがって中心的な主張は、競争そのものが必ず破局的な結果を招くということではなく、先行することの戦略的価値が非常に高い状況では、各国が安全性を重視して開発を抑制する誘因が弱まり、その結果としてAI安全性が損なわれ得るというものである。 AI安全性と国家安全保障の対立

この見通しは、AGIが数年以内に実現すること、先行者に大きな戦略的利益があること、そして国家安全保障上の競争が継続・激化することを重要な条件としている。またbioshokは、国家管理を志向する開発加速と、オープンな技術加速を支持するe/accを同一視していない。したがって、この立場はあらゆる国家安全保障政策やAI規制を一律に安全性に反するものとみなすのではなく、競争環境が安全のための制約を守るインセンティブをどう変えるかに焦点を置いている。 AI安全性と国家安全保障の対立

Citation references

• AI安全性と国家安全保障の対立
  • Source: source:bioshok.ai-safety-vs-national-security
  • Whole-source citation

Sources cited (1)

• AI安全性と国家安全保障の対立

about (2)

• AI race dynamics
• AI safety

mentions (3)

• AI existential risk
• AI governance
• artificial general intelligence