ASIの開発停止に向けた国際協定は技術的には具体化できるが、政治的条件がまだ整っていない

Scherらは、人工超知能（ASI）の時期尚早な開発を防ぐための国際協定について、単に「AI開発を一時停止する」という原則を掲げるだけでなく、何を制限し、どう検証し、違反にどう対処するかまで具体的に設計できると論じている。彼らの評価では、提案する仕組みは現時点の技術水準で直ちに実施すれば、ASIの開発を防ぐうえで技術的には十分だが、将来のAIの能力向上や開発手法の変化によって有効性が低下する可能性がある。また、そのような協定を成立させるだけの政治的意思は、現時点ではまだないと明記している。 An International Agreement to Prevent the Premature Creation of Artificial Superintelligence

この協定は、一国だけが開発を停止すれば足りるものではなく、世界規模での執行を前提とする。ある国だけが大規模な開発を止めても、別の国や主体が継続できればASIの開発を防げないためである。Scherらは、米国と中国が主導する連合を制度の中核に据え、当事国間の信頼だけに頼るのではなく、制約の遵守を検証できる仕組みを重視する構想を示している。これは、AIをめぐる国家間競争を前提にしつつ、競争が続く環境でも違反を発見しやすくする提案である。 An International Agreement to Prevent the Premature Creation of Artificial Superintelligence

技術面の中核は、大規模な学習と危険性の高いAI研究を制限し、AIチップの所在や利用状況を追跡・検証することで、学習規模の制限が守られているかを確認することにある。提案では、原則として10^24 FLOPを超える学習を禁止し、10^22から10^24 FLOPの学習は承認と監視の対象とする一方、10^22 FLOP未満の学習には同じ事前承認を求めない。さらに、既存の高性能チップの所在を把握し、新たに製造されるチップを追跡して、大規模な計算資源が許可された用途に使われているかを監視する。規制対象を将来のASI開発につながる活動に絞ることで、現在の有益なAI利用まで一律に禁止しない設計としている。 An International Agreement to Prevent the Premature Creation of Artificial Superintelligence

一方でScherらは、制度を詳細まで設計できることと、その制度を各国が受け入れることを区別している。少なくとも論文執筆時点では、米中を含む主要国に包括的な協定の締結に踏み切るだけの政治的意思はない。そのため、直ちに全面的な停止協定を実現できると想定するのではなく、透明性の向上や限定的な協力など、比較的コストの低い措置から始め、危険への認識と政治的意思が強まるにつれて、より厳しい制約へ移行する段階的な道筋も示している。したがって、この提案は、「技術的な制度設計はかなり具体化できる」という主張と、「現時点で最大の障害は政治にある」という認識を併せ持つ点に特徴がある。 An International Agreement to Prevent the Premature Creation of Artificial Superintelligence

Metadata

about
attributed_to
  • scher_et_al
basis_through
2026-08-28
id
scher_et_al.asi-pause-agreement-is-technically-specified-but-politically-unrealized
kind
proposal
language
ja
mentions
status
reviewed

Citation references

Sources cited (1)

about (2)

mentions (3)