AI研究開発が先行して自動化されると、能力面のテイクオフの期間は大幅に短縮される可能性がある

Davidsonは、能力面のテイクオフの速さを測る主要な指標として、経済全体の認知タスクの20%を容易に自動化できるAI（20%-AI）から、認知タスクの100%を人間の専門職と同程度に遂行できるAI（100%-AI、彼の定義ではAGI）までの期間を用いる。そのうえで、AI研究開発は経済全体の平均的な仕事より早く自動化される可能性が高く、20%-AIに達した時点ですでにAI研究開発のかなりの部分が自動化されていれば、より高性能なAIがAI開発をさらに速めるというフィードバックがテイクオフの途中から働くと考える。 What a compute-centric framework says about AI takeoff speeds

この効果についてDavidsonは大きな不確実性を認めつつ、20%-AIの時点でAI研究開発の認知タスクの20%が自動化されればAI研究開発の進歩速度は約1.3倍、40%が自動化されれば約1.8倍になるという例を挙げている。彼のモデルでは、自動化率が上がるにつれてこの加速も強まり、AI研究開発の自動化を考慮すると、20%-AIから100%-AIまでの期間は、自動化の効果を考慮しない場合の約40%（約2.5分の1）まで短くなる。この意味で、AI研究開発の自動化は、能力向上がさらなる開発速度の向上につながる連続的な正のフィードバックとして、テイクオフ期間を短縮し得る。 What a compute-centric framework says about AI takeoff speeds

ただし、Davidsonはこの加速を必然とはみなしていない。20%-AIと100%-AIの難易度差が大きい場合や、研究に投入する人間やAIの労働力を増やしても、研究努力の重複や、作業を並列化できる範囲の限界によって研究速度が比例して伸びない場合、AIがまだ自動化できない作業がボトルネックになる場合、あるいは安全上の理由で意図的に開発を遅らせる場合には、テイクオフが5年を超える可能性も無視できないとしている。AI研究開発の自動化はテイクオフ速度を押し上げる重要な要因だが、テイクオフ期間を単独で決めるものではないという位置づけである。 What a compute-centric framework says about AI takeoff speeds

Citation references

• What a compute-centric framework says about AI takeoff speeds
  • Source: source:davidson.compute-centric-framework-ai-takeoff
  • Locator: anchor:The_framework

• What a compute-centric framework says about AI takeoff speeds
  • Source: source:davidson.compute-centric-framework-ai-takeoff
  • Locator: anchor:Even_without_any_discontinuities_takeoff_could_last_less_than_1_year

• What a compute-centric framework says about AI takeoff speeds
  • Source: source:davidson.compute-centric-framework-ai-takeoff
  • Locator: anchor:We_should_assign_some_probability_to_takeoff_lasting_more_than_5_years

Sources cited (1)

• What a compute-centric framework says about AI takeoff speeds

about (2)

• AI R&D automation
• takeoff speed

mentions (2)

• artificial general intelligence
• recursive self-improvement