AI研究開発の全面自動化後は、ソフトウェア知能爆発に至らなくても、しばらく非常に速い進歩が続き得る

EthとDavidsonは、AI研究開発のあらゆる作業を自動化できるシステム（ASARA）の登場後、ソフトウェア改善だけで進歩が加速し続ける「ソフトウェア知能爆発」（SIE）が成立しない場合でも、進歩がすぐ通常の速度に戻るとは考えていない。彼らは、AIソフトウェア研究開発に費やされる累積的な研究努力が倍増するごとに、ソフトウェア能力の倍増が何回起こるかを表すパラメータを $r$ と定義する。例として、ASARA到達時点でソフトウェア能力の倍増時間が1か月、$r=0.7$ なら、各倍増に要する時間は前回より35%長くなり、最終的には失速するものの、1年弱でソフトウェア能力が約30倍になるという軌道を示している。 Will AI R&D Automation Cause a Software Intelligence Explosion?

この例は精密な予測ではなく、SIEが成立するか、最終的に失速するかという区分が、そのまま「速い進歩」と「遅い進歩」の区分にはならないことを示すためのものである。$r<1$ でも、ASARA到達直後の進歩が十分に速ければ、逓減が本格的に効くまでの過渡期には急速な進歩が続き得る。その出発点は、すでにAI研究開発を全面自動化できるほど強力なシステムであり、そこからさらに、現在の最先端AIが1年間で遂げるのとおおむね同程度の相対的な能力向上が起こり得る。 Will AI R&D Automation Cause a Software Intelligence Explosion?

さらに、新しいAIシステムの訓練にかかる時間そのものがボトルネックになる場合でも、アルゴリズム改善によって訓練時間を短縮できるなら、その制約はSIEを完全に防ぐのではなく、遅らせるだけにとどまる可能性があると論じる。 Will AI R&D Automation Cause a Software Intelligence Explosion?

一方、最終的にSIEが起きず失速する場合についても、ハードウェアの増強をASARA到達時点で止めたとしても、なお1年程度は、現在の最先端AIと同程度のペースで相対的な能力向上が続く可能性を挙げている。したがって、SIEの成立可否だけでなく、成立しない場合の過渡期にどれほど速い進歩が起こり得るかも重要だという立場である。 Will AI R&D Automation Cause a Software Intelligence Explosion?

Metadata

about
attributed_to
  • davidson
  • eth
basis_through
2026-08-28
id
eth_davidson.software-intelligence-fizzle-can-still-be-fast
kind
position
language
ja
mentions
status
reviewed

Citation references

Sources cited (1)

about (3)

mentions (1)