AI研究開発が全面自動化されれば、ハードウェアを増強しなくてもソフトウェア知能爆発は十分に起こり得る

EthとDavidsonは、AI研究開発のあらゆる作業を自動化できるシステム（ASARA）が登場した後、ハードウェアを増やさなくてもソフトウェア改善だけで知能爆発が起きる可能性を検討している。ASARAを訓練できる規模の計算資源は、訓練後には多数のコピーを並列実行するために転用できる。そのため、ASARA到達後まもなく、人間のAI研究者全体を桁違いに上回る規模の認知労働をAI研究開発に投入できる可能性があるとする。 Will AI R&D Automation Cause a Software Intelligence Explosion?

その後の鍵として、彼らはAIソフトウェア研究開発に費やされる累積的な研究努力が倍増するごとに、AIソフトウェア能力の倍増が何回起こるかを表すパラメータ $r$ を導入する。$r>1$ なら、研究能力の拡大による加速効果が、アイデア発見に伴う収穫逓減を上回り、ソフトウェア能力の倍増に要する時間が次第に短くなるため、「ソフトウェア知能爆発」（SIE）が成立する。逆に $r<1$ なら、能力が倍増するたびに次の倍増までの時間が長くなり、フィードバックは最終的に失速する。この枠組みでは、自己改善が爆発的になるかどうかは、AIがAI研究開発を行えるかだけでなく、研究努力の増加に対してソフトウェア能力がどれだけ速く向上するかで決まる。 Will AI R&D Automation Cause a Software Intelligence Explosion?

EthとDavidsonは、当時得られていた複数の実証的な手掛かりを総合すると、$r$ をおおむね1から4程度とみるのが最も妥当だとする一方、不確実性は大きいと強調している。 Will AI R&D Automation Cause a Software Intelligence Explosion?

さらに、過去のソフトウェア進歩は計算資源が増え続ける環境で観測されたため、ASARA到達後にハードウェアを固定すれば、実験用計算資源の制約などによって $r$ が低下し得るとも論じる。 Will AI R&D Automation Cause a Software Intelligence Explosion?

それでも、ハードウェアをASARA到達時点で固定し、人間側の社会的要因による減速はないと仮定した場合、SIEは少なくとも十分に起こり得ると評価しており、実際に起これば、ASARA到達後まもなくソフトウェア能力が倍増するまでの時間が数日以下に短くなる可能性があるとしている。 Will AI R&D Automation Cause a Software Intelligence Explosion?

Metadata

about
attributed_to
  • davidson
  • eth
basis_through
2026-08-28
id
eth_davidson.software-intelligence-explosion-remains-plausible-at-fixed-hardware
kind
position
language
ja
mentions
status
reviewed

Citation references

Sources cited (1)

about (3)

mentions (1)