recursive self-improvement
A feedback process in which an AI system or AI-driven development process improves the capabilities used to produce further improvements, so later iterations can make still better successors, software, tools, or development methods. It does not require literal self-editing by one persistent agent, and does not by itself imply an intelligence explosion or hard takeoff.
Metadata
- aliases
- en
- RSI
- recursive AI self-improvement
- concept_id
- recursive_self_improvement
- preferred
- en
- recursive self-improvement
- ja
- 再帰的自己改善
- relations
- relations
- prerequisite
- status
- active
Documents: about (4)
- Yudkowskyとの相違は、危険に至る経路とそれまでに取れる対応の見通しにある
- AI研究開発の自動化だけによる自己加速は、実験用計算資源がボトルネックとなって頭打ちになる可能性がある
- AI研究開発が全面自動化されれば、ハードウェアを増強しなくてもソフトウェア知能爆発は十分に起こり得る
- 再帰的自己改善は、自己改善能力への正のフィードバックを通じて知能爆発を起こし得る
Documents: mentions (6)
- スローテイクオフでは、超知能より前のAIがすでに世界を大きく変える
- クランチタイムではAIの労働力を防御用途に振り向け、移行を大幅に遅らせる
- AI研究開発に大量のAI労働力を投入できれば、AGIから超知能への移行は1年未満になり得る
- AI研究開発が先行して自動化されると、能力面のテイクオフの期間は大幅に短縮される可能性がある
- R&Dの全面自動化が経済全体の広範な自動化に大きく先行するという見通しには慎重である
- AI研究開発の全面自動化後は、ソフトウェア知能爆発に至らなくても、しばらく非常に速い進歩が続き得る