AI development pause
A deliberate halt or binding ceiling on specified AI development activities, such as training models beyond a capability or compute threshold, intended to prevent or delay dangerous advances while safety, governance, or coordination conditions are improved. A pause is typically temporary or conditional, while a moratorium usually denotes a formally imposed prohibition; scope, duration, jurisdiction, enforcement, and exit criteria vary by proposal.
Metadata
- aliases
- en
- AI development moratorium
- AI moratorium
- AI pause
- pause on AI development
- ja
- AIモラトリアム
- concept_id
- ai_development_pause
- preferred
- en
- AI development pause
- ja
- AI開発の一時停止
- relations
- relations
- broader
- prerequisite
- status
- active
Documents: about (3)
- 条約と相互査察で国際的な超知能開発停止を検証する
- ASIの開発停止に向けた国際協定は技術的には具体化できるが、政治的条件がまだ整っていない
- Yudkowskyによる「大規模なAI学習を世界規模で無期限に停止し、計算資源規制を国際的に執行する案」
Documents: mentions (6)
- 十分な時間と慎重さがあれば、アラインメントは解決可能である
- AIコントロールが生存確率を高めるシナリオは限られる
- 楽観的な前提を積み重ねるアラインメント計画への懐疑
- p(doom)は開発停止・テイクオフ・規制の条件に依存する
- 弱AGIによる短期アラインメント・ブートストラップへの懐疑
- クランチタイムではAIの労働力を防御用途に振り向け、移行を大幅に遅らせる