AI existential risk
An existential risk whose causal pathway substantially involves artificial intelligence, including scenarios in which advanced AI systems cause human extinction or permanently and drastically curtail humanity's long-run potential.
Metadata
- aliases
- en
- AI x-risk
- existential risk from AI
- concept_id
- ai_existential_risk
- preferred
- en
- AI existential risk
- relations
- relations
- broader
- prerequisite
- related
- status
- active
Documents: about (2)
Documents: mentions (6)
- AI開発競争の圧力は安全のための制約を弱め得る
- 「doom」を単一確率に畳まず、複数の重大なリスクを区別して見積もる
- Yudkowskyとの相違は、危険に至る経路とそれまでに取れる対応の見通しにある
- アラインメントは最初の危険な試行で成功する必要がある
- Yudkowskyによる「大規模なAI学習を世界規模で無期限に停止し、計算資源規制を国際的に執行する案」
- pivotal actには、世界を大きく変えられるほど強いシステムのアラインメントが必要になる