AI governance
The field concerned with how institutions, policies, norms, and organizational practices shape the development, deployment, and use of AI so that benefits are realized and risks are managed, including decisions about standards, oversight, access, and regulation.
Metadata
- aliases
- en
- artificial intelligence governance
- concept_id
- ai_governance
- preferred
- en
- AI governance
- relations
- relations
- prerequisite
- related
- status
- active
Documents: about (4)
- 条約と相互査察で国際的な超知能開発停止を検証する
- Yudkowskyとの相違は、危険に至る経路とそれまでに取れる対応の見通しにある
- AIガバナンスの集中化には利点と欠点があり、制度設計が結果を左右する
- ASIの開発停止に向けた国際協定は技術的には具体化できるが、政治的条件がまだ整っていない
Documents: mentions (6)
- AIコントロールが生存確率を高めるシナリオは限られる
- p(doom)は開発停止・テイクオフ・規制の条件に依存する
- AI開発競争の圧力は安全のための制約を弱め得る
- クランチタイムではAIの労働力を防御用途に振り向け、移行を大幅に遅らせる
- コンピュート・ガバナンスは有力な政策手段だが、権力集中のリスクも生む
- Yudkowskyによる「大規模なAI学習を世界規模で無期限に停止し、計算資源規制を国際的に執行する案」