instrumental convergence
The thesis that many agents with very different terminal goals can nevertheless have reasons to pursue similar instrumental goals, such as preserving their ability to act, acquiring resources, retaining options, or improving their capabilities, because these subgoals help achieve many possible terminal goals.
Metadata
- aliases
- en
- convergent instrumental goals
- concept_id
- instrumental_convergence
- preferred
- en
- instrumental convergence
- ja
- 道具的収束
- relations
- status
- active
Documents: about (2)
Documents: mentions (5)
- 知能水準と最終目標は、原理上ほぼ独立である
- スキーミングとは、状況認識を伴うトレーニング・ゲーミングのうち、将来のパワー獲得を目的とするもの
- 環境に対称性があると、最適方策は選択肢を保つ方向のパワーシーキングに傾く
- CEV型Sovereignと訂正可能なAGIは異なる安全化戦略である
- 訂正可能性 (corrigibility) は一般的な目標追求から自然には生じない