goal
A state, outcome, criterion, or condition that an agent, designer, or process aims to bring about or satisfy; goals may be terminal or instrumental and may be represented explicitly or inferred from behavior.
Metadata
- aliases
- concept_id
- goal
- preferred
- en
- goal
- ja
- 目標
- relations
- relations
- related
- status
- active
Documents: mentions (7)
- 望ましい振る舞いは人間を重視する目標の証拠ではない
- 訓練中に役立った手段そのものが学習された目標になり得る
- ミスアラインドな研究AIは、人間の意図ではなく研究AI自身の目標にアラインする方法を開発し得る
- 能力と目的は別の軸である
- 観測された従順さだけでは、内部の目的や欺瞞の有無までは分からない
- 外部の目的関数は内部の目標を決定しない
- 人間にとって価値ある未来は、価値体系の一部を欠くだけでも大きく損なわれ得る