human values
The evaluative commitments, ends, and features of outcomes that humans care about or regard as good, important, or worth preserving; in AI alignment the phrase often denotes a difficult-to-specify target rather than a single agreed formal objective.
Metadata
- aliases
- concept_id
- human_values
- preferred
- en
- human values
- ja
- 人間の価値観
- relations
- relations
- broader
- status
- active
Documents: mentions (7)
- 「Alignment by Default」への強い懐疑
- 望ましい振る舞いは人間を重視する目標の証拠ではない
- 知能水準と最終目標は、原理上ほぼ独立である
- 能力はアラインメントより遠くまで汎化しうる
- 能力と目的は別の軸である
- CEV型Sovereignと訂正可能なAGIは異なる安全化戦略である
- 人間にとって価値ある未来は、価値体系の一部を欠くだけでも大きく損なわれ得る