distribution shift
A change between the data or situations encountered during training and those encountered at evaluation or deployment, such that previously reliable correlations, policies, or learned objectives may no longer generalize as intended.
Metadata
- aliases
- en
- distributional shift
- concept_id
- distribution_shift
- preferred
- en
- distribution shift
- ja
- 分布シフト
- relations
- relations
- prerequisite
- related
- status
- active
Documents: about (2)
Documents: mentions (7)
- 狭いタスクでファインチューニングしても、影響がそのタスク内に限られるとは限らない
- コントロールに基づく安全性ケースには、能力の十分な引き出しと、評価・外挿の保守性が必要になる
- 行動訓練で望ましく振る舞っても、意図した目標の頑健な汎化は保証されない
- 能力が訓練分布の外へ急速に汎化する局面で、アラインメント特性は同程度には汎化しない可能性がある
- 能力はアラインメントより遠くまで汎化しうる
- 訂正可能性 (corrigibility) は一般的な目標追求から自然には生じない
- 外部の目的関数は内部の目標を決定しない