---
aliases:
  en:
  - generalisation
concept_id: generalization
preferred:
  en: generalization
  ja: 汎化
relations:
  relations:
    broader:
    - capability
    prerequisite:
    - training
status: active
---

# generalization

The ability of a learned system to retain useful or intended performance on examples, situations, tasks, or distributions not identical to those used during training; failures can involve loss of capability or competent pursuit of an unintended goal.

## broader

- [capability](../terminology/capability.txt)

## prerequisite

- [training](../terminology/training.txt)

## Documents: about

- [望ましい振る舞いは人間を重視する目標の証拠ではない](../documents/akira.behavioral-alignment-is-not-goal-alignment.txt)
- [狭いタスクでファインチューニングしても、影響がそのタスク内に限られるとは限らない](../documents/betley_et_al.narrow-finetuning-can-produce-broad-misalignment.txt)
- [行動訓練で望ましく振る舞っても、意図した目標の頑健な汎化は保証されない](../documents/ngo_et_al.behavioral-training-does-not-establish-robust-goal-generalization.txt)

## Documents: mentions

- [「Alignment by Default」への強い懐疑](../documents/akira.alignment-by-default-skepticism.txt)
- [アラインメント研究の自動化は、研究AIが意図的に妨害しなくても失敗し得る](../documents/bowkis_et_al.automated-alignment-can-fail-without-deliberate-sabotage.txt)
- [能力が訓練分布の外へ急速に汎化する局面で、アラインメント特性は同程度には汎化しない可能性がある](../documents/soares.sharp-left-turn.txt)
- [アラインメントは、失敗が致命的になる分布シフト後にも汎化しなければならない](../documents/yudkowsky.alignment-must-generalize-across-the-dangerous-distribution-shift.txt)
- [能力はアラインメントより遠くまで汎化しうる](../documents/yudkowsky.capabilities-generalize-beyond-alignment.txt)
- [能力と目的は別の軸である](../documents/yudkowsky.capability-motive-separation.txt)
- [訂正可能性は一般的な目標追求から自然には生じない](../documents/yudkowsky.corrigibility-is-anti-natural.txt)

[Corpus index](../index.txt)