training
The process of adjusting a model, policy, or other system from data, experience, feedback, or generated examples so that it performs better according to a chosen criterion; in machine learning this typically changes learned parameters through an optimization procedure.
Metadata
- aliases
- en
- model training
- concept_id
- training
- preferred
- en
- training
- ja
- 学習
- relations
- relations
- broader
- prerequisite
- status
- active
Documents: about (1)
Documents: mentions (9)
- 評価認識が先に伸びると、資源獲得の有用性を学ぶ頃にはアラインメント偽装が可能になり得る
- 訓練中に役立った手段そのものが学習された目標になり得る
- 狭いタスクでファインチューニングしても、影響がそのタスク内に限られるとは限らない
- 共通の重み・データ・訓練過程を持つ研究AIでは、研究結果の誤りや不確実性が相関し得る
- スキーミングとは、状況認識を伴うトレーニング・ゲーミングのうち、将来のパワー獲得を目的とするもの
- 訓練中に従うようになっただけでは、競合する選好が置き換わったとは言えない
- チャット形式の安全性訓練で望ましく振る舞うことは、エージェント的な状況での安全性を保証しない
- 行動訓練で望ましく振る舞っても、意図した目標の頑健な汎化は保証されない
- 解釈可能性は危険の診断に役立っても、それだけでアラインメントの解決策にはならない
broader (1)
prerequisite (1)
prerequisite_of (9)
- distribution shift
- generalization
- goal-guarding scheming
- iterated amplification
- outcome supervision
- process supervision
- reinforcement learning
- training-gaming
- training objective