optimization
A process of searching over or adjusting candidate solutions so as to improve performance according to an objective or criterion; machine-learning training is one form of optimization, and a learned model can in some cases itself implement optimization.
Metadata
- aliases
- concept_id
- optimization
- preferred
- en
- optimization
- ja
- 最適化
- relations
- relations
- prerequisite
- status
- active
Documents: mentions (10)
- 「Alignment by Default」への強い懐疑
- 能力が訓練分布の外へ急速に汎化する局面で、アラインメント特性は同程度には汎化しない可能性がある
- 能力はアラインメントより遠くまで汎化しうる
- 能力と目的は別の軸である
- 訂正可能性 (corrigibility) は一般的な目標追求から自然には生じない
- 解釈可能性は危険の診断に役立っても、それだけでアラインメントの解決策にはならない
- 外部の目的関数は内部の目標を決定しない
- 資源が豊富であることだけから、アンアラインドな超知能が人類のために資源を残すとは推論できない
- アラインメントのような新規かつ高リスクなシステムの設計には、既知の失敗を塞ぐ以上のセキュリティ・マインドセット (Security Mindset) が必要である
- 人間にとって価値ある未来は、価値体系の一部を欠くだけでも大きく損なわれ得る