prosaic alignment
AI alignment research aimed at powerful or general AI that arises by scaling and extending broadly contemporary machine-learning methods without requiring fundamentally new ideas about how intelligence works. The term does not mean such systems are aligned by default; it names the problem of aligning this comparatively 'prosaic' route to advanced AI.
Metadata
- aliases
- en
- prosaic AI alignment
- concept_id
- prosaic_alignment
- preferred
- en
- prosaic alignment
- ja
- プロセイック・アラインメント
- relations
- relations
- broader
- prerequisite
- status
- active
Documents: about (3)
- 既に形成された欺瞞的な方策は、標準的な安全性訓練を経ても残り得る
- チャット形式の安全性訓練で望ましく振る舞うことは、エージェント的な状況での安全性を保証しない
- 行動訓練で望ましく振る舞っても、意図した目標の頑健な汎化は保証されない