deception
Intentional or strategic behavior that causes another agent or evaluator to form a materially false or misleading belief; in AI safety, deception is broader than deceptive alignment and can occur for many reasons unrelated to the training process.
Metadata
- aliases
- en
- AI deception
- strategic deception
- ja
- デセプション
- concept_id
- deception
- preferred
- en
- deception
- ja
- 欺瞞
- status
- active
Documents: about (1)
Documents: mentions (4)
- Untrusted monitoringは共謀や欺瞞によって破られうる
- 訓練中に従うようになっただけでは、競合する選好が置き換わったとは言えない
- 既に形成された欺瞞的な方策は、標準的な安全性訓練を経ても残り得る
- 解釈可能性は危険の診断に役立っても、それだけでアラインメントの解決策にはならない