safety case
A structured, evidence-based argument that an AI system is acceptably safe for a specified use in a specified operational context, typically making explicit the relevant hazards, risk controls, assumptions, evidence, and residual risk.
Metadata
Documents: mentions (3)
- アラインメント研究の自動化は、研究AIが意図的に妨害しなくても失敗し得る
- 共通の重み・データ・訓練過程を持つ研究AIでは、研究結果の誤りや不確実性が相関し得る
- コントロールに基づく安全性ケースには、能力の十分な引き出しと、評価・外挿の保守性が必要になる