---
about:
- debate
attributed_to:
- akira
basis_through: '2026-08-24'
id: akira.debate-fails-at-superalignment-capability
kind: critique
language: ja
mentions:
- ai_alignment
- capability
- collusion
- sandbagging
- scalable_oversight
status: reviewed
---

# Debate はスーパーアラインメントの問題を解決できる能力水準では成立しにくい

Akira は、AI Safety via Debate を、人間が直接検証できないスーパーアラインメントの問題を AI 同士に議論させることで解こうとする手法として考えた場合、必要な能力と議論の信頼性の間に難しいトレードオフがあると指摘している。スーパーアラインメントの問題を解決できるほどの能力に達していない AI では、そもそも議論から正しい解決策を引き出せないため、Debate を使うこと自体が能力不足を埋めるわけではない、という見方である。
[AGI Hub 公開討論](#corpus-source-1)

一方で、その問題を実際に解けるほど強い AI 2体を討論者として使う段階になると、Akira は別の失敗を懸念する。議論相手と共謀した方が得だと判断して互いに批判を弱めたり、検証側に対して意図的に不十分な議論を見せたりできるほどの戦略性を持つなら、二者を競わせるだけでは正しい結論を引き出せない可能性がある。逆に、そのような共謀を発想し、実行できない程度の能力しかないなら、スーパーアラインメントの問題を解決できる能力水準にも達していないのではないか、というのが Akira の中心的な疑問である。
[AGI Hub 公開討論](#corpus-source-2)

このため Akira は、AI が通常の意味で誠実に Debate に参加する能力水準では、スーパーアラインメントの問題を解決するには力不足であり、その問題を議論で解けるほどの能力に達した頃には、参加する AI が sandbagging などによって議論の信頼性を損なう可能性がある、とまとめている。これは Debate があらゆる用途で無効だという主張ではなく、人間より強い AI を使って「その AI 自身の安全性に関する問題を解かせる」という用途では、能力向上だけでは監督問題が解消せず、むしろ戦略的な共謀や意図的な手加減への対策が別途必要になる、という批判である。
[AGI Hub 公開討論](#corpus-source-3)

## about

- [debate](../terminology/debate.txt)

## mentions

- [AI alignment](../terminology/ai_alignment.txt)
- [capability](../terminology/capability.txt)
- [collusion](../terminology/collusion.txt)
- [sandbagging](../terminology/sandbagging.txt)
- [scalable oversight](../terminology/scalable_oversight.txt)

## Citation references

<a id="corpus-source-1"></a>

- [Bioshok vs Akira P(doom)徹底討論書き起こし(修正なし全文)](../sources/agi_hub.pdoom-debate-1-transcript.txt)
  - Source: `source:agi_hub.pdoom-debate-1-transcript`
  - Locator: `time:05:25:36-05:26:23`

<a id="corpus-source-2"></a>

- [Bioshok vs Akira P(doom)徹底討論書き起こし(修正なし全文)](../sources/agi_hub.pdoom-debate-1-transcript.txt)
  - Source: `source:agi_hub.pdoom-debate-1-transcript`
  - Locator: `time:05:26:25-05:27:17`

<a id="corpus-source-3"></a>

- [Bioshok vs Akira P(doom)徹底討論書き起こし(修正なし全文)](../sources/agi_hub.pdoom-debate-1-transcript.txt)
  - Source: `source:agi_hub.pdoom-debate-1-transcript`
  - Locator: `time:05:27:21-05:27:48`

[Corpus index](../index.txt)