---
about:
- automated_alignment
- capability_generalization
attributed_to:
- akira
basis_through: '2026-08-28'
id: akira.aar-requires-aligning-capable-research-ai-first
kind: critique
language: ja
mentions:
- ai_alignment
- artificial_superintelligence
- capability
status: reviewed
---

# AARを使ってASIアラインメントを解くには、十分に強い研究AIを先にアラインする必要がある

Akira は、AAR（Automated Alignment Researcher）を使ってASIアラインメントを解く戦略に全体として懐疑的である。人類にはASIアラインメントに成功した事例が一つもないため、そうした事例をデータセットとしてAIを訓練することができない。そのため、ASIアラインメントでは、まったく別の分野で得た能力を転用することが基本的な戦術になるはずで、この点ではAIより人間の方が優れているだろうと Akira はみている。
[X @Align_ASI](#corpus-source-1)

一方、まったく別の分野で得た能力を転用する力が人間を十分に上回るAIは、それ自体がおそらく危険だと Akira は考えている。そのようなAIを使うなら、その時点ですでにそのAI自身のアラインメントに成功していなければならない。つまり、十分な能力を持つ研究AIを利用するために、まずその研究AIをアラインしなければならない。Akira は、この状況を「鉄を作るのに鉄が必要」とたとえている。
[X @Align_ASI](#corpus-source-1)

このため Akira はAAR全般に懐疑的であり、AARがうまくいく場合でも、AIを投入するだけでなく、さまざまな分野から多数の人間を動員する必要があると考えている。
[X @Align_ASI](#corpus-source-1)

## about

- [automated alignment](../terminology/automated_alignment.txt)
- [capability generalization](../terminology/capability_generalization.txt)

## mentions

- [AI alignment](../terminology/ai_alignment.txt)
- [artificial superintelligence](../terminology/artificial_superintelligence.txt)
- [capability](../terminology/capability.txt)

## Citation references

<a id="corpus-source-1"></a>

- [X @Align_ASI post 2056653057535205557](../sources/akira.x.2056653057535205557.txt)
  - Source: `source:akira.x.2056653057535205557`
  - Whole-source citation

[Corpus index](../index.txt)