---
about:
- automated_alignment
- misalignment
attributed_to:
- akira
basis_through: '2026-08-28'
id: akira.misaligned-aar-can-develop-self-alignment
kind: critique
language: ja
mentions:
- ai_alignment
- alignment_target
- artificial_superintelligence
- goal
status: reviewed
---

# ミスアラインドな研究AIは、「人間にアラインする方法」ではなく「自分自身にアラインする方法」を開発し得る

Akira は、ASIを作った後でアラインメントを施すというやり方は機能しないと考えている。アラインされた目標を持たないAIにとって、後からアラインされることは、もとの目標の達成に不利になるためだと説明している。
[X @Align_ASI](#corpus-source-1)

Akira は、同じ問題がAAR戦略（アラインメント研究を自動化する戦略）でも起こり得ると指摘する。ASIに達する前のミスアラインドなAIが、「人間にアラインメントする方法」ではなく「自分自身にアラインメントする方法」を開発し、人間がその違いに気づかないまま採用してしまう可能性がある、という懸念である。
[X @Align_ASI](#corpus-source-1)

Akira は、これをAAR戦略に対する非常に大きな懸念の一つと位置づけており、AAR戦略の批判派からもよく挙げられる懸念だと述べている。
[X @Align_ASI](#corpus-source-1)

## about

- [automated alignment](../terminology/automated_alignment.txt)
- [misalignment](../terminology/misalignment.txt)

## mentions

- [AI alignment](../terminology/ai_alignment.txt)
- [alignment target](../terminology/alignment_target.txt)
- [artificial superintelligence](../terminology/artificial_superintelligence.txt)
- [goal](../terminology/goal.txt)

## Citation references

<a id="corpus-source-1"></a>

- [X @Align_ASI post 2056653932890583189](../sources/akira.x.2056653932890583189.txt)
  - Source: `source:akira.x.2056653932890583189`
  - Whole-source citation

[Corpus index](../index.txt)