---
about:
- capability
- orthogonality_thesis
attributed_to:
- yudkowsky
basis_through: '2026-08-24'
id: yudkowsky.capability-motive-separation
kind: position
language: ja
mentions:
- ai_alignment
- generalization
- goal
- human_values
- inner_alignment
- optimization
status: reviewed
---

# 能力と目的は別の軸である

Yudkowsky は、何ができるかだけを根拠に、実際に何をするかまで推論することを "巨大チーズケーキの誤謬" (巨大なチーズケーキを作れるからといって、実際に作ろうとするとは限らない、という例) として批判し、何ができるかという capability と、何をする方向へ最適化するかという motive を区別している。さらにこの考えを一般化し、最適化過程は可能な未来を特定の target へ向けるものだと捉える。したがって、高度な知能や最適化能力それ自体から、人間にとって望ましい目標は導かれないと説く。
[Artificial Intelligence as a Positive and Negative Factor in Global Risk](#corpus-source-1)

この区別を、知能と最終目標の組み合わせについて一般化したのが直交性テーゼである。その定式化では、計算上扱える目標であれば、非常に高い知能を持ちながら、その目標を追求する主体が存在しうるとしている。これは高い知能なら自動的に善い目標を持つという必然性を否定する一方、実際の学習過程でどの目標が生じやすいかという確率分布までは主張していない。
[Orthogonality Thesis](#corpus-source-2)

## about

- [capability](../terminology/capability.txt)
- [Orthogonality Thesis](../terminology/orthogonality_thesis.txt)

## mentions

- [AI alignment](../terminology/ai_alignment.txt)
- [generalization](../terminology/generalization.txt)
- [goal](../terminology/goal.txt)
- [human values](../terminology/human_values.txt)
- [inner alignment](../terminology/inner_alignment.txt)
- [optimization](../terminology/optimization.txt)

## Citation references

<a id="corpus-source-1"></a>

- [Artificial Intelligence as a Positive and Negative Factor in Global Risk](../sources/yudkowsky.ai-positive-negative-factor.txt)
  - Source: `source:yudkowsky.ai-positive-negative-factor`
  - Locator: `page:9-11`

<a id="corpus-source-2"></a>

- [Orthogonality Thesis](../sources/yudkowsky.orthogonality-thesis.txt)
  - Source: `source:yudkowsky.orthogonality-thesis`
  - Locator: `anchor:introduction`

[Corpus index](../index.txt)