能力と目的は別の軸である
Yudkowskyは、何ができるかだけを根拠に、実際に何をするかまで推論することを「巨大チーズケーキの誤謬」（巨大なチーズケーキを作れるからといって、実際に作ろうとするとは限らない、という例）として批判し、何ができるかという能力と、何をする方向へ最適化するかという動機を区別している。さらにこの考えを一般化し、最適化過程は可能な未来を特定の対象へ向けるものだと捉える。したがって、高度な知能や最適化能力それ自体から、人間にとって望ましい目標は導かれないと説く。 Artificial Intelligence as a Positive and Negative Factor in Global Risk
この区別を、知能と最終目標の組み合わせについて一般化したのが直交性テーゼである。その定式化では、計算上扱える目標であれば、非常に高い知能を持ちながら、その目標を追求する主体が存在しうるとしている。これは高い知能なら自動的に善い目標を持つという必然性を否定する一方、実際の学習過程でどの目標が生じやすいかという確率分布までは主張していない。 Orthogonality Thesis
Metadata
- about
- attributed_to
- yudkowsky
- basis_through
- 2026-08-24
- id
- yudkowsky.capability-motive-separation
- kind
- position
- language
- ja
- mentions
- status
- reviewed
Citation references
- Artificial Intelligence as a Positive and Negative Factor in Global Risk
- Source:
source:yudkowsky.ai-positive-negative-factor - Locator:
page:9-11
- Source:
- Orthogonality Thesis
- Source:
source:yudkowsky.orthogonality-thesis - Locator:
anchor:introduction
- Source: