artificial superintelligence
An artificial intelligence whose cognitive performance substantially exceeds that of the best humans across nearly all intellectually important domains, rather than merely surpassing humans on isolated tasks. It is commonly treated as a broadly superhuman form of AGI; exact thresholds and the magnitude of the advantage vary by usage.
Metadata
- aliases
- en
- ASI
- superintelligent AI
- concept_id
- artificial_superintelligence
- preferred
- en
- artificial superintelligence
- ja
- 人工超知能
- relations
- relations
- broader
- prerequisite
- status
- active
Documents: about (2)
Documents: mentions (14)
- AARを使ってASIアラインメントを解くには、十分に強い研究AIを先にアラインする必要がある
- 十分な時間と慎重さがあれば、アラインメントは解決可能である
- ミスアラインドな研究AIは、人間の意図ではなく研究AI自身の目標にアラインする方法を開発し得る
- 条約と相互査察で国際的な超知能開発停止を検証する
- 弱AGIによる短期アラインメント・ブートストラップへの懐疑
- 最終目標が大きく異なっても、共通の道具的目標が生じやすい
- 知能水準と最終目標は、原理上ほぼ独立である
- アラインメント研究の自動化は、研究AIが意図的に妨害しなくても失敗し得る
- クランチタイムではAIの労働力を防御用途に振り向け、移行を大幅に遅らせる
- ASIの開発停止に向けた国際協定は技術的には具体化できるが、政治的条件がまだ整っていない
- アラインメントは、失敗が致命的になる分布シフト後にも汎化しなければならない
- Yudkowskyによる「大規模なAI学習を世界規模で無期限に停止し、計算資源規制を国際的に執行する案」
- 資源が豊富であることだけから、アンアラインドな超知能が人類のために資源を残すとは推論できない
- 現在と大きく変わらない条件で人間を上回るAIを作れば、人類絶滅が最も可能性の高い結果となる