条約と相互査察で国際的な超知能開発停止を検証する

Akiraは、超知能開発の国際的な停止は、世界政府の設立や米中間の相互信頼を前提にしなくても実施し、その遵守を検証しうると提案している。彼の想定では、新しい強力なAIの開発には巨大なデータセンターが必要であり、その規模の施設は隠しにくい。したがって、条約に基づいて互いのデータセンターに監査団を送り、開発停止が守られているかを相互に確認する仕組みを設ければよい、という考えである。 X @Align_ASI

この停止は、AI全般の利用や開発を凍結するものではない。Akiraは、既存のAIを使い続けることができ、医療・自動運転・ロボットなどの特化型AIの開発やチップ製造も継続できるとしている。つまり、停止対象を新たな超知能の開発に絞り、大規模データセンターを検証の要所とすることで、秘密警察や世界政府を必要としない暫定的な国際停止を構想している。 X @Align_ASI