十分な時間と慎重さがあれば、アラインメントは解決可能である

AkiraのDoom論は、「アラインメントは原理的に不可能だ」という立場ではない。彼は、このまま超知能が開発されれば人類はほぼ確実に滅びると考える一方で、超知能開発をいったん停止し、その間にアラインメントへ取り組めば、問題を解いて望ましい未来へ進めると明言している。開発停止も恒久的なものではなく、アラインメントが解決するまでの暫定措置として位置付けられている。 X @Align_ASI

その根拠としてAkiraはロケット工学を例に挙げ、危険で、一見すると安全に運用することなど不可能に思える技術でも、丁寧に構築された理論と慎重な工学的態度によって成功させられると論じる。アラインメントについても同様に、開発停止によって必要な時間を確保し、理論と工学を慎重に積み上げれば成功させられる、というのが彼の立場である。したがって、彼のDoom論はアラインメント不可能論ではなく、アラインメントを解決するための時間と慎重さを確保しないまま超知能開発が進むことへの悲観と両立している。 X @Align_ASI