---
about:
- crunch_time
attributed_to:
- cotra
basis_through: '2026-08-28'
id: cotra.crunch-time-redirect-ai-labor-and-slow-transition
kind: proposal
language: ja
mentions:
- ai_alignment
- ai_control
- ai_development_pause
- ai_governance
- ai_r_and_d_automation
- artificial_superintelligence
- automated_alignment
- intelligence_explosion
- recursive_self_improvement
- takeoff_speed
status: reviewed
---
# クランチタイムではAIの労働力を防御用途に振り向け、移行を大幅に遅らせる
Cotra は、AI 研究開発の自動化が始まってから人間をはるかに上回る AI に至るまでの「クランチタイム」では、増大した AI の労働力を能力向上から安全・防御用途へ大きく振り向け、明確な早期警戒が得られるなら移行自体も大幅に遅らせるべきだと提案している。彼女がクランチタイムと呼ぶのは、先端 AI 研究所で研究開発がほぼまたは完全に自動化され、能力向上が大きく加速し始める一方、AI がまだ制御不能なほど強力ではない移行局面である。Cotra のデフォルトの見通しでは、AI 研究開発の自動化から人間をはるかに上回る AI までが約12か月しかない可能性があり、そのような短い局面では、長い準備期間を要する課題よりも短期間で効果を出せる安全・防御策の重要性が増す。
[80,000 Hours Podcast](#corpus-source-1)
[80,000 Hours Podcast](#corpus-source-2)
その中心となるのが、増えた AI の労働力をさらなる能力向上だけに投入せず、次世代 AI のアラインメントとコントロール、サイバー防御、バイオ防御、集団的意思決定や調整の改善など、AI がもたらすリスクへの対処・防御に大きく振り向けることである。初期の変革的 AI を無条件に信頼できるとは想定せず、アラインメント、コントロール、解釈可能性などを組み合わせて、その出力を信頼して利用できる状態を作ることがこの戦略の重要な前提となる。AI がミスアラインしていれば、安全研究や防御作業に協力せず、かえって妨害する可能性があるためである。
[80,000 Hours Podcast](#corpus-source-1)
Cotra はこの方針を、AI の能力向上に資源を注ぎ続けるか、全面的に停止するかという二択とは捉えていない。AI の労働力のほぼすべてをさらなる能力向上に使う状態から、能力向上への投入をゼロにする状態までには幅広い中間的な選択肢があり、その間で小規模な停止や資源配分の変更を繰り返し、安全に役立つ能力を伸ばしながら段階的に進められると考える。特に、明確な早期警戒によって「AI 研究開発の自動化から人間をはるかに上回る AI まで約1年」という高速な移行が迫っていると分かった場合、Cotra はその移行に10年、15年、20年程度をかける方を選びたいと述べている。長期間完全に停止した後で一気に再開するより、各能力段階で必要な安全・ガバナンス作業を済ませながら少しずつ進む方が望ましい、という立場である。
[80,000 Hours Podcast](#corpus-source-2)
この計画の最も起こりやすい失敗要因として Cotra が挙げるのは、AI を防御用途に使ううえでの技術上の限界よりもむしろ、競争圧力のために開発主体が十分な AI の労働力を安全用途へ実際には振り向けないことである。そのため、クランチタイム直前に大幅な組織転換を一度に迫るのではなく、AI が強くなるにつれて、社内の推論用計算資源のうち安全用途に充てる分を段階的に増やし、人間の労働やファインチューニングも含めて安全側への配分を徐々に引き上げておくことが望ましいとする。また、物理インフラの整備、国際協調に向けた社会的合意の形成、政府機関による AI 導入のように、立ち上げに長い時間を要するものはクランチタイム以前から準備すべきだとしている。
[80,000 Hours Podcast](#corpus-source-2)
[80,000 Hours Podcast](#corpus-source-3)
## about
- [crunch time](../terminology/crunch_time.txt)
## mentions
- [AI alignment](../terminology/ai_alignment.txt)
- [AI control](../terminology/ai_control.txt)
- [AI development pause](../terminology/ai_development_pause.txt)
- [AI governance](../terminology/ai_governance.txt)
- [AI R&D automation](../terminology/ai_r_and_d_automation.txt)
- [artificial superintelligence](../terminology/artificial_superintelligence.txt)
- [automated alignment](../terminology/automated_alignment.txt)
- [intelligence explosion](../terminology/intelligence_explosion.txt)
- [recursive self-improvement](../terminology/recursive_self_improvement.txt)
- [takeoff speed](../terminology/takeoff_speed.txt)
## Citation references
- [#235 – Ajeya Cotra on whether it’s crazy that every AI company’s safety plan is ‘use AI to make AI safe’](../sources/cotra_wiblin.80000-hours-crunch-time.txt)
- Source: `source:cotra_wiblin.80000-hours-crunch-time`
- Locator: `time:00:47:21-01:12:01`
- [#235 – Ajeya Cotra on whether it’s crazy that every AI company’s safety plan is ‘use AI to make AI safe’](../sources/cotra_wiblin.80000-hours-crunch-time.txt)
- Source: `source:cotra_wiblin.80000-hours-crunch-time`
- Locator: `time:01:12:01-01:24:42`
- [#235 – Ajeya Cotra on whether it’s crazy that every AI company’s safety plan is ‘use AI to make AI safe’](../sources/cotra_wiblin.80000-hours-crunch-time.txt)
- Source: `source:cotra_wiblin.80000-hours-crunch-time`
- Locator: `time:01:43:59-01:47:03`
[Corpus index](../index.txt)