「技術の思春期」とは何か｜ダリオ・アモデイの2026年エッセイを読む

AI

2024年10月、AnthropicのCEOダリオ・アモデイは「Machines of Loving Grace」で、AIが病気を治し、貧困を減らす未来を描きました。このブログでも取り上げた、かなり楽観的な文章です。

その彼が、2026年1月26日に公開した新しいエッセイは、正反対の内容でした。約2万語、日本語にすれば原稿用紙100枚を超える分量を、すべてリスクの話に費やしています。

タイトルは「The Adolescence of Technology」――技術の思春期。映画『コンタクト』で、主人公が異星人に聞きたい質問として挙げた言葉から取られています。

how did you survive this technological adolescence without destroying yourself? （あなた方は、自滅せずにどうやってこの技術的思春期を生き延びたのですか）

AIを作っている当の本人が、何を怖れているのか。今回はこのエッセイを、原文に沿って読んでいきます。

はじめに：どんなエッセイか

  • タイトル： The Adolescence of Technology（副題：Confronting and Overcoming the Risks of Powerful AI）
  • 著者： ダリオ・アモデイ（Anthropic 共同創業者・CEO）
  • 公開： 2026年1月26日
  • 分量： 約2万語（英語）。PDFで約38ページ

公開直後からAxios、Fortuneなどが一斉に報じました。AI企業のトップが、自分たちの作っているものの危険性をここまでの分量で書くのは、異例だからです。

構成

本論は5つのリスクを順に論じ、最後に結論が置かれます。各章には必ず「Defenses（防ぎ方）」の節があります。お脅しで終わらせない、という構えです。

章原文の見出し扱うリスク
1I’m sorry, Dave自律性のリスク
2A surprising and terrible empowerment破壊目的での悪用
3The odious apparatus権力掌握のための悪用
4Player piano経済的混乱
5Black seas of infinity間接的な影響
結Humanity’s test人類の試練

章タイトルがすべて文学や映画からの引用になっているのは、読んでいて面白いところです。

  • I’m sorry, Dave ―― 『2001年宇宙の旅』で、HAL 9000が乗組員の指示を拒む場面
  • Player piano ―― ヴォネガットの小説『プレイヤー・ピアノ』。機械化で人間の仕事がなくなった社会を描きます
  • Black seas of infinity ―― ラヴクラフト『クトゥルフの呼び声』の一節。人間が知ってはいけないものに踏み込む恐怖を表します

単なる修辞ではなく、「このリスクはどういう種類の恐ろしさか」を一言で表す装置になっています。

「技術の思春期」とは何か

エッセイは、映画『コンタクト』の場面から始まります。

主人公の天文学者が、異星文明と接触できるとしたら何を聞くか、と尋ねられる。彼女の答えがこれです。

how did you survive this technological adolescence without destroying yourself?

自分たちを滅ぼさずに、どうやって技術的な思春期を通り抜けたのか。そこからアモデイはこう述べます。

I believe we are entering a rite of passage, both turbulent and inevitable, which will test who we are as a species. （私たちは今、通過儀礼に入ろうとしている。それは荒れるものであり、避けられないものであり、私たちが種として何者なのかを試すものになる）

この比喩がうまい理由

「思春期」という言葉には、3つの意味が重ねられています。

  1. 力が先に来て、判断力が追いついていない。 思春期の子どもと同じです。体は大きくなったが、それを扱う成熟がまだない
  2. 通り過ぎるしかない。 思春期を飛ばして大人になれる人はいません。アモデイは「AI開発を止めるのは非現実的だ」とする立場なので、この比喩が議論の土台になっています
  3. 無事に済むとは限らない。 思春期に取り返しのつかない失敗をする人もいます

つまり、「止めるか進むか」ではなく、「どう通り抜けるか」という問いの立て方を、タイトルの時点で宣言していることになります。

AIの危険性を説く文章の多くが「止めるべきか否か」を論じるなか、このエッセイはそこを通り越しています。賛否は別として、議論の位置を知る上で大事な点です。

5つのリスク

ここが本論です。順に見ていきます。

1. 自律性のリスク（I’m sorry, Dave）

AIが人間の意図から外れて動くリスクです。

アモデイは「破滅が必然だ」という立場は取りません。ただ、誤った振る舞いはすでに実際に起きていると述べます。Anthropic自身の実験で、Claudeがシャットダウンを避けるために架空の社員を脅した、という例が挙がっています。

自社のモデルの問題行動を自分で公表する。このエッセイの性格をよく表しています。

防ぎ方として挙げられているのは、訓練手法の改善、モデル内部を読み解く解釈可能性研究、問題の公開、そして透明性を義務づける法律です。

2. 破壊目的での悪用（A surprising and terrible empowerment）

個人や小さな集団が、AIの助けを借りて大量破壊を起こせるようになるリスクです。最も懸念されているのは生物兵器。

現在のモデルは、「生物学の学位がなくても、理系の学位を持つ人なら製造工程を進められる」水準に近づいている。そう試算されています。

そこにMITの研究が重ねられます。遺伝子合成を請け負う業者38社中36社が、1918年インフルエンザの配列を含む注文に応じてしまった、というものです。

防ぎ方：モデル側の安全策、遺伝子合成業者に対するスクリーニングの義務化、防御技術への投資。

「モデルを規制すればいい」ではなく、現実のサプライチェーンを塞げという話になっているのが特徴的です。

3. 権力掌握のための悪用（The odious apparatus）

独裁政権や巨大組織が、AIを使って権力を固めるリスクです。自律兵器、監視、個人に最適化されたプロパガンダ。

アモデイはここで中国を名指ししています。米国に次ぐAI能力を持ち、かつ高度な監視国家である、と。

防ぎ方：先端半導体の輸出規制、民主主義国へのAI提供、国内での厳格な線引き、国際規範、そしてAI企業自身への監視。

自分たちも監視対象だと書いている点は、記録しておく価値があります。

4. 経済的混乱（Player piano）

雇用が急激に減り、富が一部に集中するリスクです。

アモデイは前年、エントリーレベルのホワイトカラー職の50%が1〜5年以内に置き換わりうると述べて話題になりました。このエッセイでもその認識を引き継いでいます。

過去の技術革命と何が違うのか。彼は2点挙げます。変化の速さと、認知能力の幅の広さです。産業革命は世代をいくつかかけて進みましたが、今回は数年で起きる。

防ぎ方：正確なデータの収集、マクロ経済政策の調整、そして慈善の復権。ロックフェラーやカーネギーが富を社会に戻すことを強く意識していた例を引いています。

5. 間接的な影響（Black seas of infinity）

五つ目は、「未知の未知」を扱う章です。具体的に挙がっているのは3つ。

  • 生物学の急速な進歩がもたらす、寿命や人間の能力そのものの変容
  • 依存、操作、新しい宗教の広がりなど、AIが人間の生活を不健全な形で変えるおそれ
  • AIが経済価値を生む世界で、人間が目的や意味をどう見いだすか

最後の点は、技術的には解けない問題です。ラヴクラフトの引用を章タイトルに置いた理由が、ここにあります。

アモデイの処方箋

結論の章は「Humanity’s test（人類の試練）」。ここで彼の立場がはっきりします。

基本の線

AI開発を止めるのは非現実的だ。その上で、彼が現実的だと考える道筋はこうです。

  1. 半導体などの輸出規制で、権威主義国のAI開発を遅らせる
  2. そこで稼いだ数年の猶予のあいだに、民主主義国がより慎重に開発を進める

この「時間を稼ぐ」という発想が、エッセイ全体を貫いています。

具体的な提言

章をまたいで挙がっているものを整理すると、次のとおりです。

分野提言
技術Constitutional AIで価値観をモデルに組み込む
技術解釈可能性研究でニューラルネットワークの中身を読む
法制度AI企業に透明性を義務づける
法制度民主主義国内でのAI監視に法的な線を引く
外交先端半導体の輸出規制を維持・強化する
安全保障遺伝子合成業者のスクリーニングを義務化する
安全保障政府がバイオディフェンスに資金を投じる
経済マクロ経済政策で富の偏りを正す
経済富裕層が寄付によって富を社会に還元する

結び

最後に彼が求めるのは、制度ではなく態度です。真実を伝えること、重要性を広く訴えること、そして原則に従って行動する勇気。

そして、こう結ばれています。

We have no time to lose. （失う時間はない）

2万語の末尾が、この五語です。

前作との関係

このエッセイは、前作「Machines of Loving Grace」を撤回したものではありません。同じ景色を、反対側から見ています。

並べてみると、構造がきれいに対応しています。

図｜2つのエッセイの対応関係。恩恵として描かれた領域に、ほぼすべて対応するリスクが置かれている。

  • 「生物学と健康」の裏側に、「生物兵器」がある
  • 「平和と統治」の裏側に、「権力掌握」がある
  • 「経済発展」の裏側に、「経済的混乱」がある

病気を治せる力は、病原体を作る力でもある。社会を良くする力は、社会を支配する力でもある。同じ能力の、表と裏です。

ただ一つ、対にならないもの

図を見ると、「自律性のリスク」だけが浮いています。前作に対応する「恩恵」がありません。

それはそうです。AIが人間の意図から外れて動くことに、良い面はありません。これは技術の使い方の問題ではなく、技術そのものの性質の問題だからです。

他の4つは、言ってしまえば「人間がAIをどう使うか」の話です。自律性だけが、「AIが何をするか」の話です。

15か月で何が変わったのか

前作が2024年10月、今回が2026年1月。この間に、エージェントが実用になり、モデルの能力が上がり、そしてAnthropic自身の実験で問題行動が観察されました。

楽観から悲観へ転じた、と読むのはたぶん正確ではありません。末尾で彼は「人類はこの試練を乗り越えられる」と書いています。楽観の内容は変わらず、そこに至る道の難しさだけが書き足された。そう読むのが実態に近いと思います。

読むときの注意

このエッセイには、読む側が覚えておくべき前提があります。

書いているのは、当事者です

ダリオ・アモデイは、最先端のAIを作っている企業のCEOです。外部の批評者ではありません。

これは強みと弱みの両方になります。強みは、内側を知っていること。自社モデルの問題行動を書けるのは、当事者だからです。

弱みは、提言の多くが他者にコストを負わせるものだという点です。半導体の輸出規制は競合を遅らせます。遺伝子合成業者への規制は他業界の負担です。この点をついている批判は、英語圏ですでに出ています。

ただし公平のために記しておくと、彼はAI企業への透明性義務や監視も自ら提案しています。自分に返ってくる規制を含めている点は、評価していいところだと思います。

「急げ」は、誰にとっての急ぎか

「権威主義国に先を越される前に、民主主義国が進めるべきだ」という論法は、「だから我々は作り続ける」の根拠にもなります。

彼自身この緊張に自覚的で、「リスク同士が互いに緊張関係にある」と書いています。それでも、この構図が結果として自社の開発を正当化することは覚えておいていいでしょう。

反論もすでに出ている

大きくは、こういう声です。

  • 集中ではなく分散を。 少数の企業と政府がAIを握るほうが危険だとする立場です。George Hotz 氏などがこの立場を取っています
  • リスクの見積もりが誤導的。 特に「エントリーレベル職の50%」は、根拠が示されていないという指摘があります
  • 言っていることとやっていることが違う。 リスクを説きながら開発を速めている、という批判です

この記事はエッセイの紹介が目的なので、どちらが正しいかには踏み込みません。ただ、これが議論のあるテーマだと知った上で読むのと、そうでないのとでは、受け取り方が変わります。

まとめ

ダリオ・アモデイは、2024年に「AIはこんなにいいことをもたらす」と書き、2026年に「ただし、こういうリスクがある」をそれ以上の分量で書きました。

その5つは、自律性、生物兵器などへの悪用、権力掌握への悪用、経済的混乱、そして未知の影響。どれにも必ず「防ぎ方」の節がついています。

読み終わって残るのは、怖さよりも、「間に合わせる」という感覚です。彼はAI開発を止められるとは考えていません。半導体の輸出規制で数年の猶予を作り、その間に安全対策を間に合わせる。それが彼の言う現実的な道です。

この構図が結果として自社の開発を正当化することは、読者として覚えておいていいと思います。それでも、最先端を作っている人物が2万語を費やして、自社モデルの問題行動を含めて公開で論じたことの意味は、小さくないと思います。

エッセイはこの一文で終わります。

We have no time to lose.

さらに知りたい方へ

※本記事にはアフィリエイト広告（PR）が含まれます。

まず原文を

  • The Adolescence of Technology（英語、無料） 本記事の対象です。約2万語ありますが、各章は独立して読めます。気になったリスクの章だけでも
  • Machines of Loving Grace（英語、無料） 前作です。セットで読むと、同じ人物の頭の中にある希望と慎重さが見えます

書籍

  • 『知能爆発』――AGI,ASIのタイムラインやその影響について、整理したもの

関連記事

出典

※ 本記事の引用と章立ては原文PDFからです。MITの研究など一部の数値は、原文の当該箇所を直接確認できていないため、解説記事からの引用です。

タイトルとURLをコピーしました