- 8月23日

AI限界説は真っ赤な嘘だ

元OpenAI技術者レオポルド・アッシェンブレンナーが予見する次の大変革

「AIはこれ以上進化しない」――そんな言葉を信じているなら、あなたは間違いなく未来を見誤っています。今、私たちは人類史上最大の技術革命の真っ只中に立っており、その変化を正確に読み解いているのが、ドイツ出身のAI研究者レオポルド・アッシェンブレンナーです。彼はOpenAIのスーパーアラインメント・チームで最先端の技術を手がけ、その後、AGI（人工汎用知能）に特化した投資会社を設立しました。

アッシェンブレンナー氏が描く未来は、私たちの想像を遥かに超えるものであり、AI限界説を信じる者たちにとっては信じがたいものでしょう。しかし、彼が指摘する事実は避けられません。AIは止まるどころか、私たちがまだ見たことのないスピードで進化し続け、やがて「超知能」となる日が訪れるのです。

レオポルド・アッシェンブレンナー氏とは？

レオポルド・アッシェンブレンナー氏は、ドイツ出身のAI研究者であり、世界的に著名なAIコミュニティでその名を知られています。彼は、2024年4月までOpenAIのスーパーアラインメント・チームに在籍し、AI技術の最前線で活躍していました。このチームは、AIが人間よりも賢くなったときに、その行動を制御するための技術開発を行う重要な部署であり、アッシェンブレンナー氏はその中心人物として多大な貢献をしてきました。

彼はOpenAIでの経験を活かし、その後AGI（人工汎用知能）に特化した投資会社を設立しました。彼の会社は、次世代のAI技術に資金を投入し、その発展を加速させることを目的としています。アッシェンブレンナー氏の豊富な知識と洞察力は、AI業界で非常に高く評価されており、彼の論文は業界内外で大きな影響を与えています。

OpenAIとの関わり

OpenAIは、世界で最も先進的なAI研究機関の一つであり、AIの倫理的な活用と発展を目指して活動しています。アッシェンブレンナー氏は、この組織の中で特に重要な役割を果たしてきました。彼が所属していたスーパーアラインメント・チームは、AIが人間の知能を超えたときに起こりうるリスクを管理するための技術を開発することを目的としており、その成果は今後のAI技術の発展にとって極めて重要です。

アッシェンブレンナー氏は、この分野での経験と知識を元に、AI技術の未来について深く考察しています。彼の洞察は、単なる予測ではなく、AIの進化を肌で感じ取った者による現実的な見解であり、その信頼性は非常に高いと言えます。

元OpenAI技術者のアッシェンブレンナー「数年以内に汎用人工知能（AGI）は実現する」

2024年4月、アッションブレンナー氏が出した文書には衝撃的な内容が記載されていました。

その内容は、2027年までにAGI（汎用人工知能）が誕生する可能性が高く、それ以降はAIが自らを改良し、数年分の進歩をわずか数ヶ月で達成する能力を持つようになる、という驚くべきものでした。

今、世界中でAGI競争が激化しています。しかし、この競争は単なる技術開発の話ではありません。アメリカ、中国といった大国が、これを巡って国家の存亡を賭けたゲームに突入しようとしているのです。アッシェンブレンナー氏は、もし運が悪ければ、これが全面戦争に発展する可能性もあると警鐘を鳴らしています。

さらに恐ろしいことに、今のAIラボはセキュリティ対策を後回しにしており、重要な技術が中国共産党（CCP）の手に渡る危険性が現実となりつつあります。あなたは、このまま自由世界がその優位性を失い、権威主義国家に支配される未来を想像できますか？

このような状況の中で、米国政府もついに目を覚まし、2027年から2028年にかけて、何らかの政府主導のAGIプロジェクトが立ち上がると予想されています。スタートアップ企業では到底扱いきれないこの規模のプロジェクトは、もはや国家レベルの問題となっているのです。

これは陰謀論でもなんでもありません。

元OpenAIの技術者が作成した最も信憑性がある論文なのです。

AI限界説が嘘である根拠

AI限界説、つまり「AIはこれ以上進化しない」という主張は、次の理由から誤りであると言えます。

1. AIの急速な進化の歴史

まず、GPT-2からGPT-4までの進化を振り返ってみましょう。

GPT-2（2019年発表）：GPT-2は、約15億パラメータを持つモデルで、基本的な自然言語処理が可能でした。たとえば、文章の続きを生成したり、簡単な質問に答えたりする能力がありましたが、その知能レベルはまだ「幼児」のようなものでした。
GPT-3（2020年発表）：GPT-3は、GPT-2に比べて飛躍的に進化しました。1750億パラメータを持つこのモデルは、非常に高度な言語処理が可能で、文章生成や対話、翻訳など、多岐にわたるタスクをこなすことができました。この時点で、GPT-3は「高校生」レベルの知能に達したと言えます。
GPT-3.5（2022年発表）： GPT-3.5は、GPT-3にさらに改良を加えたもので、特に対話の流暢さや一貫性が向上しました。約2000億パラメータを持つこのモデルにより、より自然な会話が可能となり、実用的なAIアシスタントとしての性能が飛躍的に向上しました。
GPT-4（2023年発表）： GPT-4は、さらに進化を遂げました。約1兆パラメータに及ぶ巨大なモデルであり、複雑な問題の解決や専門的な知識を伴う対話も可能になりました。このモデルは、もはや「大学卒業生」レベルの知能に達していると言えるでしょう。
GPT-4o（2024年発表）： GPT-4の改良版であるGPT-4oは、約1.5兆パラメータを持ち、さらに効率的で強力なモデルとなることが期待されています。人間の思考プロセスに近い推論が可能となり、AIの活用範囲がさらに広がることが予測されます。
GPT-5（2025年予想）： さらに進化したGPT-5は、驚異的な性能を持つことが予測されています。推定パラメータ数は数十兆に達し、人間の高度な専門知識や創造的な思考プロセスに近いレベルの推論が可能になると期待されています。このモデルは、AIが「超知能」へと進化する重要なステップとなり、複雑な社会問題の解決や新しい知識の創出において、人間を大きく支援する存在になるでしょう。

2. 計算能力とアルゴリズムの向上

計算能力の増大とアルゴリズムの効率化が、AIの進化をさらに加速させています。計算能力は毎年0.5桁（OOM）の速度で向上し、アルゴリズムの効率も同じく0.5桁の速度で改善されています。このトレンドが続けば、AIは2027年までにさらに大きな飛躍を遂げ、私たちが想像する以上の能力を持つようになるでしょう。

アッシェンブレンナー氏の論文を全文翻訳

状況認識：これからの10年
レオポルド・アッシェンブレナー、2024年6月

未来を見るなら、まずはサンフランシスコを見てみよう。

過去1年で、話題は100億ドルのコンピュートクラスターから1000億ドルのクラスターへ、さらに1兆ドルのクラスターへと移り変わりました。半年ごとに、会議室の計画にゼロが一つずつ追加されています。舞台裏では、今後の10年間に利用可能なすべての電力契約を確保するために、あらゆる電圧変圧器を手に入れようと熾烈な争奪戦が繰り広げられています。アメリカの大企業は、長らく見られなかった規模の産業動員に数兆ドルを投じる準備を進めています。今世紀末までに、アメリカの電力生産量は数十パーセント増加し、ペンシルベニア州のシェールガス田からネバダ州のソーラーファームに至るまで、数億台のGPUが稼働するでしょう。

AGI（人工汎用知能）の競争が始まりました。私たちは、思考し、推論できる機械を作り上げています。2025/26年には、これらの機械は多くの大学卒業生を凌駕するでしょう。今世紀末までには、私たちよりも賢くなり、本当の意味での超知能を持つことになります。その過程で、半世紀ぶりに国家安全保障の力が解き放たれ、「プロジェクト」が始まるでしょう。運が良ければ、中国共産党（CCP）との全面的な競争に突入するでしょう。運が悪ければ、全面戦争になるかもしれません。

今、誰もがAIについて話していますが、これから何が起こるのかを知っている人はほとんどいません。Nvidiaのアナリストでさえ、2024年がピークに近いと考えています。主流の評論家は、「次の単語を予測しているだけだ」と意図的に目をそらしており、ただの流行や通常のビジネスの延長線上としてしか見ていません。せいぜい、インターネット規模の技術的な変化を想像する程度です。

やがて世界は目を覚ますでしょう。しかし今のところ、この状況を理解しているのは、サンフランシスコやAIラボにいる数百人程度です。私もその中にいるという不思議な運命に巡り合いました。数年前、彼らは狂気じみた人々と嘲笑されていましたが、彼らはトレンドラインを信じ、それによって過去数年間のAIの進歩を正確に予測しました。彼らが次の数年間についても正しいかどうかはまだわかりません。しかし、彼らは非常に賢い人々で、これまで会った中で最も賢い人々です。そして彼らがこの技術を作り上げています。彼らが未来を正確に見ているなら、私たちはこれから大変な時代に突入するでしょう。

私たちが見ているものをお話ししましょう。

序文
サンフランシスコでは歴史が生きています。

I. GPT-4からAGIへ：OOMを数える2027年までにAGIが実現する可能性は非常に高いです。GPT-2からGPT-4までの4年間で、能力は幼児レベルから賢い高校生レベルへと進化しました。計算能力（年に0.5桁（OOM）程度）、アルゴリズムの効率化（年に0.5桁）、および「アンホブリング」効果（チャットボットからエージェントへ）を追跡することで、2027年までに同様の質的飛躍が起こることが予想されます。

II. AGIから超知能へ：知能の爆発AIの進歩は人間レベルで止まることはありません。数億台のAGIがAI研究を自動化し、10年分のアルゴリズム進歩（5桁以上のOOM）を1年以内に圧縮する可能性があります。私たちは急速に人間レベルから遥かに超越したAIシステムに移行するでしょう。超知能の力と危険性は劇的なものとなるでしょう。

III. 課題
IIIa. 1兆ドルのクラスターへの競争最も驚異的なテクノロジー資本の加速が始まりました。AIの収益が急速に成長する中、今世紀末までに数兆ドルがGPU、データセンター、電力拡充に投入されるでしょう。産業動員は強烈なものとなり、米国の電力生産は数十パーセント増加するでしょう。

IIIb. ラボをロックダウンする：AGIのセキュリティ国の主要なAIラボはセキュリティを後回しにしています。現在、彼らは事実上、AGIの主要な秘密をCCPに銀の皿で提供している状態です。国家の脅威に対するAGIの秘密と重みを守ることは非常に大きな努力を要し、今のところ私たちはその軌道に乗っていません。

IIIc. スーパーアラインメント私たちよりもはるかに賢いAIシステムを確実に制御することは、まだ解決されていない技術的問題です。そして、これは解決可能な問題ではあるものの、急速な知能爆発の過程で事態が悪化する可能性も十分にあります。これを管理するのは非常に緊張を伴うでしょう。失敗すれば、簡単に壊滅的な結果を招くかもしれません。

IIId. 自由世界は勝たなければならない超知能は決定的な経済的および軍事的優位性をもたらします。中国はまだ競争から完全に脱落していません。AGI競争において、自由世界の生存そのものがかかっています。私たちは権威主義国家に対する優位性を維持できるでしょうか？そして、その過程で自己破壊を避けることができるでしょうか？

IV. プロジェクトAGIへの競争が激化する中で、国家安全保障機関が関与するでしょう。米国政府は眠りから目覚め、2027/28年までには何らかの政府主導のAGIプロジェクトが開始されるでしょう。スタートアップ企業では超知能を扱いきれません。どこかのSCIF（特別管理施設）で、エンドゲームが始まるでしょう。

V. 終わりの考察もし私たちが正しいとしたら？
シリーズの次の投稿:I. GPT-4からAGIへ：OOMを数える
私は以前、OpenAIで働いていましたが、ここで述べたことはすべて、公開されている情報、私自身のアイデア、一般的な分野の知識、またはサンフランシスコのゴシップに基づいています。

コリン・バーンズ、アビタル・バルウィット、カール・シュルマン、ヤン・ライケ、イリヤ・サツケバー、ホールデン・カーノフスキー、ショルト・ダグラス、ジェームズ・ブラッドベリー、ドワケッシュ・パテル、その他多くの方々に、建設的な議論をしていただいたことに感謝します。また、早期のドラフトに対するフィードバックをいただいた多くの友人に感謝します。グラフィックに関してはジョー・ローナンに、出版の手助けをしてくれたニック・ウィテカーに感謝します。

イリヤ・サツケバーに捧ぐ。

結論

AIはこれからも進化し続け、人間の知能を超える「超知能」に達するでしょう。AI限界説は、この現実を直視せず、ただの技術的進歩に過ぎないと誤解しています。しかし、実際には、AIは今後の世界を形作る大きな力となることは間違いなく、その進化は私たちが想像する以上に速く、深く進行していくでしょう。AI限界説を信じる人々は、その考え方を改め、未来の技術革新に目を向けるべきです。