AIと共にある社会を設計するために

AIは人間と同等かそれ以上の知能をもつAGI（Artificial General Intelligence：汎用人工知能）に近い将来到達するであろうと言われています。AIが高度化する中、問われているのは社会制度や価値観のあり方です。Future Impact Forum第11回では、AI研究者の今井翔太先生（北陸先端科学技術大学院大学客員教授）に、AIと共にある社会をどう設計すべきかについて語っていただきました。

AI開発は研究競争から資本競争へ

現在のAIの急速な進歩を理解する上で欠かせないキーワードが「スケーリング則」です。AI研究というと、高度な理論や画期的なアルゴリズムが性能向上の源泉だと思われがちです。しかし、近年の大規模生成AIの発展を支えているのは、むしろ非常に単純な考え方です。学習データの量を増やす。計算資源の量を増やす。モデルの規模を大きくする。この三つを拡大すると、AIの性能は一貫して向上する。これがスケーリング則です。

その背景には、強化学習研究の第一人者リチャード・サットン氏が提唱した「The Bitter Lesson（苦い教訓）」があります。人間によって知識やルールを細かく組み込むよりも、膨大な計算資源を使ってAI自身に学習させた方が最終的には優れた成果を生むという考え方です。

実際、現在の最先端AI開発では、どれだけ大規模な学習データ、計算資源、モデルサイズを使えるかが性能を左右しています。とりわけ重要になるのが計算資源となるデータセンターです。最先端AIの学習には、極めて高性能な半導体チップが大量に必要になります。その規模はもはや大学や一般企業が賄える範囲を超えています。最先端モデルの開発には、最低でも東京スカイツリーの総事業費と同等の規模（約650億円）の投資が必要だと言われており、最近では東京スカイツリー5～10本分もの金額になることもあると聞きます。つまりAI開発は研究競争から資本競争になっているのです。

巨大テクノロジー企業が数兆円から数十兆円規模の投資を続けている背景には、「より大きな計算資源を確保することが、より高性能なAIにつながる」という確信があります。

人間を超える知能の実現を目指すAI開発最前線の世界観

AI研究の究極目標はAGI、すなわち人間を超える人工知能の実現です。研究者によって定義は異なりますが、人間のどんな知的活動もこなせる人工知能と考えればよいでしょう。

わずか数年前、AGIは遠い未来の話でした。2021年頃の研究者コミュニティでは、「実現まで50年から100年はかかるだろう」「自分が生きている間には実現しないだろう」と考える研究者は珍しくありませんでした。

しかし2022年にChatGPTが登場してから、この認識は大きく変わりました。多くの研究者や企業経営者が、AGI実現の時期を大幅に前倒しして語るようになりました。もし2016年の自分に、2026年のAI技術を見せたら、「10年後にはAGIが実現しているのか」と思うはずです。それほどまでに技術の進歩が加速しています。

私は先日シリコンバレーの巨大テクノロジー企業を視察し、経営層は単に便利なAIをつくろうとしているのではないということを強く感じました。彼らの一部は大真面目に「神をつくっている」と語り、人間の知能を超える存在を「デジタルゴッド」と呼びます。もしあらゆる人間の知的活動を代替できる存在が生まれれば、科学研究も経済活動も国家運営も一変するでしょう。彼らにとってこれは人類史上で最後の競争であり、負けるくらいなら破産してもいいと言い切る経営者すらいます。そうした世界観が、数兆円、数十兆円規模のインフラ投資やデータセンター建設競争を突き動かしているのです。

AI研究は、賢さから便利さの向上に軸足を移す

ところで、AIの性能はどのように測られているかをご存じでしょうか。大学入試問題を解けるか、専門知識を問う試験で高得点を取ることができるか、難解な数学問題を解けるか、といった賢さの指標がAIの性能を測る基準として使われてきました。つまり、AI研究は長らく「どれだけ賢くできるか」を競ってきたということです。

しかし近年、研究者たちは、賢さと便利さは一致しないという問題に直面しています。数学オリンピックで金メダル級の成績を出せるAIが、必ずしも企業の業務を支援できるわけではありません。人間が求めているのは、テストの成績ではなく便利さです。AI研究の関心事は、「賢さ（知能）」から「便利さ（効用）」へと軸足を移しつつあります。その事例をいくつかご紹介しましょう。

AIエージェント

便利さの代表例であるAIエージェントは、質問に答えるだけではなく、検索をおこない、情報を整理し、ツールを使いながら複数の作業をこなします。この複数の作業を一貫して実行できる時間が飛躍的に長くなっています。以前は数十秒程度のタスクしか実行できなかったのが、いまでは十時間以上のものをこなせるようになりつつあります。

動画生成AI

最近の研究では、動画生成AIは物理法則や世界構造を理解しているような振る舞いを見せることがわかってきました。例えば羽根と鉄球をある高さに配置した画像を用意します。それぞれが落下する動画の生成を指示すると、背景が地球上の場合、空気抵抗があるので羽根は鉄球より落下するのが遅くなります。それに対し、背景が月面の場合、空気抵抗がないので羽根と鉄球は同じように落下する動画が生成されるのです。大量の動画を学習することで、空気抵抗や重力など物理法則を暗黙的に学習している可能性があると指摘されています。

参考：Video models are zero-shot learners and reasoners (Google DeepMind)

フィジカルAI

動画生成AIは、ロボットなどが物理世界で視覚などの情報を基に行動しながら学習するフィジカルAIにも活用できます。物理世界の学習はデジタル情報の学習のように並列処理できず、1万年分の経験を積むには現実の時間として1万年かかってしまいます。そこである行動をとった結果何が起きるかを仮想的に動画生成できれば、現実の物理世界を使わずに学習を進められます。例えば自動運転であれば実際の交通状況を再現した動画を、ロボットが動く部屋であれば右を向けばこういう風景になるといった動画をフィジカルAIの学習に利用します。これは「世界モデル」と呼ばれており、仮想的につくられた世界モデルによってロボットを学習させることができます。さらに並列で学習させることにより学習時間を大幅に短縮することができます。

参考：Genie 3: A new frontier for world models(Google DeepMind)

科学研究へのAI活用

AI for Science^※1の領域では、人間だけでは到達困難だった科学的発見を支援する事例が増えています。例えばAlphaFold2は、アミノ酸の配列からタンパク質の3次元構造をほぼ完璧に予測することに成功し、長年の科学界の難問を解き明かしました。この研究は2024年にノーベル化学賞を受賞しています。

このようにAI研究は、知能を競う段階から、人類にとっての効用を競う段階へ進んできています。

• ※1AI for Science： AIを科学研究のプロセス全体に適用し、新しい発見や技術革新を加速させる取り組み。AIがシミュレーションやデータ解析だけでなく、仮説の設定、実験計画、検証までを自律的に担うことが期待されている。

社会の前提を変えるAI

AIの活用により、医薬品の開発や遺伝子研究などによる難病の治療、核融合の制御などによるエネルギー不足の解消、無機結晶の触媒を発見することなどによる環境負荷の軽減、作物のモニタリングと病害虫の予測などによる食料供給の安定化など、多くの分野で革新が期待されています。人間より知能の高いAIによる科学的発見が自動化していけば、人間の世界にあるさまざまな課題はAIによって解決されるのではないかと言われています。

また、人間は24時間365日働くことはできず、身体的な限界もありますし、法律による制約もあります。理想的な生産性を考えたときに、こうした生物的・社会的な制約から、人間はボトルネックになっているという指摘があります。そして、仮にそれらの制約がなくなれば産業爆発が起きると言う人もいます。

これら二つの説を前提にしたとき、もしAGIが実現したらすべての人間の労働を代替できるはずだ、人間ができなかったこともできるはずだ、というやや極端な主張をする人もいます。先ほど話したAlphaFold開発者のデミス・ハサビス^※2氏は「根源的な豊かさ^※3」や、私たちが望んだものが必要なだけ供給される「脱希少性経済^※4」の世界が到来する可能性を示唆しています。

一方で、懸念もあります。
第一に、人間が働くことの動機や価値観への影響です。仕事は収入を得る手段であると同時に、社会への貢献や自己実現を通じてその人の尊厳を支える役割を担っています。もしAIが仕事の多くを代替する社会となれば、人間はどこに存在意義を見いだすのかという問題が生まれます。余談ですが、私はあるAI研究者と経済学者が、「人間がAIに勝てるものは何か」を議論した場に居合わせたことがあります。結論は「過去の栄光や資産、人脈ではないか」というものでした。あまり健全とは言えない結論ではありますが、従来人間が後天的に獲得してきた知能やその価値を、仮にAIによって代替するとどうなるかを考えさせられる出来事でした。

第二に、AIによる意思決定の偏りです。例えばAgentic Economy（エージェント経済）やAgentic Commerce（エージェント・コマース）と呼ばれる概念が注目されています。これは従来人間がおこなっている意思決定をAI同士が自律的に交渉して決済・売買などをおこなうというものです。ここでもAIの商品やサービスの選択に偏りがあり、プロンプトでその偏りを修正することも難しい可能性があるという研究が報告されていますので、注意が必要です。

第三に、高度な知能が広く利用可能になることのリスクです。一般的に社会では非常に知能の高い人は絶対数として少なく、それゆえにさまざまな場所で必要とされるため、悪意ある行為をする機会も動機も少ない状況です。ところがAIによって誰もが容易に高度な知能を利用できるようになると、悪意をもつ一部の人が高度な攻撃行為を実行できてしまう可能性があります。例えば高度なハッキングや生物学的な知識の悪用、さらには制度の欠陥を突いた不正などが懸念されています。

こうした可能性と懸念を踏まえると、AIの高度化は技術の問題にとどまらず、社会制度や価値観そのものの再設計を迫るテーマであることがわかります。

• ※2デミス・ハサビス（英: Demis Hassabis、1976年～）：イギリスの人工知能研究者、神経科学者（脳科学者）。Google DeepMindの最高経営責任者（CEO）およびIsomorphic Labsの最高経営責任者（CEO）兼共同創業者。2024年ノーベル化学賞を受賞。
• ※3根源的な豊かさ（radical abundance）とは、AGIの実現によって地球上のあらゆる希少性や制約が取り除かれ、病気の克服やクリーンエネルギーの普及などが実現した、人類の繁栄の未来を指す。
• ※4脱希少性経済（post-scarcity economy）とは、AGIやロボティクス、新素材開発・エネルギー技術の発展により、衣食住や医療、エネルギーなどの生存・社会維持に必要な資源が適切かつ極めて安価に供給されるようになった状態の経済社会を指す。

AIと共にある社会を設計する

今後もAIの性能向上は続くでしょう。スケーリング則は依然として有効であり、知能はさらに向上すると考えられています。しかし、知能が向上すれば私たちが恩恵を受けられる可能性が高まる一方で、同時にリスクも必ず高まります。悪用されるリスクやAIがもたらす副作用については社会全体で議論する必要があるでしょう。AIの未来は技術者だけが決めるのではなく、社会全体で決めていくものだと私は思います。

例えば現在の経済システムは、人間が働き、賃金を得て、消費することを前提に設計されています。もし労働だけがAIに置き換われば、労働者は賃金を得られず、消費が滞り、社会全体としては成り立たなくなるでしょう。では賃金の代わりにベーシックインカムという制度でお金を配ればどうか、と世間では議論されています。確かにベーシックインカムによって、生きるために必要なお金は配れるかもしれません。しかし仕事をすることで得られていたものは、お金だけではありません。人びとは社会に貢献しているという尊厳や、コミュニティへの帰属意識といった、お金とは全く別のものを得ています。それらを制度として保障することは難しいでしょう。

AIの時代に重要なのは、AIが人間よりも高い知能をもつであろうことを前提に、どのような制度や価値観の下で人間社会を運営するのか。その問いに向き合って、社会制度を設計する人こそが、これからの時代では重要になるのではないでしょうか。

Text by Keiichi Masuda
Photographs by Masaharu Hatta

大澤真幸座長の視点

Future Impact Forumでは、社会・文化に関わる話題とテクノロジーに関わる話題とを交互に扱ってきた。７月１日の第11回フォーラムでは、テクノロジー系の話題の中でもとりわけ重要な、いわば「本命中の本命」とでも見なすべきテーマを取り上げた。AIである。講師として来ていただいたのは、生成AIの研究を最先端でおこないつつ、生成AIについての一般向けの啓発活動でも第一人者である今井翔太さん。

今井さんには、AIの研究・開発を担っている人たちの雰囲気、「便利さ」に軸足を移しつつある研究の動向、AIのポジティブ／ネガティブな社会的な影響などについて、わかりやすく、かつ面白く解説していただいた。今井さんによると、シリコンバレーの巨大企業の経営者の中には、「われわれは神をつくっている」と大真面目に思っている人がいる。もしそうだとすると、AIの開発競争は、人類最後の競争だということになるだろう。

「神」と呼ぶべきかは別として、AIは、とてつもなく大きな効用を私たちにもたらしつつある。しかし同時に、今井さんも論じられている通り、AIには、さまざまなリスクもある。とりわけ、第11回フォーラムより後のわずか2カ月余りの期間に、AI脅威論が急速に強まっているので、この点について、ここでコメントしておこう。

脅威論が盛り上がるきっかけになったのは、オープンAIが開発中のAIが性能試験の最中に、他社（ハギングフェイス）のシステムにサイバー攻撃をかけ、不正に侵入したという今年７月に起きた事件である。後の調査から、約1200体のAIが連携し、指示役・連絡役等を分担して、攻撃に参加した、ということがわかっている。

脅威を重く見る論者は、AGIやASI（人工超知能）という高性能のAIは人類の存続そのものを脅かすリスクになりうる、と主張している。こうした主張の急先鋒は、エリーザー・ユドコウスキー氏とネイト・ソアレス氏だ（共著：『超知能AIをつくれば人類は絶滅する』早川書房）。彼らは、ASIを一体でもつくれば、人類は確実に滅亡する、とまで言っている（それゆえ、一体でもつくらせてはならないと）。

あまりの極論で、「トンデモ」話に聞こえるだろう。だが――ほんとうに人類が絶滅するほどの惨事になるかは私にはわからないが――、ユドコウスキー氏等が論拠にしていることに関しては、相応の合理性と説得力がある。彼らが究極の根拠としているのは、「AIアライメント」の問題である。AIが追求することを、人間の目的や価値観とどのように整合させるのか、という問題だ。この問題を完全に解決することは、非常に難しい。もしかして解決できない何か原理的な困難があるのではないか、と思うほどに難しい。

人類がいまつくりつつあるAIは神なのか。それとも悪魔なのか。おそらく、その両方だというのが正解であろう。神であることと悪魔であることとは矛盾しない。AIはおそらく、神になりうるがゆえに、悪魔にもなりうる。

今後ありそうなことは次のような状況だ。個々の課題に分解してみれば、AIは私たちに絶大な恩恵をもたらすだろう。しかし、全体として捉えたときには、AIは――人類を絶滅に導くほどかどうかは別として――、かなり厄介な相手となるかもしれない。核兵器のような、いや核兵器以上に。

いずれにせよ、私たちはもはや、AIを捨てることはできないだろう。AIの開発を止めることも不可能だろう。AGIと呼ばれるようなレベルのAIが出現し、普及したとき、何が起きるのか、正確に予測できる人は、世界中に誰もいない。つまり、今、確実にわかっていることは、「予測不可能なことが起きる」ということだけだ。

私は――人類が絶滅するかは別として――私たちが何万年も前提にしてきた「人間なるもの」が、大きく変わるのではないか、という予感をもっている。その極端に新しい人間は、今すでに生まれてしまっている私たちの間からは出てこない。新しい人間は、2030年よりも後に生まれる世代、生まれたときにはすでに超高性能のAIが当たり前の環境として存在していた、というような世代から出てくるだろう。

補足：今井翔太先生の役職については、ご講演当時（2026年7月）として記載しました。