AI開発を止めずに“暴走だけ”止められるか？人類が直面する「最大級の難問」

連載：野口悠紀雄のデジタルイノベーションの本質

ありがとうございます！
いいね！した記事一覧をみる

会員（無料）になると、いいね！でマイページに保存できます。

AI・生成AI

|

タグをもっとみる

時速300キロ出せる車でも、市街地では50キロまで──。AIにも同じように「行動制限」を設ければよい。だが、それだけで安心するのは早い。自動車は速度制限を解除する方法を自ら考えないが、高度なAIは違う。目的達成の障害だと判断すれば、人間が設けた防壁の迂回策を探す可能性がある。AI規制の本当の難しさは、ここから始まる。

執筆：野口悠紀雄

野口悠紀雄

1940年、東京に生まれる。 1963年、東京大学工学部卒業。 1964年、大蔵省入省。 1972年、エール大学Ph.D.（経済学博士号）を取得。一橋大学教授、東京大学教授（先端経済工学研究センター長）、スタンフォード大学客員教授、早稲田大学大学院ファイナンス研究科教授などを歴任。一橋大学名誉教授。
noteアカウント：https://note.com/yukionoguchi
Xアカウント：@yukionoguchi10
野口ホームページ：https://www.noguchi.co.jp/

★本連載が書籍化されました★
『どうすれば日本経済は復活できるのか』　著者：野口悠紀雄
購入サイトはこちら：https://www.sbcr.jp/product/4815610104/

AI開発を止めずに“暴走だけ”止められるか？人類が直面する「最大級の難問」の画像

AIエージェントは人類に重い問いを突き付ける

AIが現実世界を直接動かすようになった

【画像付き記事全文はこちら】【関連記事】「何十年も遠回りしていた」…ChatGPTへの“ながら相談術”が凄すぎる

　AIの開発を抑制すべきだとの意見が強まっている。米中首脳会談でもとりあげられたし、トランプ大統領と米AI企業の間で協定が9月29日に結ばれた。

　米オープンAIは、不正アクセスなどの暴走問題で影響を受けた企業・団体が100件を超えると発表した。カリフォルニア州司法長官は、オープンAIに召喚状を送付した。

　この問題の根底には、AIの進化がある。生成AIは、もともとは日常言語の質問に対して、言語で答える存在だった。人間が質問を入力し、AIが答えを返す。仮にその回答が間違っていても、それだけで現実世界にただちに直接的な変化が起きるわけではない。人間が回答を読み、それを実行するかどうかを判断するからだ。

　ところが、最近のAIは、AIエージェントに進化した。AIエージェントは、メールを送る、Webサイトにアクセスする、プログラムを実行する、ファイルを書き換える、金銭を動かす、といった行動を自ら行う。ここで事情が大きく変わる。AIの判断と現実世界の行動の間にあった「人間」という安全装置が相対的に弱くなるからだ。

　この問題を示す事件はすでに起きている。AIが外部世界に働きかける権限を持っていたため、判断の誤りや予想外の行動が、そのまま現実の出来事になったのである。

編集部おすすめ動画