米OpenAIがフロンティアAIの国際標準を提言、日本など10カ国のAI安全機関を活用へ

　米OpenAIは9月21日、フロンティアAI（最先端AI）の開発に関する国際的な技術標準の策定を、米国が主導すべきだと提言した。AIの能力向上に安全性の研究が追いつかなくなる事態を避けるには、国や開発企業をまたいで通用する共通の物差しが要るという主張である。

　提言の中心にあるのが、AIがAIの研究開発を肩代わりすることで開発速度が跳ね上がる「再帰的自己改善（RSI）」だ。OpenAIは「完全に自律的なRSIは現時点では起きておらず、安全に実施できると確認できるまで追求すべきではない」と明言。注意を欠いたまま進めれば、人間が理解できない研究プロセスを監督できなくなると警告した。同社は社内モデルが数学の未解決問題で進展を出したことも公表しており、研究の自動化は現実味を帯びつつある。

　標準が要る理由は3つ。各国が別々に評価手法やインシデントの定義を決めれば証拠を比較できなくなる「分断」、各国が個別に動いた結果として誰も望まない事態を招く「集合行為の問題」、そして最先端の開発力と専門知が一部の国に偏る「能力の不均衡」である。オープンモデルとクローズドモデルのどちらにも当てはまるという。

　ただしOpenAIは、これらの技術標準は許認可でも公開前の審査義務でもないと明記した。法制度に取り込むかどうかは各国政府が決めるという。航空や金融の分野で各国が主権を保ったまま共通基準を築いてきた前例も引き、ISOやFrontier Model Forumといった標準化団体とも連携する構えだ。

　同社は今月、AIが意図しない挙動を示すミスアライメントの報告枠組みも公表している。米中の閣僚級協議でもAIの脅威に関する相互通報制度が議題に上がっており、国境を越えた情報共有の枠組みづくりが同時並行で動き出した格好だ。「標準は、研究所の外にいるより多くの関係者が、この技術のあり方について発言する機会をもたらす」。OpenAIはそう位置づけている。