AI（人工知能）の安全性に対する国際的な関心の高まりを受け、AIの安全性に関する評価手法や基準の検討等を行う「AIセーフティ・インスティテュート（AISI：エイシー）」が2024年2月14日に立ち上げられました。日本におけるAISIの設立は、イギリス、アメリカに次いで世界3番目となり、その活動に注目が集まっています。
今回のインタビューでは、AISI事務局次長の小田切未来さんに、AISIの設立背景と役割、AI分野での日本の国際競争力を高めるための取り組みなどについてお伺いしました。
（取材日：2024年7月30日）
（聞き手・文責：株式会社PoliPoli 井出光）
小田切未来（おだぎり みらい） IPA（情報処理推進機構）デジタル基盤センター副センター長、AIセーフティ・インスティテュート（AISI）事務局次長
東京大学大学院公共政策学教育部修了後、2007年に経済産業省入省。
経済産業大臣政務官秘書官、商務情報政策局総務課課長補佐などを歴任。米コロンビア大学国際公共政策大学院修士修了。
近共著に「クリエイティブ・ジャパン戦略（白桃書房）」。
AIセーフティ・インスティテュートとは
ーまず、AISIの設立背景について教えてください。
生成AIの利用機会が増大する中、世界的にAIの安全性への関心が高まっています。
みなさんも、これまでに生成AIを利用した偽動画や、生成AIが作成した画像が著作権侵害の疑いで削除されたというニュースを目にしたことがあるのではないでしょうか。偽情報などの生成AIがもたらすリスクへの対策はもはや世界的な課題となっています。
日本は2023年5月のG7広島サミットにおいて、生成AIのリスクに対応する国際ルールを議論する「広島AIプロセス」の立ち上げを主導しました。広島AIプロセスでは、国際社会全体の重要な課題となっている生成AIについて議論し、同年12月には「広島AIプロセス包括的政策枠組み」と「広島AIプロセスを前進させるための作業計画」についてG7デジタル・技術大臣会合において、採択されました。
少し難しい話になりましたが、簡単にいうと、現在世界レベルでAIセーフティに取り組むための動きが始まっているのです。
各国もAI安全機関の設立に向けた動きを始めています。日本では2023年12月に立ち上げが決定され、翌年の2月に設立されました。たった約2か月で組織を作り上げ、イギリス、アメリカに次いで世界3番目に設立された組織となりました。現在も設立から半年ほどの非常に新しい組織です。
松尾豊 東京大学教授によれば、過去に日本は検索エンジンの分野で世界に遅れをとったことがあります。1990年代、日本では検索エンジンがデータをクローリング（情報収集）し、一時的にキャッシュとして保存する行為が著作権を侵害するのではないかとの疑いがあり、日本での検索エンジンの開発が遅れてしまいました。検索エンジンではGoogleが市場を独占し、日本企業は巻き返すことができなかったことを同教授が指摘しています。
そういう意味でも、今回の生成AIの分野では、官民一体となって最善手を打つことで、国際競争力を高めていく必要があります。
ーAISIはどのような活動を行うのでしょうか。
AISIは、海外機関と連携し、AIの安全性評価手法に係る調査、基準等の検討、安全性評価の実施手法に関する検討などを行っています。
ただ安全性の評価手法の研究といっても、実は現時点では日本はAIの安全性について正確に定義されていません。 AI技術は日進月歩なのでAIの安全性を定義することは難しく、アメリカでもAIの安全性の定義はまだ行われていないと聞いています。
現在、AISIでは、AIの安全性をチェックする際の評価観点を検討しており、今後公表を目指しています。
ーイギリス、アメリカに設置されているAI安全機関と、日本のAISIはどのような違いがあるのでしょうか。
組織の作り方や主導するプレイヤーが違います。
アメリカでは主に民間主導でAIセーフティに取り組んでいます。NIST（国立標準技術研究所）に設置されている「AIセーフティ・インスティテュート・コンソーシアム」は民間企業との協働を推進していることが特徴です。
一方、イギリスでは主に政府主導でAIセーフティに取り組んでおり、DSIT（科学イノベーション技術省）の中に「AIセーフティ・インスティテュート」を設置しています。技術者を大量に雇用し、自ら安全性に関する評価や検証に重点を置いている感がありますね。
そのほかの地域・国でも、EUやカナダ、シンガポール、オーストラリア、韓国では、それぞれの実情に応じてAI安全性確保の取組・検討が行われています。
同じAI安全機関といっても、各国で組織のあり方は多種多様です。日本のAISIは現状数十名の規模で、専任であれば、民間企業出身の方が多数を占めています。今後とも採用を強化していく予定です。
AIの安全性をめぐる課題
ー日本におけるAIのリスクとはどのようなものが挙げられるのでしょうか。
まず皆さんがイメージしやすいのが、偽情報、誤情報だと思います。
昨年、岸田総理の偽動画がSNSで拡散されました。生成AIを利用して音声や口元の動きを再現し、偽の発言をさせ、報道でも大きく取り上げられました。こういった偽動画が選挙妨害などで悪用される恐れがあることはご承知のとおりです。
また、日本はものづくり、製造業に強みを持っています。AIを搭載した製品を開発する上で、AIの誤作動によって人の生命が脅かされることを防がなければなりません。製造業におけるAIの安全性は、日本ならではの重要な視点です。
ちなみに、アメリカでは主にAIが安全保障に与える影響やAIを活用したテロ行為の防止に関心が高く、欧州では主にAIによる人権侵害やプライバシー侵害、男女差別などに関心が高いかと思います。欧州では、AIに履歴書を読み込ませたところ、男性の名前か女性の名前かで合否を判断していたことが明らかになり、社会的な議論になりました。それぞれの社会の価値観によって、AIに求める安全性のあり方も変わってくるのです。
ー今後、AIへの規制はどのように行われていくのでしょうか。
AISIは立法府ではないので、内閣府の方で検討している動きを注視しているところです。
現時点では、日本ではAIに関する包括的な法律は存在せず、AIの開発・提供・利用を行う事業者に対する「AI事業者ガイドライン（第1.0版）」が策定されています。そもそも、法令はどんなに早くとも、基本的には1年に1回くらいしか改正できません。日々進化するAI技術に対応するためには、法令という形で規制を行うことが本当に適しているのかといった意見もあります。
AI技術の進歩は日々めざましいものがあるので、足の遅い法律だけで規制をコントロールすることが適切なのか。確固たる正解があるわけではありません。AI分野を扱うAISIだからこそ完璧を求めるよりも、とにかくアジャイル（状況の変化に対して素早く対応すること）に対応することが重要です。一般的には、官庁は99%、100%の完成度を求めるあまりどうしても動きが遅くなりがちなので、AISIの活動では物事の正確性への追及は当然重要ですが、不確実な中でも素早く対応することを意識しています。
AI分野で日本の国際競争力を高めるには
ーAI分野ではアメリカ企業が存在感を示していますが、日本企業はどのように対抗すべきでしょうか？
アメリカではGoogleなどの大手企業がAI分野に莫大な資金と人材を投入し、膨大なデータを学習させています。これに真っ向から勝負することは現実的ではありません。一方で、日本はロボットや車など、応用的な部分に強みを持っているといわれています。
また、LLM（Large Language Models：大規模言語モデル）では、インターネット上のデータを学習するのですが、LLMによっては日本語の学習データはそのうちのわずか1%のものもあると言われています。このため、日本の商慣習や法律に特化したAIシステムは日本企業に強みがあると思っています。
さらにいえば、日本ではドラえもんやガンダム、エヴァンゲリオンなどのアニメが人気で、ロボットとAIへの親和性が高い文化を持っています。対してアメリカでは、ターミネーターに代表されるようにAIは人間と対立するイメージが強いんですね。実際に、ChatGPTの利用者数で日本は世界第3位ですし、人口減少によってDX（デジタルトランスフォメーション）を進める必要があり、AIへのニーズも高まっています。日本人は、AIと人間が協調して働くビジョンを持ちやすいので、そういった文化も日本の一つの強みと言えるでしょう。
ーAISIで働く上で、どんなことに大変さややりがいを感じますか。
一般的に、官庁では法令に基づいて粛々と仕事をする傾向がありますが、AISIでは短期間に状況が変わるなかで、自分が必要だと思うことを提案すれば、関係府省庁の了解が得られればですが、受け入れられることもあります。不確実性が高い状況の中で、物事を前に進めていくという意味で、スタートアップ企業のような要素もありますね。
また、常に環境が変化しますので、自ら積極的に勉強し続ける必要があり、とても大変ですが、逆にやりがいにもつながっています。この記事を見て興味を持たれた方は、是非、一緒に働きましょう！
