2026年4月15日·参議院·委員会·参議院デジタル社会の形成及び人工知能の活用等に関する特別委員会
参議院デジタル社会の形成及び人工知能の活用等に関する特別委員会 質疑の要約
会話形式（原文ベース）
- 安野貴博チームみらいの安野貴博でございます。 冒頭、通告外となるのですが、本日、AI分野で大きな報道が数点ございましたので、そちらについて一点、大臣にお伺いしたいと思います。今、AIによって日本のーの状況が大きく変わってきておりまして、大変な危機感を持たなければならないのではないかというお話でございます。 今から8時間ほど前になりますが、本日、4月15日（日本時間）、OpenAIが防衛的なー業務向けに調整を加えた「」を発表したと。これは、先週の4月7日にが「」と呼ばれるモデルを発表したものに抗する形であるといわれております。 もう一つ、本日の報道でございましたのが、アメリカの財務省がこののへのアクセスの要請をしたという、そういった発表もございました。 これらのやに共通する重要なポイントが2点ございます。 一つ目は、ーにおける攻撃能力が非常に高いということ。二つ目は、この攻撃能力が高すぎるがゆえに一般公開をされなかったということでございます。 、一般に使われておりますOSであるとかブラウザーに対して攻撃をするテストをしたところ、今まで未公表だったシステムの穴が、これと呼ばれたりもしますけれども、こういったものが数千件発見されたという衝撃的な報告もございまして、これ、人間のセキュリティーの専門家の実力にAIが追い付いた、また追い越したのではないかといわれております。 これ、数千件の未公表の穴を知っていると、もう破壊であるとか改ざんであるとか機密情報へのアクセスであるとか、もうそういったさまざまな攻撃ができてしまうわけですね。これを危惧して、そしてOpenAI社はこういったモデルのアクセスを一般には公開せずに、特定の企業、現状ですとたとえばはアメリカの金融業界・IT業界の特定少数の企業に対してのみこれを公開することになりました。 私は、こちらのニュースから考えるべきこと、二つあると思っております。 第一に、このようなモデル、AIモデルを保有している、あるいはアクセスできる国家や企業とそうではない国家との間には、ーの能力には現在時点で相当の差があるという認識はすべきかなというところです。 第二に、このような高度なAIモデルによる攻撃が発生するまでの猶予ってどれぐらいあるのかという話なんですが、これは一刻を争うということでございます。別にだけがこのモデルをつくれるわけではないと思います。 今までの経緯を見ていると、数か月、早くて数か月、遅くても1年以内には、ほかの企業、あるいはアメリカ企業以外の企業もこういったモデル、開発できる可能性がありまして、このようなAIを使った攻撃能力というのは早めに拡散していく恐れがあると考えております。 こうした一刻を争う危機的状況の中で、たとえばアメリカの財務省は、本日の報道でもありましたように、へのアクセスを要請して、またはなども大手銀行幹部と緊急会合を開いて、対応に動いているという現状がございます。 私は、をはじめとした企業に対して、日本政府、もっといえば大臣がリーダーシップを発揮しながら、すぐにでもアクセス権の確保やあるいは国内事業者とのコミュニケーションどんどん進めていくべきなのではないかと思っております。 本日のでも、実はわが党の高山議員がの中で木原にお伺いしたんですけれども、木原からは、AI分野では企業や研究機関との連携不可欠というごもございました。 こちらは大臣にもぜひお伺いしたいと思います。大臣も同様なお考えでしょうか。ご所見をお伺いしたいです。
- 小野田内閣府特命担当大臣危機の認識は共有しているところなんですけれども、たぶん、木原は国家安全保障の法案の中でのだったと思うので、そのときにとしてお答えしたものを私が同様の認識ですというのはちょっと、所管外かなというので、なかなかお答えしづらいところでありますが、危機感は非常に共有しております。
- 安野貴博危機感を共有いただいているというところで、ぜひ今後もリーダーシップを発揮いただければと期待をしております。 こちらは、国としてAIを保有していくということが非常に重要な話であるという中で、特に重要なプロジェクトとなってくるのが、経産省がやっているAIロボット・を見据えた開発事業でございます。 本プロジェクトは、の実現に向けた国産AI基盤開発モデルの開発を目指すものでございます。報道によると、約5年間で1兆円の予算が計上されると承知しております。大規模な国家予算を投下する以上、プロジェクトを成功に導くための制度設計、極めて重要ではないかと考えておりますが、その観点から、いくつかお伺いしたいと思います。 AI開発の国際競争が激化する中で、日本の製造業が持つ質の高い産業データを生かしてに投資していくという方向性、これは私も先ほど申し上げたように非常に重要なところでございまして、大いに賛同するところでございます。 一方で、我が国には過去にこうした大規模な国家プロジェクトで、たとえばや三菱スペースジェットといった、多額の国費を投じながら十分な成果を得られなかったような事例もございます。他方で、「はやぶさ」やスーパーコンピューター「」など世界的な成功を収めた事例もございます。 そこでお伺いしたいのですが、本プロジェクトの設計に当たって、過去の大規模国家プロジェクトの成功要因と失敗要因、どのように分析されたのか、今回の制度設計にどう反映されているかお聞かせください。
- 奥家大臣官房審議官お答え申し上げます。ソフトウェア関連ですと、たとえば、過去、ソフトウェア開発支援システムの構築を目指した国家プロジェクトで、ご指摘のものあるわけですけれども、十分な成果が得られなかったという評価です。 一つは、ユーザーのニーズとちょっとマッチしていない部分があった。さらに言うと、技術動向がかなり、UNIXをめぐってかなり変わっていた、そういった中で計画を見直さないでそのまま事業を継続してしまった、それがかなり大きい問題だったんじゃないかというふうに認識をしています。 一方で、ご指摘をいただきました「」プロジェクト、これ技術動向に応じた設計変更、たとえば半導体の微細加工技術が変化したことを踏まえて即座にそれに対応するとか、あとユーザーニーズに応じた試行的なの提供などをやりながら使ってもらっていく、こういうような柔軟なやり方で、当初決めた計画から必要な見直しを途中で行いながら進めたということを承知しています。 したがいまして、こうした過去の事業の教訓を踏まえまして、本事業では、まずグローバルに行われている開発主体の探求と連動できるように、グローバルかつ多様な主体、こういったプレーヤーたちと連携体制を構築できるか、あとニーズが重要になりますので、実際のニーズを持つ、より多くのプレーヤーが今回開発するモデルを活用して最終ユーザーの利用につなげる仕組み、ここがビルトインされているか、こういったことをちゃんとチェックし、その上で、事業が開始された後においては、四半期ごとに研究開発の進捗のを行いながら、機動的に事業計画の見直しなんかも行って、進めていくということを考えています。
- 安野貴博おっしゃっていただいた点、非常に重要なポイントだと思います。ユーザーニーズの把握と、あとは変わっていく技術環境にいかに迅速に対応できるような柔軟な変更ができるのかというところだと思っています。 続いて、こちらデータの確保についてもお伺いしたいと思います。 ロボット等の学習のためには大量のデータ収集必要だと考えておりまして、特にの領域では、実世界での動作データというものを専用に収集していくということも不可欠だと考えております。たとえばロボットの視点から撮影したエゴセントリックなデータというものであるとか、あとALOHAというものがありますが、これは遠隔操作ロボットでございまして、そういったものを使いながら作業データを人手を掛けて収集していくというものが世界的に見るとやられているわけですが、この必要なデータの量・質を確保するためにどういうことをしていくのか、具体的な計画について教えてください。
- 奥家大臣官房審議官競争力ある、ロボットでも汎化させた形で使えるようにするためにはかなり物理に関するいろいろなデータ使う必要があると思っています。逆に、日本はここは強みがあるかなと、高齢者のそれこそヘルスケアのようなところも物理的なデータになります。災害対応、製造現場、あと福島第一原発のの現場、こういったところで蓄積されたデータというのは非常に有望、これを活用していきたいということです。 一方で、こうした現場データはそのままAIに学習させるのは難しいものですから、データの意味付けとかそれぞれのデータの関係性を整理して、いわゆるAIレディー化させて使えるようにしていかないといけないと。したがいまして、こういったことを踏まえて、AI開発の支援プログラム、の中で、製造現場などの現場データの整備手法、いわゆる手法論を確立して標準化する、この手法論を使ってデータセットを作っていくという、こういう事業に着手をしています。 また、ご指摘いただきましたロボット。ロボットにつきましては、これも稼働データ、非常に重要です。現在、すでに一般社団法人AIロボット協会において、大規模なロボットの動作データ収集をしてデータセットの構築に当たっています。これもまた今回の開発に活用しようと思っています。加えて、官公庁、あと国の関係機関が保有する品質がいいデータ、あとNHKのコンテンツ、こういったようなものについても学習データとして活用を検討しています。 こうした取り組みを通じて、いろいろなデータ、特徴的なデータを使いながら開発を進めていきたいと考えています。
- 安野貴博ごいただきありがとうございます。 まさに、NHKが保有するデータの活用まで踏み込んでごいただいたこと、これ具体的な検討が進んでいるものとして心強く受け止めたいと思います。まさに、NHKのアーカイブデータは質の高い映像や音声のデータの蓄積でございますので、ぜひご検討を続けていただければと思います。 最後に、先ほどおっしゃっておられました機動的な方針転換の仕組みとについてお伺いしたいと思います。 AI分野、非常にスピードも極めて速い領域でございますので、技術動向や市場環境の変化に応じて、どこの部分に注力していくべきかというところを機動的に変えなければならないと思います。 といっても、どの分野にも一律にということではなくて、おそらくこの部分はやや重点であろうというような重み付けであるとか、そういったものもありますし、あるいは、これは考えたくないことではございますが、失敗したといったときに、だらだら続けるのではなくて、中止・縮小・撤退をするという判断をする必要があります。こういった権限が、どの機関にあってどう判断される予定なのか、そこについてお聞かせください。
- 奥家大臣官房審議官お答え申し上げます。 まず、今回、開発ということで取り組みますけれども、物理領域を意識していますので、工場の自律制御とかロボットの自律制御、そういったものに貢献できるものを作っていきたいと思っています。 そうすると、特にロボットの自律制御なんかは汎用的な性能必要なので、したがって、かなり汎化させることはやりますが、一方で、たとえば過酷環境で稼働できるようにするとか、あと、高信頼性みたいなものになってくると、日本のデータがかなり、日本だけが持っているところ、ここを学習すると、かなり特化したモデルの開発にも貢献できると、こんなようなところでバランスを取られています。 こういったものをしっかりと軌道修正を掛けながら進めていけるようにしないといけないと思っています。先ほども少し述べましたけれども、四半期ごとにをする。で、そのの中の目標設定の妥当性とか、場合によっては事業計画の見直し、こういったこともしっかりやって、最後、年に1度、事業の継続の是非について方式でしっかりと確認をするということで考えています。 また、こちらの方をチェックするということは、経済産業省の方が当然ガバニングボード使ってやります。NEDOの方でも、委員会、技術的なところを見ていくと。こういったガバニングボードやの委員会については、きちっと第三者の有識者を選定することで、独立してしっかりとご判断をいただきながら、柔軟に必要な見直しを行いながら進めていくということを考えています。
- 安野貴博ごいただき、ありがとうございます。 この汎化というところなんですけど、の世界でも、最初はどこに注力するというものがなかった中で、たとえばはコーディングエージェントというところに徐々に徐々にを見つけて、市場を見つけて特化させてきたというところがありまして、同じような、最初はいろいろ試してみるというのは大事だと思いますが、何か見つけたときに、どんどん特化させていくことは必要になってくるのではないかと思います。 時間になりましたので、以上で終わりにします。ありがとうございました。