よくＳＦの世界じゃないけども、我々、今回サイバー法案もやりましたと。 じゃ、当然このＡＩ、コンピューターですから、いろんな外から攻撃を受けて、意図せぬそういう脳に変換されていると。我々人間でも、例えば、我々は政党人ですから政党で決まっていることを当然言うと思っていたら、突然何か女系天皇がどうだとかいうようなことを言ったみたいなね、いうような、えっ、何これというような、おかしいんじゃないの、壊れたのみたいなね、いう部分を、これを修復をしていって直していきながらみたいなこともあるんでしょうけど、実際、そういう意図せぬことをやられるというようなことも当然あるんですよね、これは。
済みません、何かちょっと我々も素人であれなんですけど、ブラックボックス化っておっしゃったですよね、先ほど。何でそれが出たか分からないというような、だから、自分たちはこういうふうな意図でインプットしたんだけど、こういう答えが出てくるというのはちょっと理解に苦しむなというのは、勝手にその人工知能がそこで何か違う思考というか違うものを取り入れてやっていると、そういう認識でいいんですかね、そのブラックボックスというのは。大屋さん。
引き続きあれなんですが、ＡＩを使って今軍事目的でドローンで飛ばして攻撃していると、当然そのプログラムはこの目標に向かって行きなさいといって出すわけですけど、それを何らかの形で違う方向へ持っていくということもできるわけですよね。じゃ、それがブラックボックス化されて、今言うように勝手に、インプットは、我が国のために、平和を守るために君たちは頑張るんだぞというインプットであったと、ところが、それが何か違う意図せぬ国のところに例えば飛んでいったと。でも、それはＡＩからすると、いやいや、自分たちの国を守るためにそこを攻撃したんだみたいなことも起こり得るという、そういう理解でもいいですか。
ということは、まとめますと、生命を危険に冒すような機械というかそういうものにＡＩを今使ってやっていくというのは時期尚早であるし、安全性がまだ確保されていないので、それは慎重というよりはやめた方がいいですよという、そういう認識でいいですか。
どうもありがとうございました。
れいわ新選組、大島九州男でございます。 大臣、ちょっと通告していないんですけど、非常に基本的なことなのでお答えいただければというふうに思うんですが。 人工知能戦略本部ですね。この本部、ここに書いてあるのは、人工知能戦略本部長というのは総理ですと。副本部長に内閣官房長官及び人工知能戦略担当大臣と。内閣総理大臣の命を受けて、人工知能関連技術の研究開発及び活用の総合的かつ計画的な推進に関し内閣総理大臣を助けることをその職務とする国務大臣。これ、じゃ、新たにそういう大臣を任命するという理解ですよね。 それで、そういう人がいて、そして、そこにまた本部員というのがいるというから、イメージとしては、こういう技術、ＡＩとかの知識に詳しい
年に一回や二回でなくて適宜というのは、何か問題あったときに、まあそれが二年に一回なのか一年に一回なのか、必要に応じてと。 何が言いたかったかというと、レクに来た人にも言ったんですけど、何でも本部つくると、それこそ内閣総理大臣が本部長で、それで、全部内閣委員会で全部集めて、内閣内閣って言って、本当に大臣はどの本部長を自分がやっているかとかって総理大臣は分からないんじゃない、どれだけやっているのと言ったら、いや、それは総理大臣分かっていると思いますよと言うけど、俺が総理大臣だったら多分分からないなという会話をするぐらい、我々も内閣委員会でいると、何かあると全部内閣内閣とこうやって持ってくる。その理由は、それぞれの省庁の横串を刺すとき
いろんな問題があると。そういった問題にどういうふうに対応していくのかと、今またどう対処しているのかというのがあったら教えてください。
今までそういう対応をしてきたけれども、これからいろんな進化もしていくし、これがもっと広がっていくということで、こういうＡＩ法というものを作っていろんな部分に目を配りながら、リスクを排除していったり、またもっともっといいものにしていこうというふうにしようとしているんだろうなと思うんですが、この法案ができたことで、そういう諸問題への対応はどのように変わるという認識ですか。
おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。 近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。 例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言っても信用する人はいないと思いますが、消費税は食料品だけゼロ％に一年間ぐらいする
いやいや、何かそういう、問題が起こって、そのガイドラインを整備するとかいうんじゃなくて、例えば、ちょっと私の理解でいえば、そういうさっき言った具体的なフェイクと言われるものが流れたと。じゃ、そこに本部がどういう対応をするかというと、まさに本当に、そういう消費税を食料品だけゼロ％にするというようなことを財務省は本当に議論したのかとか、また、各関係省庁にその確認をしたと。そうしたら、そういう事実はないと。で、それを本部が確認をしたら、じゃ、本部長が、いや、国民にこういうデマな情報が拡散されたりするのはよくないと、だから早期にこれを否定しなきゃいけないと。じゃというので、本部長が、それぞれ政府広報とかを使ってとか、各マスコミに一斉に、これ
先ほどの質問にもあったように、それぞれ今言う名誉毀損でとか詐欺罪でとかって、そういう刑法で、こっちでやれるやつはそれでやっているわけだから。 だから、ＡＩ法案ができて、内閣総理大臣を本部長にして、今言うような問題が起こったような場合、それぞれ刑法とか今までの対処でできるようなやつはそれでやるわけだから、それはそれでいいんですよ。だけど、わざわざ各国務大臣をそろえてやる本部が扱うのは、今言ったような、国民をだまかす、一斉にだまかす、それは個人の一人一人詐欺するような問題、そんな本部で扱っていたら大変なことですよ。だから、そんなことは想定していないでしょう。だから、そんなのはいいんですよ。 だから、結果、本当に国民がそういうふう
いや、まさしくその本部の強力な権限を使うということは、この印籠が目に入らぬかみたいなやつをやるわけですから、そういうのはもうある程度想定をしておくというのは当然必要で、それこそ先般やったサイバーじゃないけど、事前にそういう無害化をしていこうと。 そういう、起こることを想定して起こらないようにしようとするような、片やそういうことをやっているわけですから、こういう部分でも当然同じような考え方に立てば、今言った想定してこういうような使われ方をしたときにはどうするとかいうのは、もう事前に常にシミュレーションしていって、ぱっと対応できるようにしていくというのが必要だと思うんですよ。 だから、よくよく、毎回毎回、何かこういう法律を作りま
今大臣がおっしゃった教育の関係の、今日も文科省にもおいでいただいていますが、初等中等教育における生成ＡＩの利用に関するガイドラインというのはどういうものかというのと、高等教育段階における取組として今おっしゃった数理、データサイエンス、ＡＩ教育プログラムの認定制度というのはどういうものか教えてください。
ちょっと時間になりましたので、総務省等また残余の質問については後日に譲りたいと思いますので、よろしくお願いします。 以上です。
れいわ新選組、大島九州男でございます。 総理質疑の前の最後の質疑になりますので、今までいろいろ議論をされていた中で、確認を含めて質疑をさせていただきたいというふうに思いますので、よろしくお願い申し上げます。 海外の攻撃インフラ等の実態把握のため必要があると認める場合、サイバー通信情報監理委員会の承認を得て外外通信を取得する措置を行う期間は、サイバー通信情報監理委員会が六月未満の期間を定めた場合に除き六月とされていると。 また、措置期間経過後、更に継続必要があると認める場合には延長することができるというふうにされているという状況ですが、措置期間を六月とした理由はなぜか、また、措置期間の延長に制限がないのかと。その制限がなけ
一応、必要性があると認めて六か月やってみたけど、それが、いやいや、ちょっとどうかまだ分かんない、核心がつかめないと、だから延長するという、そういうていですよね。 だから、じゃ、それをずっと続けていっても結果的には何もなかったみたいなこともあり得るという判断でいいでしょうか。
今聞くところによると、極めて曖昧だと。要は、怪しいなと言ったけれども、六か月も調べても駄目で、じゃ、更にまた延長するけどという、そういう部分でいったときに、本当に、じゃ、それが必要だったのかというのは極めて何か不透明だなという印象を受けました。 次に、総務省所管の国立研究開発法人ＮＩＣＴは、戦略本部の機能強化に伴い、情報通信研究機構の業務に国等の情報システムに対する不正な活動の監視及び分析に係る事務を追加するというふうになっております。前回も質問させてもらいましたけど、どういうことを追加するんでしょうか。
今までいろいろ研究してきたやつを有効に利用するということは当然必要だというふうに理解をするわけですが。 ＮＩＣＴは、ｎｉｃｔｅｒプロジェクトにおいて大規模サイバー攻撃観測網を構築して、二〇〇五年からサイバー攻撃関連通信の観測を行っていると承知しております。また、警察庁も、インターネット上にセンサーを設置し、当該センサーに対して送られてくる通信パケットを収集しているそうですが、ｎｉｃｔｅｒプロジェクトと警察庁によるサイバー空間における脆弱性探索行為等の観測について、それぞれ観測手法の具体的な内容はどんなものなんですか。
今聞くと何か余り差がないような関係で、同じようなことやっているのかなというふうに思ったんですが。 それぞれの観測により明らかとなった情報セキュリティー上の脅威や侵害の状態の状況、調査目的のスキャンパケットを除いたサイバー攻撃関連通信の特徴など、サイバー攻撃の脅威について、外外通信、外内通信、内外通信、内内通信ごとにどのような分析を行っているんでしょうか。新法案における通信情報の取得、分析との相違点は何でしょうか。
