石垣のりこ

いや、結論として十分ではない、懸念が払拭されていないので修正を求めるという結論が出ているんですよ。さっきから審議過程よりも結論が大事だ大事だと言っているのに、結論がこう出ているんだから真摯に受け止められたらいいんじゃないでしょうかね。 　有識者懇談会、組織・制度、会員選考等ワーキング・グループの構成員名簿を見ると、一番下に米印書いて、日本学術会議会長に毎回参加を要請することとすると一番下に米印で補足的に書かれているんです。 　政府に伺いますね。日本学術会議の会長はどのような立場で参加をしていたのか、発言したいタイミングで自由に発言することはできたんでしょうか。

自由に話し合われている内容において、私から発言をしたいということで手を挙げて発言をすることができたのかどうかだけ、イエスかノーでお答えいただけますか。

では、光石会長に伺いますが、今の政府の御説明で内容は合っていますでしょうか。

広く話を聞くということですけれども、あくまでも陪席者であった。そういう意味では、当事者で、一番お話を丁寧に聞き、丁寧に物事を、コミュニケーションを取らなければならないにもかかわらず、あくまでもサブ、オブザーバー的な立場で参加をなさっていたということで、結果的にどうなったかというと、先ほどもお話にありましたけれども、十分ではない、懸念が払拭されていないので修正を求めるという結論に達することになる一つのこの形だったのではないでしょうか。これ、会議の持ち方からもそれが推測できます。 　政府から離れて、法人化、それも特殊法人化することで、あたかも独立性が自動的に担保されるかのような発言を先ほどから繰り返されているんですけれども、組織として

とはいえ、やっぱり特殊法人のこの在り方として、やはり自主自律の方ばかりが求められていて、この自主自律に関しても、法律を検索すると、地方自治法のその地方分権におけるところにしか、この自主自律というか、自主性及び自律性ということが法案の中で出てくるの、そこのところなんですね。あえてこの独立性というところを落として、この独立行政法人、独立じゃない、特殊法人にすることで、政府の行政機関から切り離すことによってこの独立性が自動的に担保されるというのは、私は余りにも安易なのではないかと思います。 　これ、現行法の第三条に独立してとあることで、行政機関である日本学術会議が政府、各省、各府省庁の制肘を受けないために置かれた規定であるということでこ

いや、書いたっていいと思うんですよ。何の問題もないわけですから、ちゃんと明確にしておくにこしたことはないわけで、その自明であるかどうかというのは、それこそ組織の在り方とか政府の関与の仕方によって変わってくるわけですよね。 　だからこそ、あえて独立性ということをきちんと明示すべきだと思いますけれども、この点、改めて御答弁をお願いいたします。

光石会長に伺いますけれども、これまでの学術会議の中で、そのような学術会議が政府各府省の制肘を受けるような状況というのは、今回のその法解釈、任命権に関する法解釈の、私たちから言うと、変更以外の部分でそういうことはあったんですか。

そういう意味では、ナショナルアカデミーとしての学術的会議の理想的なその五要件すら満たされていないということで、やはり法案の修正が求められております。 　冒頭で申し上げましたように、やはり今回の本法案の審議自体あり得ないということを再度申し上げたいと思います。 　法制局審議資料の黒塗りを即時取り払って、まずは開示していただきたいということ、公にすることによって国民に混乱が生じるのであれば、この委員会のみでも結構ですので、それをやっていただきたいということは先ほど理事会協議事項として申し上げました。 　国会議員に対しては、その国政調査権、行政監視の観点からも黒塗りを外した全面開示の文書を提出することを求めて、私の質問を終わります。

私は、ただいま可決されました人工知能関連技術の研究開発及び活用の推進に関する法律案に対し、自由民主党、立憲民主・社民・無所属、公明党、日本維新の会及び国民民主党・新緑風会の各派共同提案による附帯決議案を提出いたします。 　案文を朗読いたします。 　　　　人工知能関連技術の研究開発及び活用の推進に関する法律案に対する附帯決議（案） 　　政府は、本法の施行に当たり、次の諸点について適切な措置を講ずるべきである。 　一　ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の尊厳を損なわないことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的に沿って動作させるＡＩアライメントの観点に基づいた研究開

立憲民主・社民・無所属会派の石垣のりこと申します。 　本日は、四人の参考人の皆様、それぞれのお立場から貴重な御意見、誠にありがとうございました。 　今回の法案、そして、昨今、このＡＩを取り巻く様々な話題、ニュースなどを見聞きしておりまして、私、ロボットを研究することは人間を深く知ることだという、このアンドロイドサイエンス、ロボット研究者の一人者の方がおっしゃっていた言葉を思い出すんですけれども、このＡＩ開発においても、ニューロンの数理モデルですよね、脳神経系を基にしてということもありまして、これ基本は、このヒューマンアンドロイドサイエンスにも通じるというか、ベースを同じにするものだなというふうに思っております。 　そこで、非常

四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。 　それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。 　市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかというところも非常に分かりづらいと。ＡＩ技術に対してリスクベースアプローチにより

度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。 　今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。 　一方で、これまでの議論を振り返ってみますと、結局、じゃ、現状起きているリスクに対してどの程度対応できているの

ありがとうございます。 　大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。 　たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。 　先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこういう課題があるということをちょっとお話しいただきたいということと、あと、無

ありがとうございます。 　それぞれの参考人の皆さんから非常に貴重なお話を伺うことができました。 　ＡＩに使われるのではなく、あくまで人間中心で、私たちがＡＩを活用して、より私たちのこの暮らしのクオリティーを上げていくということに資するものでなければならないというふうに私も感じますので、今日いただいたお話を参考に、人間疎外にならないＡＩ技術の推進、この立法府としてどのように取り組んでいけるか、お話を参考に取り組んでいきたいと思います。 　ありがとうございました。

立憲民主・社民・無所属会派の石垣のりこでございます。 　今の石川委員の質疑がございましたので、ちょっとそれを受けて、私の方も質疑のちょっと順番を変えたいと思います。 　選別後通信情報の目的外利用についてから伺いたいと思います。 　前回私も質問しました第二十三条の選別後通信情報の目的外利用について、平大臣が、選別後通信情報は重大なサイバー攻撃に関係があると認めるに足りる機械的情報と、重大なサイバー攻撃に関係があるということをまずは強調されていたわけですね。 　これ、一般的に、重大なサイバー攻撃に関係があるというふうに聞きますと、サイバー攻撃を仕掛けてくる攻撃者の情報そのものというふうに、ぱっと、その直接的な攻撃者イコールである

なので、攻撃に用いられているということは、本当にたまたま乗っ取られてしまった、感染させられてしまったものであって、そのＩＰアドレスの持ち主そのものが犯罪を意図的に行っているというわけではないという情報の方が、むしろ踏み台の方に、ダイレクトに攻撃することの方がほぼないと言ってもいいと思いますので、多いということでよろしいですか。

ということで、集められたものが犯罪に関係をしているからそれは見られても仕方がないだろうということではなくて、やはり、全く関係ない善意の第三者、皆さん、私たちも含めて対象になり得る情報を収集されるのだということはちょっと認識をしていただかなきゃいけないと思うんですね。 　その上で、第二十三条四の特定被害防止目的以外の目的とは何かというところなんですが、政府のこれまでの答弁が非常に分かりにくいなと思ったので整理をすると、特定被害防止目的以外の目的ではあるんだけれども、法律自体の目的である第一条に規定された重要電子計算機に対する不正な行為による被害の防止を図ることという目的の範囲内であるという解釈でよろしいですか。

その上で、資料をお配りしたもので、ちょっと概念図を書いてみました。概念図ということで、第二十三条四の特定被害防止目的以外の目的というけれども、私たちがぱっと聞くと、例えば治安維持であったり犯罪捜査であったり公共の安全の確保であったり犯罪の予防であったり、先ほど石川委員からもありましたけれども、こういうものに使われる可能性があるのではないだろうかという私たちの疑問に対して、いやいや、目的外といっても、あくまでもこの法律全体の法の目的の中に入ったものであるという、いわゆるこの黄色の範囲の中で対応されるものなので心配はないのだというふうな御説明があったのだと思います。 　しかし、一方で、不正な行為による被害の防止を図るというこの法全体の

九九・四％という数字はあくまでも現在の数字でありまして、現在でも〇・六％はあると、これは大きく変わる可能性ももちろんあるわけですし、外国にサーバーがあるからって、じゃ、それは日本人とは直接関係がないものの方が多いと思いますということでもないですよね。

現状としては、広くはそうだけれども、かといって、外国にサーバーがあるから日本人の人のその情報が収集されないということではないということなのではないかと思います。 　つまり、情報収集活動を具体的に言うと、このＩＰアドレスからプロバイダー等に開示請求して個人を特定することも、不正な行為による被害の防止を図る目的であれば、条文上、これ禁止されていないということになりますでしょうか。