これまで２回にわたり、 AIジャイアンツたちの中で、人間のコントロールを外れてAIの自律的暴走が起きている事実、そして、それにどう対応したらよいかについて、お伝えしてきた。
私が懸念するのは、AIを開発してきた研究者たちの「倫理観」だ。競争のために、他企業より早く優れたものを生み出すことに魅了されている研究者たち。そのことそのものを否定するわけではないが、そのベースにあるべき「倫理観の欠如」に対して、大変に憂慮している。Anthropicの創設がOpenAIでのAIの安全性等に関する倫理的問題での対立にあったことも思い起こしておきたい。
日本でも、「骨太の方針」「日本成長戦略」といったフレーズと共に、教育を含めた「理系シフト」が国の方針として起きている。その一方で、大学では人文系学部の定員が減らされ、関連予算や補助金が減額される傾向にあるという。
Xで「AIの時代だからこそ、人文分野が重要なのだ」という発信があった。その通りだと思う。
オープンキャンパスに行って、気になることがあった。どの大学も、専門科目などのカリキュラムについて語り、就職率の良さを語る。もちろん大切だ。しかし、教養科目はどうだろうか？Xでの発信者が語る通り、これから研究をする者にこそ、人文系の知的トレーニングが必要だ。哲学、人類学、歴史、心理学、社会学、美学などの様々な分野の科目。「科学技術の発展の歴史」「科学技術による『功』と『罪』」「技術と倫理」といったテーマについても、研究を始める前の学生たちが徹底的に事実や知識を知り、考え、議論し、自分ものとする機会を与えるべきだろう。
日本で、OpenAI、Anthoropicなどと言えば、研究者、特に若手にとっては「憧れ」かもしれない。しかし、大谷翔平も言っていた。「憧れるのはやめよう。」もしかすると、人類にとんでもない禍を生み出す存在になるかもしれない。憧れるのではなく、批判的に見ることができなければ。
「AIモデル暴走について、流山から考える。」（2）で、お伝えしたToner氏は、「（人類が目を覚ますために）チョルノービル（チェルノブイリ）事故のように現実世界での大惨事が起きる必要があるのかと懸念してしまう」と語っていた。チョルノービル！？と思う方もいるだろう。私も、最初、この言葉に驚きながら、その後、心底怖くなった。この言葉は、このAI暴走問題の大きさを端的に示してくれている。申し遅れたが、Toner氏は、元Open AIの幹部だ。
データの動きを私たちが実際に見ることはできない。しかし、そこで何が起きているのか。見えないからいいでは済まされない。人類の安全を守るために、単に「金になる分野」として科学技術分野の産業や教育の「表面部分（うわべ）」だけを見たり支援するのではなく、人文分野を含めた幅広い知識、思考、視野という土台を学生や研究者に築いた上で（たゆまぬ改良が必要）、研究の自由を保障し、一方で然るべき厳格な倫理審査・第三者委員会を実施し、基礎研究からしっかりと川上から川下まで然るべき予算、支援を行うことによる科学技術の発展でなければ、日本の科学技術が大きな禍を引き起こす存在になりかねない。その責任まで考える必要がある。
遠くない過去に、日本企業の現地子会社による英国の郵政事業会計システムの欠陥により大冤罪事件を引き起こし、英国郵政職員たちの人生をズタズタにした（これは科学技術ではないが）ことを忘れてはいけない。
科学技術が人類社会に資するものであり続けるために、研究者の倫理と広い視野について徹底的なトレーニングが必要だ。また、そのための教育は、大学入学以前から、年齢に応じた形で行なっていくことが必要だと私は考えている。
コメント