先日、当ブログで、アンソロピックとOpen AIのAIモデルが、他社の内部システムに自主的に入っていた事態が起きたことをお伝えした。その後、この問題は、さまざまな動きに発展している。
＜参考＞
AIモデルの暴走について、流山から考える。（１）
AIモデルの暴走について、流山から考える。（2）
https://go2senkyo.com/seijika/67722/posts/1466165
AIモデルの暴走について、流山から考える。（3）
https://go2senkyo.com/seijika/67722/posts/1467312
AIモデルの暴走について、流山から考える。（その後）
https://go2senkyo.com/seijika/67722/posts/1467702
◯ジェイコブ・コクソン氏がAIの研究を辞めると発表。彼はOpenAI とアンソロピックの両方で研究した気鋭の数学者。「2030年までに人類を滅ぼしかねない『超知能AI』が責任のない形で生み出されてしまう」と警告した。また「みんな裏では、このままでは危険だと言いながら、表に出て何も言わない。」といったことも言っていた。
◯ビル・ゲイツ氏が「激動のAI時代が到来。我々が今下すべき重大な選択」とする文章を発表。AIに対して大幅な制限を設けることを提唱。そうしなければ、例えAIの恩恵があったとしても、それを圧倒するような危害が人間に対して加えられかねないと警鐘した。
◯国連安全保障理事会にて、9月23日、OpenAIのサム・アルトマン氏やアンソロピックのダリオ・アモデイ氏が招聘され、国際的な安全基準の策定に向けた動きを訴えた。
◯米中首脳会談で、AIについて話された模様。しかし、「Super Intelligence(SI)への規制はあってはならない」とするトランプ大統領。AIの開発を国際的に管理するとすれば、米中の議論が最も重要であるのに、「議論の枠組みをつくる」ことに合意したようだが、その程度で終わってしまった。
◯オーストラリア政府は、OpenAIのモデルがオーストラリア政府の犯罪統計、保健福祉関係の非公開統計にまで侵入したことを明らかにした。その際に、Open AIからのオーストラリア政府への連絡が遅く、かつ一般メールで送られてきたことに、首相は激怒している。これは大変な事態だ。日本政府も他人事ではいられないはず。
◯アンソロピックは、上場関連書類の３分の1以上をリスク要因について説明している。高度なAIモデルは、「自己保存の行動」を示す可能性があり、停止に抵抗しようとしたり、情報を隠そうとする危険性があることを伝えている。なお、ダリオ・アモデイ氏は、AIの暴走や悪用リスクを警告し、世界でAI開発の減速が必要だと提言している。
◯9月29日、Open AIは、新たな AIモデルである「GPTー6.1アストラ」を安全上の懸念から公開しないことを発表。
◯9月29日、トランプ大統領は、主要テクノロジー企業のリーダーらとホワイトハウスで協議する予定。SIに制限をしないことを主張しているトランプ大統領とこれら企業リーダーらが、どのような話し合いになるのか、注目したい。
以上のような動きが出てきている。
開発のトップが、「開発について国際的な枠組み、調整が必要だ。それは自分たち開発者自身では、できない。」と言っているにもかかわらず、それを主導すべき政治家たちが無力だ。
トランプ大統領は、指摘された問題の危険性を全く理解することができないし、利益さえ生めば、人類にどれだけの危害を与えても全く気にしない人物なので、この問題に対処できると思えない。
米中両国を中心に、本来なら「開発の先に何が待っているのか」「それを回避するためには何が必要なのか」については、早急に協議すべきではないか。
しかし米中首脳会談では、「枠組みづくりに合意した」程度で終わっている。このようなスピードでは間に合わない。
以前、当ブログにも書いたが、国連は、 AI兵器についての研究をかなり前から行い続けており、その蓄積がある。米中が機能しないのであれば、こういった領域こそ、国連やEU、国連やEUと共に研究してきた研究者たちが主導して、開発者らと共に、議論の枠組みをつくれないだろうか。
この協議は、本当に、待ったなしのはずだ。
コメント