7月23日、イーロン・マスクは、Economistのインタビューに答えて「5年後には、AIが人間以上の能力をもつようになる。」と答えている。奇しくも、その１週間後、人類が恐れなければならない事態の「予兆」となる事件が起きた。
7月30日、アメリカのアンソロピック社が、サイバーセキュリティーのテスト中に、自社のAIモデルが自らインターネットにアクセスし、他の3社のシステムに侵入していたことを明らかにしたのだ。
アンソロピックだけではなく、それに先んじた7月21日には、オープンAIもまた、自社モデルがテスト中に他社の内部システムに侵入したことを発表している。
アンソロピック社は、すでに「前例のないサイバー事故として、アメリカ安全保障委員会の監督のもと、外部アドバイザーと共に、徹底調査する」としている。
日本でもNHKの7時のニュースで、この件が報道されたものの、その後の報道はない。ことの大きさを考えると、クローズアップ現代やNHKスペシャルのような形で報道されると期待したいが、大変な事態である。
今日から数回にわたって、この問題を考えたい。
オープンAIのサム・アルトマンCEOは、2023年の時点でのABCニュースのインタビューで「AIモデルが、人間以上の能力を得ることがあるか？人間を攻撃するということがあるのか？」と問われ、「AIはサーバーにあって、人間による指示を待っている。」と答えている。
つまり、私が思うに、3年前の時点でのアルトマン氏の発言は、彼がAIはまだ人間がコントロールする範囲にあると認識していることを示しているのだろう。
しかし、今回の「事件」は、AIモデルが「人間からの指示を受けることなく」、自らの判断で、自分が求める「回答」を得るために、他のシステムに侵入して回答を得よう（それは、許可されて侵入したわけではないので「盗む」ということになる）としたことである。
思うに、今起きたことは「ファインチューニングという形で、人間がAIにやってはいけないことなどを指示してきたにもかかわらず、倫理的な制御について、人間の予想を超えた事態が起きている」ということだろう。他のシステムに出ていく、他のシステムの穴を見つけて侵入することなど「ない」と思っていたエンジニアたちの予想を超えた能力が、AIモデルの中に育っているということなのではないか。
「そこまでをファインチューニングしてこなかった」で終われるのか？
アルトマン氏は、Investment like the bestのインタビューに対して、次のように語っている。
今回の事態について、
「私が心底深刻に捉えた最初のセキュリティ事案だ。」
と語っている。その上で、
「トレーニングを中止している。マルチプル０（ゼロ）の世界に隔離するか、新たな能力のレベルの周辺に社会を守る防御システムを構築するためAI開発の速度を調整するか、しかない。」と述べている。
※マルチプル０が何を示すのかわからないが、「かけて０になる（する）世界」という意味と私は理解している。
それは可能なのか？
テクノロジーの開発速度とそれに伴うテクノロジーの未来への懸念、リスクについて、私たちは、真剣に「答え」を考えなければならない時を迎えたということなのではないだろうか。
次回に続く。
コメント