AI企業の自主規制、企業間で監視しあう。
が、結論。
とんでもない！
アンソロピックのアモデイ氏は、「リスクは本物で、業界は対応策を見出せていない」と、この日ではないところで語っている。
その通り！
そこで、New York Universityの名誉教授であるGary Marcus氏へのインタビューが貴重なので、ご紹介したい。
◯自分はAIによって人類が滅亡するリスクはないと考える。なぜなら、人類は反撃できるし、反撃するはずだからだ。
◯しかし、壊滅的な被害が出る可能性はある。実際に、戦争になりかけるような深刻なケースが１件だが、あった。
◯業界の自主規制は、全く十分ではない。AI企業を信じるのは、狂気の沙汰だ。
◯上田が先日紹介したOpenAIモデルのハギングフェース侵入事件について、NewYorkTimesがその後明らかにしたように、Open AIは、あの事件のことを事前に認識していたという。にもかかわらず、何もしなかった。製品を早く市場に出したかったからだ。よって、AI業界の自主規制は信じられない。
◯外部の規制当局が必要だ。
◯中国にも規制があり、ライセンス制度のもとでソフトウェアが開発されている。規制は必ずある。
◯中国との競争が安全性の低下の理由にはならない。
◯中国とは、それぞれがAI主権を持つことになるだろう。コークvsペプシのように、引き分けることになるだろう。
◯必要な提言は次の通り。←ここ非常に重要！
①新しいソフトウェアを独立の立場から評価すること。１件１件見ていく必要がある。（上田：評価ができる人材の確保が必要！）
②情報公開が必要。現状、情報公開がなく、情報の透明性が欠けている。
③システム公開の後の監査が必要。
◯ハギングフェース侵入事件の類似事件があった。１件は壊滅的な被害が出る可能性があった。政府は、「何か起きてから行動するのか」、「起きる前に行動できるのか」、時間との闘いだ。
さて、この提言を聞いて、いかに現状が深刻、かつ待ったなしの状態かがわかる。トランプ大統領は、安全性より利益しか見ていない。それが大変な事態をもたらすのではないかと私は危惧している。
日本は、完全に蚊帳の外だ。しかし、それでも、私たちは、きちんとこの問題を考えていかなければならない。
独立した審査機関の設置。
公開後の監査。
上記2つの結果についての情報公開。
市民も真剣に、これを求めていく必要がある。
コメント