◾️下総基地での訓練について：
航空自衛隊からの告知には、「週末、夜間の訓練もある」との記載がありましたが、鎌ヶ谷市からの連絡によると「週末、夜間の訓練はない」とのこと。
このブログを書いている、16日1時30分頃、どうも上空を戦闘機が飛んでいるようだ。飛行高度が高いので、気づかない人も多いのではないかと思う音だが（未確認情報」）。
◾️AIの再帰的自己改善とリスクについて
さて、今日は、このブログで何度もお伝えし続けているAIについて書きたい。昨日、14日のNHK7時のニュースをご覧になった方は重複するが、AIについて非常に興味深い報道だったので、ここで共有したい。
◎AI自らAI開発をする「再帰的自己改善（RSI：Recursive Self-Improvement）」が来年にも起こりうる。これは、AIが人間を介さず、AI自らAI開発を繰り返す状況。
◎「知的爆発」により、短期間に進歩が劇的に加速する。これによって、ある論文が指摘したのは以下の通り。
ー1年分のAI進化が５週間で起きる可能性があるとの試算。そのことによって、医療における治療開発、原子単位での製造技術開発が数年から数十年前倒しできる可能性がある。
ーAIが制御不能になる可能性がある。
ー生物兵器やサイバー攻撃のリスクが劇的に前倒しする。
◎アンソニー・アギーレ（Future of Life Institute代表）
ー再帰的自己改善は、人類史上最悪のアイディだと強く思っている。
ー知的爆発は、AIの能力が急速に向上して制御不能になり、人間が取り残される状況だ。
◎栗原聡（慶應義塾大学教授）
ーネット上のデータ学習をほぼ学習し尽くしていると言われる中で、自己改善が起きるレベルの、さらにより多くのAIを集めることができるのか。
ーいきなり危ない、（人類が）滅亡するという考えは飛躍し過ぎている。
◎ジャック・クラーク（アンソロピック共同創業者）
ーAIによるAI研究は、新たなリスクの可能性がある。現在のAI開発はアクセルだけの車のようだ。ブレーキを作る必要がある。
ー人間は、AIシステムの動作を確認し、停止、介入、点検する能力をもつ必要がある。起業や技術に対する透明性、安全性、セキュリティのテストが必要だ。それによりAI技術がどの段階にあるのかを把握し、管理することができる。
ご存知の通り、高市政権は「人工知能戦略本部」を立ち上げ、行政・産業・暮らしをAIで変革する「日本AX」を掲げ、年内に具体的な行動計画を策定するとともに、2027年度には数十兆円の予算をAI・半導体分野に投入する方針だ。
一方で、国際決済銀行（BIS）は、すでに今年6月、ビッグテックによるAIへの投資ラッシュは、「いずれ長期的な「投資不況」を招く恐れがある」と警鐘を鳴らしている。金融市場、世界経済に打撃を与えかねないという。
AIの過酷な競争の中で、「AIシステムの動作を確認し、停止、介入、点検する能力」を誰が有するかは非常に難しい。それができるためには、開発に携わる研究者と同等、またはそれ以上の能力がなければできないだろう。
人材を切り捨ててきたアメリカ政府に、それができる能力のある人がどれだけいるか。AI研究を辞めた優秀な研究者たちを集められるか？
高市政権は、すでにお伝えしたように、日本経済の大きな主軸としてAIを位置づけ、官民に投資し、育てようとしている。しかし、国際決済銀行の指摘などを踏まえれば、バランスが必要だ。
また、本来その任を担うべきアメリカ政府ができないのであれば、日本こそが、AIのプラスだけでなくマイナス面をしっかり捉え、「AIシステムの動作を確認し、停止、介入、点検する能力」を備えた拠点・組織をつくるのであれば、世界的にも大きな貢献ができるだろう。
どうなるか？
コメント