米アンソロピック社のCEO、ダリオ・アモデイ氏が先日、「We Must Pace the Frontier」と題したブログを公開しました。読んでみたら、ちょっと怖くなりました。最先端のAIを開発している本人が、その進歩の速さに警鐘を鳴らし、開発のペースを落とすべきだと言っているのです。 

ただ、読み進めると、AI悲観論ではありません。AIがもたらす未来への期待を持ちながら、その大きな可能性を正しく実現するために、安全性や制御の研究が追いつく時間をつくるべきだという、極めて論理的な主張です。怖さを感じる一方で、AIが正しく進化した先の未来への期待もふくらみました。そして、それを実現するために必要なのは、知性だけではなく、人間らしさや良識、他者と協調する力。そんな「Humanity」なのだろう、とも思いました。 

一方、トランプ大統領は、AIの脅威など「でっち上げ」で、必要なガードレールは「高IQの大統領」であり、米国にはそれがいる、とSNSに投稿しました。

いやはや、なんともカオスです。

米国が開発を緩めれば中国が先に行くかもしれない。企業も、自社だけが立ち止まれば競争に負ける。皆が危険を感じていても、相手が走り続ける限り自分も走らざるを得ない。まるで「囚人のジレンマ」です。人類を超えるかもしれない知性を、人類が競ってつくっている。その人類自身は、古典的な囚人のジレンマから抜け出せない。なんとも皮肉な話です。

経営者はよく「歴史に学べ」と言われます。時代が変わっても、恐怖、欲望、対立、希望といった人間の中にあるものは、そう変わらない。歴史とは、膨大な人間物語集なのでしょう。でも今回、歴史の中に直接的な答えはありません。それでも、AIを前にした「人間」については学べることがあるはずです。目先の競争を超えて協調できるのか。まだ起きていない危機を想像して、ブレーキを踏めるのか。失敗してから学ぶのでは、今回は遅いかもしれません。

AIの知性を心配する前に、人間の知性は大丈夫なのでしょうか。

などと人類の未来を考えつつ、昨晩は大好きな長風呂をして、湯船でぼーっとしていました。世界がどれだけカオスでも、お風呂の中はいたって平和です（笑）。

今週末からはシルバーウィークですね。難しいことを考える一方で、何も考えず、ゆっくり過ごす時間も大切です。少し早いですが、皆さま、どうぞよい連休を。