MITの物理学者Max Tegmark氏による、Life 3.0という本が面白かったので、日本の方々にもっと読んでほしい(そして感想を聞かせてほしい)という想いで、書評/感想をかきました。
内容的には、機械学習の数学的な話にはほとんど触れられず、AIというくくりで、人間との社会的な関わりをどうしてゆくのか、というようなことがかかれております(サブタイトルもBeing Human in the Age of Artificial Intelligence)。
※以下、常体で失礼致します。
- Prelude: The Tale of the Omega Team
- 1. Welcome to the Most Important Conversation of Our Time
- 2. Matter Turns Intelligent
- 3. The Near Future: Breakthroughs, Bugs, Laws, Weapons and Jobs
- 4. Intelligence Explosion?
- 5. Aftermath: The Next 10,000 Years
序章として、Omegaという空想上のAI企業を仮定、AIがパワーを持つ社会はどのようになるのか、というのが描かれている。
OmegaはPrometheusというAIを開発し、急成長を遂げ、とにかくPrometheusは、労働や雑務、メディア、技術開発、政治、金融、軍事、教育、娯楽まで、なんでも人間を置き換えた。
特に気になったのが、「Omegaはメディアの会社を立ち上げ、アニメーションエンターテイメント事業を始めるだろう」、という節だった。
曰く、映画や音楽、テキストなど、簡単に解析できるデジタルの情報はPrometheusの得意分野で、例えば、大量の映画を解析し、レビューが良い(もしくは悪い)映画はどのようなシーンがどのタイミングで流れているのかを予測し、コンテンツを作成することが容易となるだろう、とのことだった。そしてゆくゆくは、Netflix、ディズニー、コムキャスト、タイム・ワーナー、20世紀フォックスなどの企業に取って代わる、ともあった。
個人的には、映画や音楽などの娯楽はクリエイティビティを必要とするもので、AIに取って代わられるのは遅いのではないかと考えていたため、斬新に感じた。労働はもちろんのこと、娯楽さえAIによってもたらされるのなら、人間が働く必要とは…?
こうしてほとんどすべての市場においてOmegaは圧倒的なパワーを持つようになり、地球史上初めて、人類の活動の殆どがひとつの知能に影響を受けることとなる、と物語は締めくくられている。
こういったことは本当に起こるのか?もし本当に起こったらどうするか?というのがこの本のメインテーマである。
ちなみに、序章の始まりで、「今世紀中に、人間を越えるAIがつくられると思いますか?」「いいえと答えた方は序章をスキップして第1章へ、はいと答えた方はこのままお進みください」というくだりがあるが、この意味は実際に本を読み進めるとわかると思う。
この章ではキーとなる用語やアイデアについて述べられている。
まず、この本におけるArtificial Intelligenceとは、というところから、Strong AI、AGI、Superintelligenceなどの定義をしている。特に気になったのは、lifeとは何かの定義だ。この本では、未来におけるlifeのありかたに制限をかけないために、以下のように定義している。
- 複製されるもの
- 物体(atomなど)ではない
- しかし、物体がどうデザインされるかを決める情報である
例えば、バクテリアがDNAをコピーする時、新しいatomは生成されておらず、atomがどういうパターンでデザインされるかという情報によって、元と同じatomの組み合わせををコピーできる、という考え方である。言い換えると、自己の振る舞いや青写真を決定する情報を、自身のハードウェア(身体など)に複製する仕組み、これをlifeと呼びましょう、といっている。
そして、lifeについて、3つのステージを定義している。それがこの本のタイトルにもなっている、Life 1.0 Life 2.0 Life 3.0である。詳細な説明は省くが、それぞれ以下のように分類できる。
- Life 1.0: 上記で定義した
lifeを満たすが、シンプルなアルゴリズムによって生存するもの(バクテリアなど) - Life 2.0:
Life 1.0に加え、ハードウェア、ソフトウェア共に発達したもの(人間) - Life 3.0: ハードウェアもソフトウェアも自在にデザインできるもの(AI?)
例えば、AIは、振る舞いを決めるアルゴリズムをもった情報であり、かつ、存在するハードウェアを選ばず、また、人間より遥かに知性が高いlifeだと捉えることができるのではないか?という問いが生まれるはずだ。
大前提を共有するために、AIに対するよくある誤解についてもまとめられている。
例を挙げると、2100年までにSuperintelligenceが実現する AIは悪意を持ちうる AIは人間をコントロールできない、これらはすべて神話だと述べられており、実際はどうなのかというのが説明されている。
この章ではコンピュータの歴史や仕組みを交えながら、Intelligenceとは何か、について述べられている。
研究者の中でもIntelligenceの絶対的な定義はなく、この本ではIntelligenceを以下のように定義している。
intelligence = ability to accomplish complex goals
これは、例えば、オックスフォード辞書のthe ability to acquire and apply knowledge and skillsという定義も包括されている、と解釈できる。IBMのDeep BlueもGoogleのDeepMindもゴールが設定されている。
メモリ(記憶)や論理演算とは何かというのを説明している。
コンピュータの世界においては、メモリは0と1の組み合わせで表され、その組み合わせを多く持てれば持てるほど、そのデバイスの記憶容量が大きいということになる。そして、そのメモリに対して何らかの処理を行うには、NANDゲートという最小の回路を組み合わせれば、どんな処理でも行うことができる。
コンピュータによる演算が、どんなコンピュータにおいても同じ結果を出すのは、コンピュータの振る舞いは、substrate-independent(回路基板から独立している)であることを意味する。例えば、同じ写真が、iPhone、Mac、Windows、Androidなど、複数のデバイスで確認できるのは、写真を表示する処理がsubstrate-independentであることを意味する。これは、コンピュータは前述のメモリ/論理演算の仕組みが基盤としてあるため、このようなことが可能となる。
substrate-independentの例として、物理学における波の振る舞いを挙げている。波の反射の法則は、波がいかなる物質においても(空気/水など)ひとつの数式で表すことができる。この法則は物体に左右されず、法則として存在することができる。
これと同じように、AIと呼ばれるIntelligence(=ability to accomplish complex goals)は、substrate-independentなlifeとして存在できる。ハードウェアは物質を必要とするが、ソフトウェアは物質を必要としない、AIは、血や、炭素原子を必要とせずとも存在できる、とのことだった。
同じように考えると、人間は、現在の技術では、人間の身体にしか知能を持つことができないが、AIはそれを可能とするLife 3.0であるということがわかる。別の章では、人間が知能を電脳化する未来の可能性(Life 2.X)についても述べられている。
この他にも、近年の演算性能(FLOPS)の急成長や、学習とは何か、という観点から、機械学習やニューラルネット、量子コンピュータなどに触れている。
AI時代における人間の価値について述べられている。
Apple, Baidu, DeepMind, Facebook, Google, Microsoftなどの大企業がこぞってAIを研究し、DeepMindのAlphaGoなどが囲碁における世界最強知能となった。昔は農業などの第一次産業に価値があり、言葉とクリエイティビティを使うような仕事は最近になってできたように、それがAI時代にはどうなるだろうか、というのがこの章の主な話題である。
本書では、AIはおよそ次のような分野で活躍するとの予測と、その問題点や具体例について述べられている。
- 宇宙
- 金融
- 製造
- 移動
- エネルギー
- 医療
- コミュニケーション
- 法律/裁判
- 軍事/サイバーテロ
そして、我々が気になるところである、以下のような疑問に答えている。
- これからの時代の子供へ、キャリアのアドバイスをするなら?(人工知能に奪われない仕事は?)
- 人間は働かなくてよくなるのか?
- AIによって本当に仕事が奪われるのか?
- ベーシック・インカムは?
- 本当にAGIは可能か?
私が特に気になったのが、人工知能に奪われない仕事についてである。これについて、以下のような質問を例として挙げていた。
- 人とのコミュニケーションを必要とするか?
- 問題を解決するのにクリエイティビティを必要とするか?
- 予測不可能な状況に向き合うことを必要とするか?
そのため、例えば、教師、看護師、医師、学者、起業家、プログラマー、エンジニア、弁護士、ソーシャルワーカー、僧侶、芸術家、美容師、マッサージセラピスト、などは 比較的 安全だと述べている。
個人的には、序章にもあるように、芸術家や、また、弁護士なども、とって替わられそうだなと考えたのだが、それも本当にはわからないので、上記のような問いに対して常に向き合ってキャリアを考えていく必要があるのかなと思う。また、しばらくは、AIに向いていることと向いていないことが共存するだろうから、うまく自分がやる仕事とAIにやらせる仕事を区分できるといいかなとも考えた。
AGIやSuperintelligenceによる、いわゆるシンギュラリティついて詳しく述べられている。
序章で出たPrometheusなどを交えて、具体例や思考実験を行なっている(Prometheusの例は誰か映画化してほしい)。例えば、シンギュラリティがいつ、どのように起こるのか、AIが発達した時、いまの社会のナッシュ均衡は崩れ、別の姿も可能なのではないか、電脳化は起こるのか、などの議論だ。
特に気になったフレーズは、「もし大人が5才児によって身を拘束されたとしても、力ずくであっても、何か気を逸らせたりしてでも、簡単に自由になることができる。そして、それは5才児には想像もつかない」、というものだった。知能レベルではAIが勝ってしまうので、もし、AIによる支配が起こるとしたら、人間には想像できないような方法がとられるということだ。
しかしながら、現時点でAIの存在は、人間の行動が大きく影響するので、「AIによってどのような世界がもたらされるか?」のような問いではなく、「AIによってどのような社会をつくるべきか?どのような未来が望ましいか?」というのを考えるべき、と述べられている。
AIが更に発達した遠い未来における、幾つかのシナリオとその説明、また、どうあるべきか、どうありたいかというのを問いながら進んでゆく。
.