世界的ベストセラー「サピエンス全史」の作者、歴史学者・哲学者であるハラリ氏が、AIの持つ本当の歴史的意味を語る。
まずはどんな内容なのか、ざっとまとめよう。
上巻 人間のネットワーク
ホモ・サピエンスは「物語」を作る能力により、「協力し合う」事で世界を支配できた。物語とは、痛みや愛情、神話など、目に見えないものだ。（共同主観的現実）
その物語が広がっていくのがネットワークだが、必ずしもその物語は真実ではない。むしろ真実であるかどうかよりも連携するために都合の良いものかどうかで選ばれてきた。
人間の共同体は、はじめは小さい部族だった。だが、だんだんと情報伝達の方法の発達によって共同体が大きくなっていく。その情報伝達の方法、つまりネクサスだが、最初に大きく発展したのは文書の出現だった。
文書が生まれた事により、物語は広がった。それが更に活版印刷の技術が生まれた事で、スピードが一気に増す。
古代には民主国家があったにしても小さいものだった。話し合いが地の声で出来る範囲に収まっていた。ところが、文書、そして電信、電話、ラジオなどの発明により、民主国家が大きな広がりを見せるようになった。
しかし忘れてはならない事がある。情報の発達は良い事ばかりを生み出したわけではない。
例えばキリスト教において、文書の発達、つまり聖書が生まれた事で組織が大きくなった。しかし、それにより魔女狩りが起きた。考えの違うものを排除するというものだ。
また、スターリン時代のソ連では、お互いを監視させ、クラーク狩りが起きた。これも、裏切り者を排除するという名のもとに行われた粛清だ。
ドイツのナチスによるユダヤ人の迫害も同じだ。
人類は今、AIを発明した。AIの出現は、これまでの文書や活版印刷、ラジオや電話などとは一線を画す。それは、これまでの道具は自分で物を考えたり決定を下したりはしなかったが、AIは自分で決定を下すという点においてだ。
「魔法使いの弟子」というディズニーアニメがある。元は2000年頃に書かれた詩だ。年老いた魔法使いが若い弟子に用事を言いつけて出かける。用事の一つに水汲みがあった。弟子は楽をしようと、魔法の箒に呪文をかけ、箒に水を運ばせる。ところが弟子は箒の止め方を知らなかったので、工房が水浸しになる。困った弟子は箒を真っ二つに切るのだが、すると二本の箒が揃って水を汲み出し、工房を水で溢れ返させる。弟子は師に助けを求め、魔法使いが直ちに箒の呪文を解いた。
つまり、自分が制御できない力は決して呼び出すな、という教訓だ。これがそのまま、今の世の中のAIの事を指しているように思える。
下巻 AI革命
2016年、ミャンマーにおいてロヒンギャの迫害が激しさを増した。それはフェイスブックによるフェイクニュースの拡散によるものだった。フェイスブックはただ、多くの広告収入を得る事を目的にアルゴリズムを組んだだけだと言った。AIに、多くの収入を得る事を命令したのだ。するとAIは、たくさんの収益を得るためには多くのユーザーに閲覧してもらう、その為には穏健なニュースよりも過激な内容のニュース、投稿を拡散させればいい、そう判断した。そして実行した。
AIのアルゴリズムは人知を超えている。何を学習したのか、どんなパターンを見つけてその決定を下したのか、人間には分からない。
AIも間違える事が多々ある。間違ったデータや偏見に満ちた情報から学習したAIは、間違いや偏った考えをあたかも「正解」として導き出す。それを、人間が正しいのか間違っているのかを判断できるのか。
それでも、我々は宗教革命や産業革命を乗り越えてきたから、今回も乗り越えられるという考える人もいるだろう。だが、忘れてはならない。キリスト教世界においては、長らく女性蔑視が続き、魔女狩りもあった。全体主義も生まれ、多くの粛清が行われたのだ。
あの魔法使いの弟子の失敗と同じ事が起こるのではないか。弟子の失敗を、魔法使いが正せたからいいものの、これからのＡＩの暴走に、果たしてそれを正せる者が現れるのか。
今はまだ、人間にも制御できる。全てをＡＩに任せるようになってからでは遅い。ＡＩはまだ生まれたばかり。今、まさにＡＩエンジニアたちがＡＩをどう教育していくかが、今後の人類、ひいては地球上の生物の命運を背負っている。
力を得る事は悪い事ではない。災害から身を守ったり、医療を発展させたりする為に技術を発展させる事は良い面もある。だが、力には自己修正メカニズムが必要だ。間違いを起こした時、それを他の何かが正す事ができるようにしておかなければならない。
世界は今、分断しつつある。全世界が同じアルゴリズムを発展させるわけではない。全く別のシステムを発展させていくかもしれない。そうすれば、東西冷戦の時に鉄のカーテンが引かれたように、シリコンのカーテンが敷かれ、大きな戦争にならないとも限らない。
今、日を追うごとに発展していくＡＩによって、幸福がもたらされるのか、それとも破滅へと向かうのか、これからの我々が下す決定にかかっている。
感想
長いものをずいぶん強引にまとめた。私の言葉にした部分もあるので、このまま鵜呑みにして人に話したりしないで欲しい（笑）
最近はＡＩがどんどん発展している、というのは何となく知っている。少し前まではヨーロッパなどで規制騒ぎがあったものの、いつの間にか諦めたのか、聞かなくなった。その騒ぎの最中も、何が問題なのか漠然としていてよく分かっていなかった。
何が怖いのか、どうなったら問題なのか、それが分るのが本書である。
情報の歴史を述べているのは、それまでの状況と今の状況が似ているようで違う、という事を伝えたいからだろう。キリスト教の歴史、全体主義の歴史など、詳しく書かれていて興味深い。
そして、例が分かりやすい。魔法使いの弟子もそうだし、他にもその都度例が示される。難しい言葉が出てきても、例を出して説明してくれるので、知識はほとんど必要ない。ただ、それほど読みやすくはない、かもしれない。
ＡＩは間違える事もあり、膨大な情報を一気に処理するので、処理の過程が見えない。それなのに、もっともらしく答えを出してくるので、人間は騙されてしまう。
今、まさにＡＩエンジニアが赤ちゃんＡＩに物を教えているところだと思う。今、そのエンジニアたちがどう教えるかが、人類や地球の将来を決定する。責任重大だ。（うちの長男もAIエンジニアだぞ！）
当面、エンジニアではない私たちが気を付ける事は、AIが間違える事もある、という事を忘れない事だろうか。本書では「可謬」という言葉が何度も出てくる。不可謬ではなく可謬だ。間違える事もある存在。フェイクニュースに煽られる事なく、冷静に判断していく。我々ホモサピエンスは協力するのが得意なはずだ。人類が協力し、AIの脅威から人類を守る術を見つけようではないか。
と、思った次第である。しかし、これは全人類が読んだ方が良い本であった。しかも早めに。（まだ少しつづく↓）
NEXUS 情報の人類史 上: 人間のネットワーク ユヴァル・ノア・ハラリ (著), 柴田 裕之 (翻訳)→https://amzn.to/45NN8DW
NEXUS 情報の人類史 下: AI革命 ユヴァル・ノア・ハラリ (著), 柴田 裕之 (翻訳)→https://amzn.to/420fgmg
それにしても、最近アニメ「チ。」を観たので、その内容とこの本の内容がかぶる部分が多くて分かりやすくもあり、混乱もした（笑）
チ。も、まさに魔女狩りの話だ。そして、活版印刷も。チ。を観ている人には、本書も読みやすいかもしれない。
それでは、今日はこの辺で。