【システムの科学】人間とコンピュータは満足化問題を解く、という意味で本質的には同じ存在である

ざっくり言うと

1. バイデン勝利で進む中国の進出。AIにコントロールされる自治を考える時。
2. サイモンの推論は人間とAIの区別が本質的に存在しないことを導いた。
3. 人間は創発的な部分を理解し、AIとの差別化と協働を考える必要がある。

AIによる自治の始まり

2020年、米国の大統領選挙により親中派である民主党バイデン氏の当選確実が示され、外交における中国の覇権がほぼ確立したといえる。

中国は先進的な都市構造を有している。街なかには監視カメラと自動通報システムが完備されており、たとえば信号無視をすると数日後には罰金の通知が自宅に届くか、アプリで罰金の支払いを促される。

以前、未来のブルーオーシャンの記事のなかで無人統治の話を書いたことがあるが、中国ではすでに実現できている。いずれ日本もAIによる監視社会が始まるのだろう。

【ビジネスを変える100のブルーオーシャン】次の儲かる市場はどこだ?日経BP総研の本で金脈探し。

AIが流行るはるか昔、1960年代からシステムについて分析し、未来を予測していた経済学者がいる。ハーバート=サイモンである。

サイモンは以前、特別講義の話を3部作に渡って紹介させていただいた。一言でいえば、頭が良い人、というのはこの人のことである。推論の天才。特別講義の日本語訳は今年出会えたベストの資料であり、今回紹介する「システムの科学」も生涯ベスト・コレクションに入る勢いである。

【ハーバート=サイモン】人間はどうやれば合理的な選択を行えるのか(Reason in Human Affairs)

【サイモン】進化論と企業の合理性追求の奇妙な類似

【サイモン】社会制度における合理性追求とメディアに騙されないために

本著は人間社会が直面する諸問題への取り組み方について、自然物と人工物の対比から導き出す。話はあらゆる学問に飛び、はっきりいって難解極まりない。だが、何度も諦めずに読み返していくと、凄まじい推論を展開していることが分かる。

その中で、人間の意思決定支援ツールの一つにコンピュータが登場する。このコンピュータの構造が、人間と同じであるとサイモンは示しているのだ。実に1967年のことである。

システムの科学の切り口は多様なので、本記事だけでは全く内容を示せない。だが、いくつかわかりやすくブログにまとめていくことで、魅力を引き続きお伝えできればと思う。

AIと人間に本質的な差はない

では、サイモンはAIと人間のどこが同じだと言っているのだろう。

サイモンによれば、それは内部構造からも導けるし、満足化問題に対するアプローチからも導けるという。

内部構造の類似性

まずは単純な内部構造の比較から入る。サイモンによれば、知能をモデリングすると、人間とコンピュータが本質的に同じであると言えるという。

まずは知能をモデリングしてみよう。知能とは、記号システムの働きを指す。では記号システムとはなにか。下記に特徴を列挙する。

知能が上記の特徴を有していると考えて改めてコンピュータと人間を見てみる。コンピューターはガラスと金属で構成され、人間の頭脳は血と肉で構成されている。コンピューターはデジタル信号を解釈し、人間は数学と論理学の記号システムを構築し、紙と鉛筆で知能を働かせる。時系列で言えば人間がコンピューターを作ったので、人間の記号システムをコンピュータに導入し、コンピュータと人間の協働によって記号システムが実際に環境に働きかけられるようになったということはできるかもしれない。いずれにせよ、知能という意味では内部構造が類似している。

満足化問題へのアプローチに関する類似性

コンピュータと人間はまた、問題の定義と問題解決のアプローチに関しても類似する。

サイモンは、世の中の問題をデザインの問題として捉え、満足化問題に帰結するとしている。

コンピュータは、満足化問題に関して厳密に変数を定義して効用関数を導くことで正解を出そうとする。また、効用関数を導く探索と、代替選択肢の効用関数の計算コストと探索の中断を比較することで、ある程度の満足条件で満足化問題の解析を中断できる。もちろん、スーパーコンピュータや機械学習により、その限界を自ら突破することもできる。

人間は短期記憶と長期記憶、そして長期記憶が持つパターン認識が生み出す直観的判断によって満足化問題を解決する。もちろん、探索の中で情報を集めて問題を解くヒューリスティック分析も得意とする。チェスや将棋ですごい人はパターン認識の直感的判断を鍛えていると考えることができるし、現代社会で企業活動がひごろミーティングなどして解決している方法はヒューリスティック分析である、と考えられる。

サイモンによれば、満足化問題のメカニズムを次のようにまとめている。

AI時代における人間の存在意義

ここからは無人統治が進んでいく社会における、個人的な見解を述べる。

まず、私は無人統治への移行はコストメリットを考えると避けられないと考えており、人間が監視社会のなかで窮屈な人生を送る未来が遅かれ早かれ到来すると考えている。

本質的に人間とAIが同じ問題を解いているならば、AIに軍配があがるルーティン問題がたんまりと存在するからである。既存の仕事は次第になくなる、ということは避けられない。

もっともAI技術が進展しているのは軍事技術である。現在起きているアゼルバイジャンとアルメニアの紛争の映像は見ただろうか。突然ドローンがアルメニア軍のトラックに突っ込んで自爆する。このドローンは自律型AIであり、兵士を追いかけて自爆する能力を持つ。今の兵士、という概念は次第になくなり、無人で戦争が行われるだろう。

監視社会を強化していくと違反行為が自動で取り締まられることになる。人間の食い扶持はどこに向かうのか、という観点だが、サイモンはキーワードを残している。協働だ。

コンピュータは既存の問題を解くのは優れているが、人間は直観的判断による計算の省略が得意である。新たな問題に対してクリエイティブに取り組む問題は人間の得意領域として引き続き残る。

人間の人間性を尊重する方式でコンピュータが生かされるように倫理的な社会が生まれる可能性は、まだ十分に残されている。

だからこそ、システムの科学を多くの人間が読み、コンピュータと人間の類似性と差分を理解し、倫理的価値観を育て、コンピュータを正しく扱う必要があるのだ。

特にコンピュータの威力を知っている人間は、利他的行動を心がけ、人間の破壊につながらないよう、慎重にコンピュータを扱う必要がある。