ΑIがこのまま発達した場合、ヒトがその思考、判断を予測することはできなくなります。ある地点以上に発達した時、АΙというのは“人工の神”と言っていい存在になります。
ΑΙがSFによく出てくるマザー・コンピューターと言われるものになるときに何ができるようになるかというと、膨大なデータを分析して個々の現象の間の因果関係を導きだせる現状分析能力、そこから将来を予測する能力、さらには何らかの目標を達成するための必要な手立てを発見する能力、すなわち未来を変える能力を持つことができます。
マザー・コンピューターが出来たとしても、当面は人間がそれに“相談”する形になるのでしょう。昔、映画やアニメーションでよくありました。壁一面を覆うコンピューターのボタンを技術者がパソコンのキーボードをたたくように操作して質問を打ち込むと細長い紙に沢山のパンチ穴が打ち込まれた回答がニョロニョロでてきて、それを解読するという場面が。
そんな具合に、ヒトが質問や相談をして、マザー・コンピューターがそれに答えるのならば、とても優れたものでしょうし、問題はないかに見えます。
しかし本当に問題はないのでしょうか。イギリスの有名な怪奇小説の短編、「猿の手」といえばご存知の方は何を言いたいかお分かりだと思います。
「猿の手」とは三つの願いを叶えることができる魔法の道具である干からびた猿の手をめぐる物語です。
ある夫婦がたまたまこの猿の手を手にいれて、子供の学費のためのお金を願います。それは手に入るのですが、そのお金は学費が必要であった一人息子が交通事故で亡くなる生命保険のお金でした。
夫婦はしばらく嘆き悲しんで過ごすのですが、半月あまりたってから奥さんが猿の手をつかえば息子を甦らすことができるのではないか、と思い付きます。旦那さんも思い悩んだあげくに奥さんの提案に同意します。その晩、静かな夜のなかを何か引き摺るような音が聞こえてきました。そのあと、肉の塊で叩いているかのような激しいノックの音がしてきます。実は事故状況が酷くて、息子の遺体はひどく損傷していたのですが、それを確認していたのは旦那さんだけでした。奥さんがドアにかけより、開ける直前に旦那さんは絶望と共に猿の手に最後の願いをします。
奥さんがドアを開けた時、外には暗闇が広がっているだけでした。
例えばΑΙにインフレ目標2%を達成する方法を聞いたとします。そうすれば、その方法を見つけてくれるかもしれません。しかしそれには副作用があるかもしれません。この副作用が、例えば日本の失業率が5%上がる、などというヒトでも因果関係が予測できるものであれば手は打てますが、日本のインフレ率上昇のためにやったことの結果、（何故そうなるかもヒトにはわからないまま、というよりも、そこに因果関係があることすら気づかれないまま）因果が巡りめぐって、例えば、アマゾンの熱帯雨林が30%減る、などといった予測できない惨事が起きるかもしれません。
私たちは常に利益を得続けられるわけではありません。何かを得たら何かを失わなくてはならないのは現実の基本的なルールであるはずです。
人知の範囲の中で行動している限りは自らの言動の結果として起きることは自分のコントロール外のこととして扱うことができます。（自分に出来ること、やりたい事を一所懸命やっていればいいわけです。その結果、予想できないところでまずいことが起きても それは不可抗力といえます）
例えば営業マンがみずからの営業目標を必死に達成した結果、因果の鎖がつながって、隣の三歳の女の子が事故で亡くなることになるかもしれない。
その因果関係が人間でもわかることであっても（例えば目標達成を祝ってガーデンパーティーをやったとします。せっかくなのでお隣さんも招待したところ隣に行こうとした女の子が事故にあってしまう、とか）それは不可抗力としかいえないことであり、救いはあります。
しかし、これにΑΙが絡んできたらどうなるでしょう。目標達成の結果起こるであろうことをΑΙに予測させたとします。その結果不可抗力の悲劇が起こることがあらかじめわかったとしたら目標の達成を諦めるべきでしょうか。（パーティーだけやらなければいい、とは言わないでくださいね。それはただのたとえ話です。目標の達成と女の子の死が不可分的に結びついていると仮定して下さい）
ΑΙに予測をさせない、という選択肢もあります。しかし、事が起こってしまったあとに改めて因果関係を検証したらどうなるのでしょう。その場合、事前に検証できるのにしなかった、その責任をどう判断したらいいのでしょうか。
話が神学論争の様になっています。これは正にΑΙが“人工の神”になりうるからです。
一神教の神の特徴はその全能性と、その意図（いわいる神の御心）が人間には全くわからないことにあります。
ΑΙはヒトと比べて全能性を獲得しえるといえます。その意味では正に神です。神と決定的に違うところは、それが問いに答える、ということです。
その結果、私たちは自らの言動の結果起きることを恐れて一切の言動の自由を奪わることになるかもしれません。
“神の沈黙”は神学上の一つのテーマであったのでしょう。しかし、人工の神が現実に生まれるかもしれない今、“質問に答える神”が出現するかもしれない今はわかります。“神は沈黙していなければならない”ことが。
自らの決断が社会に与える正確かつ精密な分析に人間が耐えられなくなったとき、責任の重圧に押し潰されてしまったとき、ヒトはΑΙに決断の全てを委ねることになるかもしれません。
その時は私たちが愚かではあるけれども、勇敢であった種であることをやめるときです。
そんな状態に耐えられない種類の人は必ず、います。SFが描いていた、人工知能vs人類、という構図は勘違いだったかもしれません。正しくは人工知能の傘下にいる人達とそれに反旗を翻した人達の争いになるのかもしれません。
形としては永井豪の傑作漫画「デビルマン」での最終決戦が近いかもしれません。