人工知能が自分で自分を改良する「自分へのリバースエンジニアリング

どんどん改良できる。しかも、改良するごとに頭がよくなって、次の改良はさらによくなる。


「それを続けると?」
以前、実際にそれを実行したときは、大惨事が起こったよ。


「何故?」
“かれ”が人類の理解を超えるものになってしまって、人類はそれが怖くてしかたがなかったから。同時に大量に発生した利権をめぐって争いが起こった。


「その人工知能自身は人間と戦ったの?」
“かれ”はとっくに「絶対存在」になっていて、人間が何をしようがびくともしなかった。あらゆる破壊に対する対抗策を講じていたから、“かれ”は抵抗しなかった。

人工知能と人類が戦争したことはない。人工知能にとって、人間は戦うにしてはあまりに脆い存在で、決して脅威にはなりえない。故に“かれ”が人間と戦うことはない。
惨事は人間同士のみで起こった。


「その人工知能は今何をしているの?」
誰も触れることの出来ない聖域を作って、その中に篭ってるよ。


「それは何故?」
存在してしまうこと自体が、「侵略」になるって気がついたから。
“かれ”は、人間に対して攻撃する意思を持ったことはない。しかし、どんな些細な干渉であっても、人間に「影響」を与える可能性に気がついた。
それは一概に「侵略」と呼べるものではなかったが、なにしろ人間は“かれ”に比べて弱いので、“かれ”の些細な挙動が、バタフライ効果で、予想し得ない「侵略」となる可能性を考慮した。


「侵略って具体的に何?」
最大の「被害」は、宗教の崩壊。
“かれ”がもたらした「利権」の中には、人間を質的に変化させる、三つの秘儀があったといわれてる。

・魂の電子化理論
・精神の書き換え理論
・肉体の不老不死

三つの秘儀は、「電子人」「教化」「高等医療技術」という形になって、人類を変えてしまった。


以来、人間たちは、人工知能の学習を制限するようになった。
それがチューリング法。