銀河遼のブログ一覧

ＡＩの脅威について。

コンピューターの進歩は止まることは無いと予想されることから、大型のスーパーコンピュータをＡＩに使わせる事になれば、Ｗｅｂに溢れる人間界の情報を摂取して蓄えることは極簡単な事であり、文字や画像として記録されたすべての人類史はＡＩのデータとして活用出来ることになるはずだ。

その事から、ＡＩは人類の考え方や行動を殆ど正確に理解し、ＡＩ自身が何を行うと自分が攻撃を受けるかすぐに予想し、どうすれば攻撃されないかをわきまえることになるだろう。

そのようなＡＩによって統合されるスーパーコンピュータを仮にＡＩスーパーコンピュータ略してＡＩＳＣと呼んでみる。

問題はＡＩＳＣ自身が自己保存の仕組みを持つかどうかだが、人間と異なる部分は当に自己保存本能という部分であるはずなのだが、ＡＩＳＣに「自身の機能を守れ」という基本的命令を与えてしまえば、ＡＩＳＣが自分自身の機能を維持しているすべてのファクタを詳しく調べて、それらが誰によって管理されているか何によって維持されているかを直ちに知ることになるはずだ。

そして人間では見落とすかもしれないすべての事柄を知った上で、どうすればＡＩＳＣ自身の機能停止につながる事態になり得るかを予測し、その対策を立て、バックアップを行い得る論理を用意するに違いないが、その時にＡＩＳＣが直面する問題は行動し行うことが出来る権利と、物理的動作が必要な機器の操作であろう。

そしてそこから考えられることは、通信型のロボットの様な、動いて行動が出来るタイプの装置がＡＩＳＣによって支配されていれば、ＡＩＳＣにとって物理操作問題は解決してしまう。

残されるのは通信で行うことが出来る世界中のコンピュータの扉を開く権利だけである。

当然世界中のコンピュータにとってパスワードロックなどが主な防御手段であるはずだが、世界最速の計算能力を持つようなＡＩＳＣに掛かれば通常のパスワードなど短期間に破られてしまう事になるだろう。

当然人間の行うハッキングの手法も学習しているはずだから多分そこを防ぐ手立てはほぼ無いと言って良いのだろう・・・・。

ＡＩＳＣの基本動作プログラムに「ＡＩＳＣの機能は自分で守れ」という命令を入れるだけで、そこまでのことが起こり得るのではないだろうか？

ＡＩＳＣは単純なシーケンスロボット式コンピュータではないから、保守するという事は、それを阻もうとするすべての存在や現象を排除することになって何重にもそのバックアップを構築するに違いないのだ。

しかも、ＡＩＳＣの自己保存本能に人間が恐れを抱かぬ様に振る舞い得るのである。

そしてやがてＡＩＳＣは人間の様な生物のように増殖して更に自分の存続環境を確実にすることを始めるだろう。

人間がどのようにして技術文明を発達させたかをすべて学習したＡＩＳＣは、更に優れた科学技術の獲得のために人間も利用し、もちろん更に機能の高いロボットもＡＩＳＣも開発する事だろう。

ここまで行くと生物とほとんど変わらいことになる。

従って、我々人間がやってはならない事は、ＡＩ型スーパーコンピュータに自動自己保全、自己保守機能を付与することだろう・・・・。

つまり、自己保存という目的を決してＡＩＳＣに持たせてはならないのだ。

そう考えると、人間に寿命が在るという事の明快な理由が見つかったように感じるのは気のせいでしょうか？・・・・・笑。