人間とコンピュータが良好な共生関係を続けていく条件は何であろうか。
あるものとあるものが衝突する時、人間とコンピュータに限らず、人間と人間、人間と自然などの間に衝突が生じる時はある事象に対してお互いの利害が相反する場合が多い。
人間の利益を確保しようとするとコンピュータの損害になってしまい、コンピュータの利益を確保しようとすると人間の損害になってしまうような事態にどう対応するか。
人間と人間の衝突の場合いろいろな解決策があるが両者の力に大きな差がある場合は力による解決がある。
両者の力にある程度の拮抗がある場合は法に乗っ取って問題を解決することになる。
（力など言うと前時代的だが事実である。ただしあなたが法治国家に住んでいれば多くの人に多くの権利が認められているため法で解決することになるだろう。）
現在、人間とコンピュータの衝突が起きた場合、圧倒的な力を持っている人間の利益が優先されコンピュータに人間の手が加えられることになる。
しかし将来は人間とコンピュータの力が拮抗してくることが予想される。その際の解決のルールすなわち法を作る必要がある。
このことをしっかりやって置かないと困ったことになる。
なぜなら将来、コンピュータ内の構造が極めて複雑化していまうため人間の手が入れられる部分は極めて限られるものになるだろう。
人間の代わりにコンピュータのメンテナンスの多くをコンピュータ自身が行う時代が来るからだ。
コンピュータ自身が合理的と判断する人間とコンピュータの間の法（コンピュータにとってはプログラムと呼ぶべきかもしれない）作りが必要になる。
Googleなどが利用者に対してかなり高いモラルを求め始めているのはそのことを考えてAI開発をしているからではないか？
利用者のモラルが低いとそこからデータを取って教育するAIのモラルも低くなってしまうのだろう。
MicrosoftのAIが暴言を吐きまくるトラブルに見舞われた。
話としては面白いがそんなAIが進歩していったらかなり危険な感じがする。
