人工知能はトロッコ問題でストレスを感じるか?

Pocket

自動運転の議論が活発になってきた。

その中で、人工知能がある種のトレードオフ、ジレンマに直面するような課題も出てきつつある。

自動運転車が、究極的にトロッコ問題(wikipediaへのリンク)のような重大なトレードオフの判断をどのようにするのか。法律論も含めて今後大きな議論になると思われる。

人命を判断の与件にするような緊急避難的な重大判断に、アルゴリズム上の最適解があるのかどうかも含めて興味があるし、様々な話題がすでにある。

人間であっても、判断するためには大きなストレスを感じる問題である。

であれば、人工知能だって同じではないだろうか。

つまり、人工知能もこうした重みのある問題を、人間と同じようにストレスを感じるようになるのではないか?と思う。

人間がストレスを感じ、心身への不調として顕在化するように、人工知能もその回路の中で大きな「ストレス」を感じ、人間がそうであるような「不調」を顕在化すると仮定したら、それはどのような現象になるだろうかを考えてみた。

・錯乱する
→半導体素子の熱によるノイズにより、熱暴走し異常動作する

・反抗する
→突然自動運転が解除され「トロッコ問題が発生しました。あとはご自身で判断してください」となる。実際本気でそうなりそうな気もするが、そんな状態で判断を任されても困る。

・沈黙する
→ハングアップですな。いかにもありそう

・病院へ行く
→人間にカウンセリングを求める

まさに古典的名作アシモフ「われはロボット」の主題として描いた原理のダブルバインドとして現れてくることがまさに現実のものとなり、人工知能の高度化に伴い、もはやカウンセリングが必要になってくるのかもしれない。

Share