心配している人工知能（AI）による支配とはどのような状態をいうのでしょうか。自動車を運転する人がカーナビの指示通りにルートを決定しているとしても、あるいはその指示通りに自動運転されるようになったとしても、ここで心配している意味では、カーナビに支配されていませんよね。

そこで支配の意味を、支配者が被支配者を意のままに操る状態を指すと理解してみましょう。このような意味の支配の概念は、法学でも被支配者の刑事責任の有無とか被支配会社の法人格否認といった場面で登場します。

カーナビで考えてみますと、そもそもカーナビに目的地を入力したのは人間です。そして具体的なルートについての指示を人間は受け入れていますし、その指示に逆らう選択肢も存在するので支配されているとはいえません。つまり支配する側の意思によって、支配される側の意思が抑圧されていなければ、支配を受けているとはいえないのです。

それではAIは、いずれ自ら意思を持ち、人間の意思を抑圧するようになるでしょうか。近い将来、人間はその判断の多くをAIに委ねるでしょう。カーナビは“生活ナビ”や“政策ナビ”にと役割を拡大するかもしれません。それでも、そのAIに目的地を設定したのが人間であれば、AIが意思を持って支配しているとはいえないでしょう。心配すべきは、人間が本当に正しい目的地を設定できるかどうかではないでしょうか。

法学部： 篠原 信貴（労働法）