この問いは米人工知能（以下AI）学者カーツワイル氏の「2045年にAIは万能となり人間の英知を超越する」という説に起因するものかと思います。そして、この問いは、「AIは人間をAIの意思・命令・行動に服従させることができるか？」と言い換えることができます。つまり、今のAIに意思があるのかということがポイントとなります。私の知る限り、現在の科学は意思とは何かを説明するに至っていません。すなわち意思を実現する技術的な裏付けがありません。

しかし、AIが、意思をもつ人間や組織をサポートし、人間を支配することは可能です。グーグル・アップル・フェイスブック・アマゾン(GAFA)に代表されるプラットフォーム企業は、消費者からの個人情報を収集して、その集合体であるビッグデータを、AIをはじめとする様々な手法により分析し、広告主やその関係企業に販売しています。こうした分析の蓄積により、プラットフォーム企業が検索のランキングを操作することで消費者の選好を操作でき、さらにビッグデータから価値ある結果を得て、見えるコンテンツや共有するデータをコントロールしています。その観点では、AIを使ってGAFAが人間を支配することが心配です。

経済学部： 情報経済ネットワーク論分野教員