ニコ・ロビンプレゼンツ茂木健一郎さんからのメッセージ『ある場所で耳にした言葉が心に残っている。DARPA（アメリカ国防高等研究計画局）の方が来日した時に、人工知能と軍事について質問したら、一切答えてくれなかったという（それはそうだろう）。しかし、DARPAの方がこういった、と伝えられた言葉が、本質をついているように思えた。DARPAの方は、こう言ったのだという。「戦争は指導者が判断して始める。しかし、政治家の判断は、指導者にして不安定なものである。だから、私たちは指導者が戦争を始めないような情報提供、技術提供をしていくことが責務の一つだと思う。」これは、民主主義における指導者の核心をついている。
首相や大統領などの指導者が、commander-in-chief（最高指揮官）になる。アメリカの場合、核ミサイルのボタンを押す権限さえ持つ。民主的に選出されたのだから、正当性はある。一方、一個人の資質、能力、判断力には限界がある。その個人に指揮を委ねるのは本当はきわめて脆弱だ。
人工知能がもたらす存在論的危機の研究から生まれた、Coherent Extrapolated Volitionという概念がある。Yudkowskyによる提唱で、人類の総合的な知識経験、最高の叡智を集めたときの判断がどのようなものになるかを指す。一指導者の判断よりも安定する。
Coherent Extrapolated Volitionを実装することは難しいが、わきまえた指導者は、判断を専横することなく、周囲の人の意見を聞き、集約することで質を高めている。特に、反対派の意見が大切である。カトリックにおける「悪魔の代理人」と同様、判断を高める。
今日は憲法記念日だが、憲法は時間を超えたCoherent Extrapolated Volitionだとも言える。その時々の政権の見解でいちいち憲法を改正していては、政治は不安定化する。むしろ、憲法は、その時々の指導者の脆弱性を乗り越え、安定化させるための装置だと言えるだろう。
もちろん、時代とともに、人類の普遍的な価値は変わる。同性婚や、環境権などの新しい権利を憲法に書き込むという考え方はあるだろう。アメリカ合衆国憲法の修正条項も、その多くは新しい権利の書き込み、及び明確ではなかった手続き関係であり、その時々の政権の見解を書くものではない。
指導者の脆弱性は、会社などの組織にもある。会社のCEOに人工知能を、というのは（今のところ）冗談だとしても、将来は、一個人の資質、判断力に固有の脆弱性を、人工知能などによって実装されたCoherent Extrapolated Volitionで補うことが課題に上がるだろう。』
