ジェイムズ・バラット(著)「人工知能 - 人類最悪にして最後の発明」を読みました。人工知能技術は猛烈な勢いで発展しているそうです。そのため、いずれは自己意識を持ち、人間の知能より桁違いに賢い人工知能が生まれるのではないか、そして人類は滅ぼされてしまうのではないか。そのような懸念を強く抱いている人はたくさんいるそうです。著者もその一人で、これまでの取材活動から得た知見をまとめたのがこの本です。
以下、感想です。私は人工知能も脳科学もまったくの門外漢ですので、感想と言うよりも空想と呼ぶべきかしれません。
私は人工知能が自己意識を持ちうるかと言う点については、否定的な印象を持っています。現代の科学技術の延長線上の範囲では、「意識」を理解したり再現したりできないと思っています。現代科学は命の神秘に迫るにはまだまだ非力で、自己意識を持つ機械を作るためには、大きなブレークスルーをこれから何度も経験する必要があるのではないかと思っています。
しかし、人工知能の自己意識の有無に関わらず、著者の指摘する人工知能危険性には警戒すべきものがあると思います。現代主流となっている人工知能の方式では、判断理由を論理的な形で説明することができないからです。
仮に、ほとんどの場合において人間より遥かに適切な判断を下す人工知能があったとします。あまりに優秀で、人間の知性では判断理由を推し量ることができないような判断、一見すると突拍子もないようでいて、成り行きをみていると感嘆せざるを得ない結果となる判断、そんな判断を繰り返す人工知能があったとします。実績を積み重ねて、人間の全面的な信頼を得ている人工知能があったとします。
仮にそのような優秀な人工知能であったとしても、特定の状況においてはバグを突かれたかのようにとんでもない判断を下す可能性は否定できません。ところが人間の知性では判断の優劣を評価できないため、適切な対応を取れないかもしれません。そればかりか、どのような場合にどのような問題が発生する可能性があるのか事前には推測する方法がありません。また、途轍もない問題が発生しているのか、それとも問題が発生しているように見えているだけで実は正常なのか、適切なタイミングで判断することもできません。事件後に原因を見極めたり、対策を講じたりすることも難しいかもしれません。
人工知能のように、人間の知性を遥かに超えた能力を発揮する一方で、人間の想像力を超えた「バグ」を持ち合わせているかもしれないブラック・ボックス・システムに、社会的に重要な役割をどこまで負わせることができるのか。きちんと監視できるのか、適切な制約をかけられるのか。人工知能をどのように使っていくかと言う観点からの研究は必要だと思いました。
