マックス・テグマーク
の『LIFE 3.0 人工知能時代に人間であるということ』を読んだ。テグマーク教授は2018年のTED動画[LINK]でその要旨を語っている。ハードウェアが自らを設計できる技術的段階、ライフ3.0の時代が近づいた。ほとんどの研究者が、あらゆるタスクで人間を超える汎用人工知能AGIの誕生は今世紀中だろう、と予測している。その後、AGIは人間にコントロールできない速度で進化し、知能爆発シンギュラリティが引き起こされるだろう。未来のシナリオは幅広く、独裁者、征服者、動物園の飼育係、門番、1984、、いずれも好ましいとは言えない。アシモフのロボット三原則から70年、超人的AGIの誕生がもはやSFのテーマではなくなった今、AIが人間の繁栄に役立つよう準備をする必要がある。
というわけで、テグマークが立ち上げたFuture of Life Instituteは、2017年イーロン・マスクやアップル、グーグル、マイクロソフト、大学の代表的なAI研究者たちと共に「友好的なAI」AI安全研究のための
アシロマの原則[LINK]を策定した。
「友好的なAI」とは、その超知能の目標が人間の目標と合致することだ。つまりAIは人間の目標を理解しなければならない。
「未来の自動運転車にできるだけ早く空港へ行ってくれと頼み、その自動運転車がそれを言葉通りに受け取ったら、あなたは警察のヘリに追いかけられ吐瀉物まみれになってしまうだろう」という極端で愉快な例が語られる。
AIはプログラムを遂行するが、意識と意義を認知するのだろうか？
第８章はサブタイトルの「人工知能時代に人間であること」を「意識」を中心に考察している。とても難しい。ジョン・L・キャシディ作『ケンブリッジ・クインテット』でも議論の要はそれだったと思う。「機械は認知能力において人間と並びうるだろうか」小説の舞台は1949年、コンピュータの父アラン・チューリングに強く反論するのはヴィトゲンシュタインだった。
ところで、エニグマ暗号解読に取り組む映画「イミテーション・ゲーム[LINK]」に、チューリングがブレッチリー・パークの仲間の労をねぎらいリンゴを配るシーンがあった。アップル・コンピュータのロゴはそこから来たのだという説に、さすがジョブズ！と感心したのだが、どうも本当ではないらしい。むしろニュートンのリンゴやアップル・レコードからというのが正しいようだ。
『LIFE 3.0』に例示された映画は「
トランセンデンス[LINK]」「インターステラー」「スタートレック」「マトリックス」「エクス・マキナ」など。それらはもう遠い未来ではない？
そうそう、未読だけど、関連図書にカズオ・イシグロの『クララとお日さま』を加えなくては。
ｺﾒﾝﾄをする