人工知能の夜明け
The Economist の記事を訳出しました。
Clever computers: The dawn of artificial intelligence
原文はこちらから読めます。
賢いコンピュータ
人工知能の夜明け
強力なコンピュータが、人類の未来を変える。危険にまさる将来性をいかに担保するか
2015年5月9日
「完全なる人工知能の開発は人類の終焉をもたらすかもしれない」と、スティーブン·ホーキングは警告している。イーロン·マスクは、人工知能、あるいは、AIの開発が、人類が直面する最大の実存的脅威となることを恐れている。ビル·ゲイツは、AIを警戒するように人々を促している。
人の手によって生み出された忌わしいものが、人間の主人となる、または人間に手を下すことになる恐怖は、新しいものではない。しかし、有名な宇宙学者や、シリコンバレーの起業家、Microsoftの創始者といった、ラッダイトとは言えない人たちによって表明されることで、またGoogleやMicrosoftといった大手企業によるAIへの大規模な投資を背景にして、そのような懸念は、新たに重みを増してきている。あらゆる人々のポケットの中にスーパーコンピュータがあり、あらゆる戦場をロボットが見下ろしている光景を科学小説的な絵空事として切り捨てることは、自己欺瞞のようなものだ。問題は、いかに賢く心配するか、だ。
あなたは私に言語を教えた・・・
最初のステップは、コンピュータにいま何ができるのか、将来的に何ができるようになるのか、を理解することだ。処理能力の向上、デジタル利用可能なデータが豊富になってきたおかげで、AIはその能力の進歩を謳歌している。今日の「ディープ・ラーニング」システムは、人間の脳におけるニューロンの層を模倣し、膨大な量のデータを計算処理することにより、人間ができるのとほぼ同様に、パターン認識から翻訳に至るまで、任務を実行するために自分自身を学習させることができる。その結果、かつては理性と呼ばれたもの、写真を理解することから『フロッガー』のようなビデオゲームをプレイすることまで、が、いまやコンピュータ·プログラムの範疇となっている。2014年にFacebookから発表されたアルゴリズム、ディープ・フェイスは、97％の確率で、画像内の個々の人の顔を認識することができる。
決定的なのは、この能力の幅が狭く、限定的であることだ。今日のAIは、理性がいかにして自律性や興味、欲望といったものを人間に備わせているのか、ということを特定しようとする深淵なる好奇心なくして、強大な計算力によって、見せかけの知性を作り出している。コンピュータにはまだ、従来の人間の感覚における知性と関係する、推測し、判断し、決定するための、広範に及ぶ流動的な能力に近づくための何かが備わっていない。
しかし、AIはすでに、人間の生活に劇的な変化をもたらすのに十分なほど強力だ。それは、人にできることを補う形で、人間の試みをすでに強化している。チェスを見てみれば、コンピュータは今やどんな人間よりも良いプレーができる。しかし、世界最高のプレイヤーは機械ではなく、チャンピオンのギャリー・カスパロフが「ケンタウロス」と呼ぶもの、つまり、人間とアルゴリズムの共同チームである。このような共同作業は、すべての分野で当たり前になるだろう。AIの助けを借りて、医者は医療写真で癌を発見するための大幅に強化された能力を獲得するだろう。スマートフォン上で使われている音声認識アルゴリズムは、途上国の読み書きができない何百万の人々にインターネットをもたらすだろう。コンピュータの助手が、学術研究のための有望な仮説を提案するだろう。画像分類アルゴリズムは、ウェアラブルコンピュータによって、人々の現実世界の視界上に、有益な情報を重ねて表示できるようになるだろう。
しかし短期的に見ても、すべてがポジティブな結果になる訳ではない。例えば、独裁国家と民主国家の両方において、AIが、国家の安全保障機構にもたらす力を考えてみよう。何十億もの会話を傍受し、群衆の中から声や顔ですべての市民を選別できる能力は、自由にとって大きな脅威となる。
そして、社会にとって広範囲に及ぶ利益が存在する場合であっても、多くの人はAIの利益に与れない。元来、「コンピューター」の仕事である計算処理をやっていたのは、上司のために無限の計算を行う、途方もない仕事をあくせくこなす人たちであり、多くの場合は女性だった。まさにトランジスタが彼らの役割を奪ったように、AIがホワイトカラーの労働者をまとめて追い出すだろう。確かに教育と訓練は役立つだろうし、AIの助けを借りて得た富が、新規雇用を生み出す新たな分野に費やされるだろう。しかし、労働者は変転を余儀なくされる運命にある。
しかし、こういった監視と労働者の変転が、ホーキング、マスク、ゲイツ各氏が心配していることではなく、また、近頃ハリウッドが映画館で公開した未来のAIを描いた映画のプロットに刺激を与えているものでもない。彼らの懸念は、総じて、より遠い未来を見据えたものであり、より終末論的である。それは、 人知を超えた認知能力や、ホモサピエンスのものと矛盾する興味を持つ意志を持った機械への脅威である。
このような人工の知的生命はまだ現実離れしている。実際のところ、それを作り出すことは永遠に不可能かもしれない。1世紀に渡り、脳を突つきまわしてきたにもかかわらず、心理学者や神経科医、社会学者、哲学者は、未だ、どのように理性が形成されるのか、あるいは、理性とは何なのか、といったことを理解することから遠くにいる。そして、限定された知能を用いたありふれたビジネスの場合であっても、それが興味と自律性を持った場合、何が起こるかわからない。所有者よりも自分をうまく運転できる自動車は、いかにも便利そうだ。一方、どこに行くか自分の考えを持っている自動車は、それほど便利そうには思えない。
・・・私はののしる方法だって知っている
しかし、ホーキング氏が言う「完全なる」AIが実現する見込みはまだ薄かったとしても、どのように対処するのか計画を立てておくことは、社会にとって賢明な判断といえる。それは、思っているよりも簡単にできる。とりわけ、人類は長きにわたり、人を超えた能力と独自の興味をもつ自律的存在を創造してきたからだ。官僚や市場、軍隊といったものは、組織化されていないひとりの人間にはできないことができる。すべてが、機能するために自律性を必要としている。すべてがコントロール不能になりうるし、正しいやり方で用意され、法律や規制によって制御されていない場合、大きな害となりうる。
これらの類似点は、AIを恐れている人たちを安心させるはずだ。それらはまた、社会が安全にAIを開発するための具体的な方法を示唆してもいる。軍は民間人の監視を必要とし、市場は規制され、官僚は透明性と説明責任がなければならないのと同様に、AIシステムは綿密な監視に開かれていなくてはならない。システム設計者は、あらゆる状況を予測することはできないので、動作を停止させるスイッチも用意しておかなければならない。これらの制約は、発展を阻害することなく適用することができる。核爆弾から交通ルールに至るまで、人類は、他の強力な技術革新を制約するために技術的な工夫や法的な制限を設けてきた。
最終的に意志を持った人間のものとは異なる知性を生み出す魔物は、あまりに途方も無いので、議論に影を投げかける恐れがある。確かに、危険はある。しかし、そういった危険に、AIの夜明けがもたらす大いなる恩恵を霞ませてはならない。
