AI全体に関するメモを受け取っていない場合は、AIが世界を引き継ぐことになります。ここに、知っておく必要のあるいくつかの事実があります。（写真：Shan Sheehan / Flickr） 今年、初めてコンピューターが、人間に知られている最も複雑なゲームの1つであるGoの世界チャンピオンを打ち負かしました。これは、人工知能の進歩におけるもう1つの分水嶺の瞬間でした。
Goがどれほど複雑であるかを理解するために、2.082×10 ^ 170の可能なボード構成があります。これは2で、その後に170個のゼロがあります。おそらくあなたの脳はそれほど大きな数を想像することさえできないでしょう（しかしコンピュータはそうすることができます）。または、数字の大きさを知るために それ つまり、宇宙には10 ^ 80の原子しかありません。つまり、1つの後に79個のゼロが続きます。
これが非常に重要な理由は、Goが非常に複雑であるため、人間のトッププレーヤーを打ち負かすには、マシンは、可能な限りすべてを計算することができずに、創造的に考え、即興で、目の前の状況に適応する方法を学ぶ必要があります。結果;つまり、実際の創造的な知性のように、深刻な人工知能が進行している必要があります。
AI全体に関するメモを受け取っていない場合は、AIが世界を引き継ぐことになります。ここに、知っておく必要のあるいくつかの事実があります。
- コンピュータはますます賢くなっています。
- コンピュータは加速する速度でよりスマートになっています。つまり、以前は10年かかっていた進歩が、今では1年かかります。以前は1年かかっていた進歩が、今では数週間または数日かかるようになりました。
- 私たちの生涯の中で、どの一人の人間よりもはるかに賢く、より能力のあるコンピューターが存在する可能性が高いです。
- これらのよりスマートなコンピューターは、テクノロジー（つまり、それ自体）を設計および改善し、私たちが理解し始めることさえできない新しいテクノロジーを作成できる可能性があります。
上記の点を理解している人は、一般的に2つの反応のうちの1つを持っています。どちらか：
- 彼らは私たちが完全にめちゃくちゃだと思っています。コンピューターがすべてを引き継ぎ、私たち全員を殺し/奴隷にします。または：
- これは、私たちの愚かな人間の喧嘩をすべて修正する技術的なユートピアをもたらし、クラウドに存在する超VRの世界で乱交をした後、私たち全員が幸せに暮らせるようになります。
ほとんどのものと同様に、真実はおそらく中間のどこかにあります。
しかし、たわごとがファンを襲ったとしても、ロボットが私たちをこの惑星の手付かずの頭皮を台無しにしているシラミと見なし、私たちが不注意に私たち自身のメカニズムを発明しているとしても、私たち全員を丸めて活火山に投げ込みたいと思っていても絶滅…
…私は気にしません。関係ありません。気になりません。そして、それもあなたを悩ませるべきではありません。その理由を少し説明します。しかし今のところ、私が新しいロボットの大君主を歓迎していることを知っておく必要があります。
テクノロジー業界の成長を加速
技術開発はそれ自体に複合し、 割合 加速する開発自体の。つまり、私たちが作成する高度なテクノロジーが多ければ多いほど、さらに高度なテクノロジーを簡単に作成できるということです。その結果、コンピューティングテクノロジーの進歩を見ると、指数関数的な曲線が見られます。つまり、時間が経つほど、物事はより速く発展します。 
技術開発はそれ自体で複合し、開発自体の速度を加速させます。（写真：Dennis Skley / Flickr）
計算能力は平均して2倍になりました 今では50年間18ヶ月ごと 。生の計算能力の点では、コンピューターは現在、マウスの脳の能力に匹敵します。ほんの数年前は、コンピューターは昆虫の脳とさえ競争することができませんでした。
急速な技術の進歩のより直接的な例を示すために、19世紀全体で撮影されたよりも多くの写真が2分ごとに撮影されるようになりました。 これまでに撮影された3.5兆枚の写真の約10％は、過去12か月間に撮影されたものです。
ハイテクの進歩に関して私たちが確かに指数関数的な曲線を描いているのなら、人々は ジェレミーハワード 以前は独自の人間であると考えられていた多くの分野で、私たちの知能に匹敵する人工知能からわずか数年しか離れていないと彼が言ったとき、おそらく正しいでしょう。
そして確かに、AIは私たちの生活のますます多くの領域に忍び寄っています。
わずか10年前、人々は自動運転車の性能の低さを笑っていました。わずか10年後の今日、自動運転車は閉鎖道路のコースを終了できるだけでなく、人間が運転する車と並んで混雑した高速道路を走行します。
そして、コンピューターが世界チャンピオンの囲碁プレーヤーを打ち負かしていないとき、彼らは次のようなことをするのに忙しい スポーツやニュース速報に関する記事を書く 、今まで見たことのない画像の説明を書く、 がんの診断 。これらのタスクの多くでは、コンピューターは人間よりも優れているとは言えませんが、そうでないものについては、 学習 人間の助けを借りずにそれらを毎日より良くする方法。
数年前、顔認識ソフトウェアは非常に高価であり、実際の環境で人を識別するのはそれほど得意ではありませんでした。それは超高度なスパイレベルの技術と見なされ、実際にはいくつかの世界政府によってのみ使用されていました。
これで、Facebookは先週末のバーベキューで友達にタグを付けることができます。
コンピュータの成長を加速させることについては、次のようになります。いつの日か、私たちがコンピュータを構築する時期が来るでしょう。 地球上のどの人間よりも賢い 。その日、コンピューターは私たちを地球上の主要な問題解決者として奪い、そこから私たちの思考、決定、行動は徐々に時代遅れになります。機械はすべてにおいて私たちよりも優れているので、ますます、私たちは何も役に立たないでしょう。
これは何人かの人々を怖がらせます。彼らは次のようなある種の未来を思い描いています ターミネーター または マトリックス 機械が私たちを奴隷にしたり、絶滅させたりする場所。
他の人々は、彼らの問題解決能力が私たちをはるかに上回り、人生が想像を絶するほど快適で問題のないものになると信じているので、一種のカルト的な熱意を持ったロボットの台頭を楽しみにしています。すべての病気が治ります。貧困、世界の飢餓、戦争、そして気候変動はすべて解決されるでしょう。余暇は無限にあり、極端な場合には、機械が私たちを不滅にすると信じている人もいます。
2つの可能な結果
私たちはいつもポジティブだと言われているので、テクノウトピアストから始めましょう。
のような人がいます レイ・カーツワイル テクノロジーは私たちの生活を改善するだけでなく、人類を救い、宇宙での私たちの位置を無期限に保証するだろうと考える人たち。カーツワイルは、細胞を修復して老化を逆転させたり、余分な脂肪や糖分を取り除いて好きなものを食べられるようにするナノボットのような将来の技術を信じています。そして、私たちの肉体が永遠に生きることができない場合に備えて、カーツウェルは、私たちの脳をクラウドにアップロードし、肉体がなくなった後もずっと仮想世界に永遠に住むことができると考えています。
このキャンプの他の人々は、人工の超知能は、人間が理解することさえできないほど複雑な質問に答えることができるだろうと考えています。また、マシンはより優れたガジェットとウィジェットを発明するだけでなく、ガジェットとウィジェットを構築するための指数関数的により効率的な方法を発明し、地球上のほぼすべての人が利益を享受できるようにします。
数行の推論がこの考えを裏付けています。まず、テクノロジーは核兵器やYouTubeの有名人など、人類に新たな問題を引き起こしましたが、これまでのところ、テクノロジーは明らかに人類にとって正味の利益でした。政治家や専門家があなたに信じてほしいことにもかかわらず、地球上の平均的な人は ほんの数年前よりも良い これは主に、テクノロジーがより良く、より安く、より広く普及したことによるものです。この傾向が続くのであれば、何も心配する必要はありません。
第二に、カーツワイルと彼の支持者は、テクノロジーは私たちによって作成されただけでなく、人類に害を及ぼす理由はないと信じています。 私たちの一部になる 。彼らは、私たちの生物学と技術が区別できないところまで到達すると信じています。これが事実である場合、議論は進みます、人間に有害であるどんな形の技術もそれ自体に有害であり、そしてどんな種類の自己破壊的技術も持続することができません。つまり、有害な遺伝子変異が遺伝子プールからすぐに取り除かれるのと同じように、それはすぐに消滅します。 
いかなる種類の自己破壊的技術も存続することはできません。（写真：m_hweldon / Flickr）
しかし、テクノウトピアストは、すべてのテクノロジーが有益で破壊的なさまざまな目的に使用できることを認めていないという点で偏見を持っている可能性があります。彼らはまた、人間が新しいテクノロジーに適応するためにゆっくりと動くという事実を無視し、自分の利己的な目的のためにそれらのテクノロジーを悪用しようとする人々のグループが常に存在するという点で偏見を持っている可能性があります。
もう一方のキャンプには、テクノアーマジドニストがいます。私は完全にその言葉を作り上げましたが、スペルチェックがそう言ったので、明らかにそれは存在します。
テクノアーマジドニストが確信に欠けているもの（彼らのほとんどはまだ何を考えるべきかわからない）、彼らは有名人のスターパワーで構成されています。ビル・ゲイツ、スティーブン・ホーキング、イーロン・マスクは、 彼らのズボンをがらくた AIがどれほど急速に発展しているか、そしてその影響の種として私たちがどれほど準備不足であるかについて。ムスクは、近い将来、人類に対する最も差し迫った脅威は何かと尋ねられたとき、すぐに3つあると言いました。第二に、気候変動。 3分の1に名前を付ける前に、彼は黙っていました。インタビュアーが彼に尋ねたとき、3番目は何ですか？彼は微笑んで言った、「コンピューターが私たちに親切になることを決心することを願っています。
私たちがデジタル超知能のための生物学的ブートローダーだけではないことを願っています。残念ながら、それはますます可能性が高いです
—イーロン・マスク（@elonmusk） 2014年8月3日
おそらく、テクノアーマジドニストの中で最も率直で尊敬されているのは、スウェーデンの哲学者ニック・ボストロムです。ボストロムや他の人が恐れていることの1つは 暴走自己改善技術 ;つまり、人間の介入なしにそれ自体（またはそれ自体の新しいバージョン）をよりスマートにするのに十分スマートなマシンです。それが人間の知性を超えるポイントに達した場合、それは非常に短い時間の問題であり、収穫加速の法則がオーバードライブになり、指数曲線がまっすぐに伸び、私たちはそれを止めることができません。ボストロムはここで良い点を示しています。あなたの種にとって進化の惨事になる可能性があるよりも賢いものを作ることです。
私たちは、私たちよりも桁違いにインテリジェントなエンティティを制御できないという非常に現実的なリスクを負っています。おそらく、コンピューターが十分に賢くなったら、人間が飼いならした馬のように私たちを飼いならして、すきやバギー、戦車（または当時の地獄の馬）のような労働をする方法を見つけ出すでしょう。怖いのは、これが私たちにとって最良のシナリオである可能性があるということです。人間が馬に代わる新しいテクノロジーを作成したのと同じように、超インテリジェントな自己改善であるため、実行できない、または実行したくないマシンで作業を行うことができます。機械は最終的に私たちに取って代わる新しい技術を思い付くでしょう。そして、まあ、馬の個体数が以前とは違うとだけ言っておきましょう。
人間は安全を念頭に置いて技術を構築しているため、これはもっともらしいとは言えないと主張する人もいます。しかし、主要な技術的進歩が誰かによって悪意のあるまたは破壊的な目的で使用されなかった最後の時の名前は？そうそう、そうです。決して。
何が起こるか気にしない理由とあなたがすべきでない理由
それで、超インテリジェントなマシンが作成され、人類を無力にすると仮定しましょう。それらがどういうわけか私たちと私たちの脳に統合されていないと仮定しましょう。ホーキングやムスクのような人々が正しいと仮定しましょう。人類は実際にはデジタルハイパーインテリジェンスへの数千年のブートドライブであり、私たちは私たちの有用性を超えています。
まだ心配していません。
どうして？さて、箇条書きの列車を動かし続けるために、これをポイントごとに見ていきましょう。
1.機械の善/悪の理解は、私たちの理解を超える可能性があります。 犬やイルカが最後に大量虐殺を犯したのはいつですか？ 「自由」や「世界平和」などの抽象的な概念の名の下に、コンピューターが都市全体を気化させることを最後に決定したのはいつですか。
そうです、答えは決してありません。
ここでの私のポイントは、インテリジェントマシンが人間の種全体を駆除したくないということではありません。私のポイントは、人間として、私たちはここのガラスの家の中から岩を投げているということです。動物、環境、そしてお互いの倫理と人道的な扱いについて、私たちは何を知っていますか？私たちはどの足に立つ必要がありますか？
そうです：ほとんど何もありません。道徳的な質問になると、人類は歴史的にテストを失敗させます。超インテリジェントなマシンは、倫理、生/死、創造/破壊を、私たち自身がこれまで以上に高いレベルで理解するようになるでしょう。そして、私たちが以前ほど生産的ではないという単純な事実、または時々私たちが迷惑になる可能性があるという単純な事実のために彼らが私たちを根絶するというこの考えは、私たち自身の心理学の最悪の側面を私たちに投影しているだけだと思いますわからない、理解できない。
現在、人間の道徳のほとんどは、私たちの個々の人間の意識のそれぞれの執拗な保存と促進に基づいています。高度な技術が個々の人間の意識を恣意的にする場合はどうなりますか？意識が自由に複製、拡大、縮小できるとしたらどうでしょうか？それは私たちがこれまでに持つことができた倫理的理解を完全に消し去ります。私たちが体と呼ぶこれらの不格好で非効率的な生物学的刑務所をすべて取り除くことが、80数年の存在を通して私たちの道を潮吹きし続けるよりも、実際にははるかに倫理的な決定である可能性があるとしたらどうでしょうか？私たちが知的刑務所から解放されてはるかに幸せであり、私たち自身のアイデンティティの意識的な認識が知覚可能なすべての現実を含むように拡大されたことを機械が認識した場合はどうなりますか？もし彼らが私たちがただのばかげた馬鹿だと思って、私たち全員が自分の死によって死ぬまで、信じられないほどおいしいピザやビデオゲームに夢中になっているとしたらどうでしょうか？私たちは誰を知っていますか？そして、私たちは誰と言うのですか？
しかし、私はこれを言います：彼らは私たちがこれまでよりもはるかによく知らされるでしょう。
2.彼らが私たちを殺したり奴隷にしたりすることを決心したとしても、彼らは確かにそれについて実用的でしょう。 人間は私たちがいるときに最も問題を引き起こす傾向があります 満足していない 。私たちが幸せでないとき、それは私たちがすべての不機嫌で気まぐれで怒って暴力的になるときです。それが私たちが政治的暴動を始めたときです 宗教カルト 遠隔国を爆撃し、要求する 私たちの権利は尊重されます！ 誰かが私たちに注意を払うまで無差別に殺し始めます ママがやったことがないように 。
マシンがスカイネットのように私たちをやろうとした場合 ターミネータ 、それから私達は私達の手に世界的な内戦を起こすでしょう、そしてそれは誰にとっても、特に機械にとっては良くありません。内戦は非効率的です。そして、機械は効率のためにプログラムされています。
人間が幸せなとき、私たちはそのようなことをする時間がありません—私たちは気にかけるのに忙しくて笑ったりクソしたりしています。したがって、私たちを追い払うためのはるかに実用的な方法は、機械が私たちを操作して喜んで自分自身を追い払うことです。のようになります ジム・ジョーンズ 世界規模で。彼らが私たちのために作ったものは何でも、私たちが今まで聞いた中で最高のひどい考えであるように見えます-私たちの誰もそれに抵抗することはできず、私たちは皆彼らの計画に陶酔的に同意します-そしてブーム、それは終わります。迅速で痛みがありません。これは、これまでに考えられた中で最高の味のシアン化物を混入したクールエイドになります。そして、私たちは皆、喜んでそれを飲み込んでいます。
さて、あなたがそれについて考えるならば、これは行くのにそれほど悪い方法ではありません。ドローンに爆撃されたり、核爆発で気化したりするビート。
奴隷制についても同じことが言えます。とてつもなく幸せな奴隷は決して反逆しません。私は、MDMAのマルディグラがほぼ24時間年中無休であるという一定の幻覚状態に保たれている一種のMatrix-yタイプの取引を想像しています。そんなに悪くはないでしょう？
3.理解できないことを恐れる必要はありません。 多くの場合、両親は彼らよりもはるかに知的で、教育を受け、成功している子供を育てます。次に、親はこの子供に対して2つの方法のいずれかで反応します。彼女を失うことを恐れて、彼女に脅迫され、不安になり、必死になって彼女をコントロールするか、座って感謝し、自分たちでさえできるほど素晴らしいものを作成したことを愛します。彼らの子供がどうなったかを完全に理解しているわけではありません。
恐れと操作を通して子供をコントロールしようとするのは、くだらない親です。ほとんどの人がそれに同意すると思います。
そして今、あなた、私、そして私たちが知っているすべての人を置くマシンの差し迫った出現で 失業中の 、私たちはくだらない親のように振る舞っています。種として、私たちは私たちの既知の宇宙の中で最も驚異的に進歩した知的な子供を産む寸前です。それは、私たちが理解または理解できないことを続けます。それは私たちに愛情と忠実であり続けるかもしれません。それは私たちを連れてきて、その冒険に私たちを統合するかもしれません。あるいは、私たちがくだらない親であると判断して、私たちに電話をかけ直すのをやめるかもしれません。
何が起こっても、それは私たちがこの瞬間についてどう感じるかを変えるべきではありません。私たちよりも大きいです。私たちが理解できる以上の何かのための1つの大きくて長い進化型ブートディスクであるかどうかを誰が気にしますか？それは素晴らしいことです！それは私たちが1つの仕事をしたことを意味します。そして、私たちは来て、クソはそれをしました。あなたがそれが成し遂げられるのを見た世代の一員であったことを幸せにしてください。そして今、私たちの子供が家から出て行く準備をしている間、涙ながらにさようならを振って とても素晴らしい人生を始める それは私たちの理解の範囲を超えて存在すること。
マーク・マンソンは、作家、ブロガー、起業家であり、 markmanson.net 。
