スティーブンホーキング、イーロンマスク、ビルゲイツ。 （写真：ゲッティイメージズ） 最も人気のあるSF映画のいくつか— 2001年：スペースオデッセイ、ターミネーター、マトリックス、トランセンデンス、エクスマキナ 、および他の多くの人々は、人工知能が進化して、人類が自らの創造物を制御できなくなり、私たちの文明全体が崩壊するという考えに基づいています。軍事目的で製造された現在の機械の能力を考えると、急速な技術の成長とそれへの依存の高まりに対するこの恐れは確かに正当化されます。
2001年にイラク戦争が始まって以来、すでに技術は戦争に大きな影響を与えています。無人ドローンは持続的な監視と標的への迅速な攻撃を提供し、小型ロボットは即席爆発装置の武装解除に使用されます。軍は現在 資金調達 より多くを生み出すための研究 自律型で自己認識型のロボット 人間の兵士が命を危険にさらす必要性を減らすため。ボストンダイナミクスの創設者であるマークレイバーは、恐ろしい高さ6フィート、320ポンドを示すビデオをリリースしました。森の中を自由に走るアトラスという人型ロボット。だった会社 Googleが購入 2013年に国防総省から助成金を受け取り、さらに機敏なバージョンの開発に取り組んでいます。
[protected-iframe id = f3ad9cb5d88743d09a7e6c45b1a9b09b-35584880-78363900″ info = https：//www.youtube.com/embed/NwrjAa1SgjQ width = 560″ height = 315″ frameborder = 0″ allowfullscreen =]
このような強力なテクノロジーに内在する危険性により、科学界の何人かのリーダーは人工知能について懸念を表明するようになりました。
AIの作成に成功することは、人類史上最大のイベントになるだろうと、スティーブンホーキングは論説で書いています。 登場 に インデペンデント 残念ながら、リスクを回避する方法を学ばない限り、これが最後になる可能性もあります。短期的には、世界の軍隊は、標的を選択して排除できる自律型兵器システムを検討しています。ホーキング教授は2014年に追加されました BBCへのインタビュー 、遅い生物学的進化によって制限された人間は、競争することができず、A.Iに取って代わられるでしょう。
ホーキング氏が説明した技術は、米国の科学者からさまざまな形ですでに始まっています。 コンピューターを使用してアルゴリズムを入力する ボストンダイナミクスなどの企業に対するイスラム過激派の軍事戦略の予測 成功した移動ロボット 、作成する各プロトタイプを着実に改善します。
ホーキング氏は最近、アルゼンチンのブエノスアイレスで先月開催された国際合同会議で発表された手紙を発行する際に、イーロン・マスク、スティーブ・ウォズニアック、その他数百人に加わった。手紙は、人工知能が核兵器よりも潜在的に危険である可能性があることを警告しています。
ロボットに道徳的責任を与えるという倫理的ジレンマは、フェイルセーフである厳格な安全性と予防策を必要とします。さもないと、脅威は危険を冒すには大きすぎます。
イーロンマスクは、人工知能の見通しを2014年の最大の実存的脅威と呼びました MITの学生へのインタビュー AeroAstroセンテニアルシンポジウムで。私は、私たちが非常に愚かなことをしないようにするために、おそらく国内および国際レベルで、何らかの規制上の監視が必要であると考える傾向がますます高まっています。マスク氏は、人工知能会社であるDeepMindに投資するという彼の決定を次のように引用しています。 手段 人工知能で何が起こっているのかを監視するだけです。そこには潜在的に危険な結果があると思います。
Microsoftの共同創設者であるBillGatesも、人工知能について懸念を表明しています。 RedditでのQ＆Aセッション中 2015年1月、ゲイツ氏は、私は超知能を心配しているキャンプにいると言いました。まず、マシンは私たちのために多くの仕事をし、超知能ではありません。私たちがそれをうまく管理すれば、それは前向きなはずです。その数十年後、知性は懸念されるほど強力ですが。私はこれについてイーロンマスクや他の何人かに同意しますが、なぜ何人かの人々が心配していないのか理解できません。
ホーキング、マスク、ゲイツによって列挙された脅威は現実のものであり、人工知能が人類にもたらす可能性のある計り知れない利益にもかかわらず、私たちがすぐに注意を払う価値があります。ロボット技術が普及に向けて着実に進歩するにつれて、ロボットは多くの行動方針をもたらす状況にあることが明らかになりつつあります。ロボットに道徳的責任を与えるという倫理的ジレンマは、フェイルセーフである厳格な安全性と予防策を必要とします。さもないと、脅威は危険を冒すには大きすぎます。
