テクノロジーが人々の心を乗っ取る方法—Googleのデザイン倫理学者から

人のボタンを押す方法がわかれば、ピアノのように弾くことができます。（写真：カイケ・ロッチャ/ペクセル）

なぜ人々はニックルバックが好きではないのですか

私はテクノロジーが私たちの心理的脆弱性をどのように乗っ取るかについての専門家です。そのため、私は過去3年間、Googleのデザイン倫理学者として、10億人の人々の心が乗っ取られるのを防ぐ方法で物事をデザインする方法に関心を持っていました。

テクノロジーを使用するとき、私たちはしばしば焦点を合わせます 楽観的に それが私たちのために行うすべてのことについて。しかし、私はそれが反対をするかもしれないところをあなたに示したいと思います。

テクノロジーは私たちの精神の弱点をどこで利用しますか ？

私が魔術師だったとき、私はこのように考えることを学びました。マジシャンは探すことから始めます 死角、エッジ、脆弱性、 制限人々の認識のおかげで、彼らはそれを認識していなくても人々が何をするかに影響を与えることができます。人のボタンを押す方法がわかれば、ピアノのように弾くことができます。選択肢の制限

それは私の母の誕生日パーティーで手品の手品を実行している私です（著者写真）

そして、これはまさに製品デザイナーがあなたの心に行うことです。彼らはあなたの注意を引くためにレースであなたに対して（意識的および無意識的に）あなたの心理的脆弱性を演じます。

彼らがどのようにそれをしているのかをお見せしたいと思います。

ハイジャック＃1：メニューを制御する場合は、選択肢を制御します

Yelpは、グループのニーズを微妙に再構成し、どこで話し続けることができますか？提供されるカクテルの写真に関して。

選択肢の制限（著者写真）

西洋文化は、個人の選択と自由の理想を中心に構築されています。私たちの何百万人もが自由な選択をする権利を激しく擁護していますが、そもそも選択しなかったメニューによってそれらの選択が上流でどのように操作されるかを無視しています。

これはまさにマジシャンが行うことです。彼らは、あなたが何を選んだとしても、彼らが勝つようにメニューを設計している間、人々に自由な選択の幻想を与えます。この洞察の深さを十分に強調することはできません。

人々が選択肢のメニューを与えられるとき、彼らはめったに尋ねません：

メニューにないものは何ですか？
なぜ私は与えられているのですか これらのオプション 他の人ではありませんか？
メニュープロバイダーの目標を知っていますか？
このメニューは エンパワーメント 私の本来の必要性のために、または選択は実際に気を散らすものですか？（例：圧倒的に多い歯磨き粉）

必要に応じてこの選択肢のメニューはどれほど力を与えていますか、私は歯磨き粉を使い果たしましたか？（写真：Tristan Harris / Medium.com）

たとえば、火曜日の夜に友達と外出していて、会話を続けたいとします。あなたは近くの推薦を見つけて、バーのリストを見るためにYelpを開きます。グループは彼らの電話を見下ろしている顔の群れに変わります バーの比較。 彼らはカクテルドリンクを比較しながら、それぞれの写真を精査します。このメニューはまだグループの本来の欲求に関連していますか？

バーが良い選択ではないというわけではありません。Yelpは、メニューを形作ることによって、グループの元の質問（どこで話し続けることができますか？）を別の質問（カクテルの良い写真のあるバーは何ですか？）に置き換えました。

さらに、このグループは、Yelpのメニューが 選択肢の完全なセット どこへ行くか。携帯電話を見下ろしていると、通りの向こう側にバンドが生演奏をしている公園が見えません。彼らは、クレープとコーヒーを提供する通りの反対側にあるポップアップギャラリーを見逃しています。どちらもYelpのメニューには表示されません。赤い通知

Yelpは、グループのニーズを微妙に再構成し、どこで話し続けることができますか？提供されるカクテルの写真に関して。（スクリーンショット：トリスタン・ハリス）

より多くの選択肢のテクノロジーは、私たちの生活のほぼすべての領域（情報、イベント、行く場所、友達、デート、仕事）で私たちに与えてくれます— 私たちの電話が常に最も力を与えてくれる便利なメニューであると私たちが考えるほど、 。それは...ですか？

最も力を与えるメニューは、最も多くの選択肢があるメニューとは異なります 。しかし、与えられたメニューにやみくもに明け渡すと、違いを見失いがちです。

今夜は誰が自由にたむろしますか？のメニューになります 私たちにテキストメッセージを送った最近の人々 （誰にpingできますか）。
世界で何が起こっているのですか？ニュースフィード記事のメニューになります。
誰がデートに行くのですか？（友人との地元のイベントや近くの都市の冒険の代わりに）Tinderをスワイプする顔のメニューになります。
このメールに返信する必要があります。のメニューになります 応答を入力するためのキー （人とコミュニケーションする方法を強化する代わりに）。

Yelpは、グループのニーズを微妙に再構成し、どこで話し続けることができますか？提供されるカクテルの写真に関して。（著者写真）

朝起きてスマートフォンを裏返すと、通知のリストが表示されます。これは、昨日から見逃していたすべてのメニューを中心に、朝起きたときの体験を表しています。（その他の例については、を参照してください。 JoeEdelmanのEmpoweringDesignトーク）。 YouTubeは、カウントダウン後に次の動画を自動再生します

朝起きたときの通知のリスト—起きたときのこの選択肢のメニューはどの程度力を与えていますか？それは私たちが気にしていることを反映していますか？（JoeEdelmanのEmpoweringDesign Talkから）（写真：トリスタン・ハリス）

私たちが選ぶメニューを形作ることによって、テクノロジーは私たちが私たちの選択を認識する方法を乗っ取り、それらを新しいものに置き換えます。しかし、与えられたオプションに注意を払うほど、それらが実際に私たちの真のニーズと一致していないことに気付くでしょう。

ハイジャック＃2：スロットマシンを10億のポケットに入れる

あなたがアプリの場合、どのようにして人々を夢中にさせますか？自分をスロットマシンに変えましょう。

平均的な人は1日に150回電話をチェックします。なぜこれを行うのですか？私たちは作っていますか 150 意識的 選択肢 ？ Facebookは写真を見るのに簡単な選択を約束します。それが本当の値札を与えた場合、私たちはまだクリックしますか？

1日にどのくらいの頻度でメールをチェックしますか？（スクリーンショット：トリスタン・ハリス）

スロットマシンの一番の心理的要素である主な理由の1つは次のとおりです。 断続的な変動報酬 。

中毒性を最大化したい場合、技術設計者が行う必要があるのは、ユーザーのアクション（レバーを引くなど）を 可変報酬 。レバーを引くと、すぐに魅力的な報酬（マッチ、賞品！）を受け取るか、何も受け取りません。中毒性は、報酬の割合が最も変動しやすいときに最大になります。

この効果は本当に人々に作用しますか？はい。 スロットマシンは、野球、映画、テーマパークよりも米国でより多くのお金を稼ぎます 結合。他の種類のギャンブルと比較して、人々はスロットマシンに「問題を抱えて関与」します 3〜4倍高速 ニューヨーク大学のナターシャ・ダウ・シュル教授によると、 設計による中毒。

しかし、ここに不幸な真実があります—数十億の人々が彼らのポケットにスロットマシンを持っています：

スマートフォンをポケットから引き出すと、 スロットマシンをプレイする 受け取った通知を確認します。
メールを更新するために引っ張ると、 スロットマシンをプレイする 受け取った新しいメールを確認します。
指を下にスワイプしてInstagramフィードをスクロールすると、 スロットマシンをプレイする 次に来る写真を確認します。
Tinderのような出会い系アプリで顔を左右にスワイプすると、 スロットマシンをプレイする 一致するかどうかを確認します。
赤い通知の数をタップすると、 スロットマシンをプレイする 下にあるものに。

赤い通知（スクリーンショット：トリスタン・ハリス）

アプリやウェブサイトは、ビジネスに役立つため、製品全体に断続的な変動報酬を振りかけます。

しかし、他のケースでは、スロットマシンが偶然に出現します。たとえば、背後に悪意のある企業はありません すべてのメール 意識的にそれをスロットマシンにすることを選んだ人。何百万人もの人が自分のメールをチェックしても、そこには何もありません。 AppleとGoogleのデザイナーもそうではありませんでした 欲しいです スロットマシンのように機能する電話。それは偶然に現れました。

しかし今、アップルやグーグルのような企業はこれらの影響を減らす責任があります 断続的な変動報酬を中毒性の低い、より予測可能な報酬に変換する より良いデザインで。たとえば、スロットマシンのアプリをチェックする時間帯を日中または週に予測可能な時間に設定し、それに応じて新しいメッセージが配信される時間を調整して、それらの時間に合わせることができます。

ハイジャック＃3：重要な何かを見逃す恐れ（FOMSI）

アプリやウェブサイトが人々の心を乗っ取るもう1つの方法は、重要な何かを見逃す可能性がある1％の確率を誘発することです。

私が重要な情報、メッセージ、友情、または潜在的な性的機会のチャネルであるとあなたに納得させた場合、あなたが私をオフにしたり、登録を解除したり、アカウントを削除したりするのは難しいでしょう。重要なことを見逃している：

これにより、ニュースレターが最近の特典を提供していなくても、ニュースレターを購読し続けることができます（将来の発表を見逃した場合はどうなりますか？）
これにより、私たちは何年も話したことのない人々と友好関係を保つことができます（彼らから重要なことを見逃した場合はどうなりますか？）
これにより、しばらく誰とも会っていない場合でも、出会い系アプリで顔をスワイプし続けることができます（それを見逃した場合はどうなりますか？ 1つのホットマッチ 誰が私を好きですか？）
これにより、ソーシャルメディアを使い続けることができます（重要なニュース記事を見逃したり、友達が話していることに遅れをとったりした場合はどうなりますか？）

しかし、その恐れにズームインすると、それが際限がないことがわかります ：私たちは常に重要な何かを見逃します 何かの使用をやめたときはいつでも。

Facebookには、6時間使用しないと見逃してしまう魔法の瞬間があります（例：町を訪れている旧友 たった今 ）。
700回目の試合をスワイプしないことで、Tinder（夢のロマンチックなパートナーなど）で見逃してしまう魔法の瞬間があります。
24時間年中無休で接続していないと見逃してしまう緊急電話があります。

しかし、何かを見逃すことを恐れて刻々と生きることは、私たちが生きるために構築されている方法ではありません。

そして、その恐怖を手放すと、幻想から目覚めるのがどれほど速いかは驚くべきことです。 1日以上プラグを抜く場合は、それらの通知の購読を解除するか、にアクセスしてくださいキャンプ接地 —私たちが思っていた懸念は実際には起こりません。

見えないものを見逃すことはありません。

重要なことを見逃した場合はどうなりますか？生成されます プラグを抜く、購読を解除する、またはオフにする前に —後ではありません。テクノロジー企業がそれを認識し、私たちが定義するものに関して友人や企業との関係を積極的に調整するのを助けてくれたと想像してみてくださいよく過ごした時間私たちが見逃すかもしれないものの観点からではなく、私たちの生活のために。

ハイジャック＃4：社会的承認

人間が受け取ることができる最も説得力のあるものの1つは簡単です。（スクリーンショット：トリスタン・ハリス）

私たちは皆、 社会的承認 。私たちの仲間に所属し、承認され、評価される必要性は、人間の最も高い動機の1つです。しかし今、私たちの社会的承認はハイテク企業の手に委ねられています。

友達のマークにタグ付けされると、彼が 意識的な選択 私にタグを付けます。しかし、Facebookのような会社がそもそもそれをどのように調整したのかはわかりません。

Facebook、Instagram、SnapChatは、タグ付けする必要のあるすべての顔を自動的に提案することで、写真にタグ付けされる頻度を操作できます（たとえば、ワンクリックで確認できるボックスを表示し、この写真にTristanをタグ付けしますか？）。

マークが私にタグを付けると、 彼は実際に Facebookの提案に応えて、 独立した選択をしていません。しかし、このようなデザインの選択を通じて、 Facebookはの乗数を制御します 何百万人もの人々が回線上で社会的承認を経験する頻度 。

Facebookは、このような自動提案を使用して、人々にさらに多くの人々にタグを付けさせ、より多くの社会的外部性と中断を生み出します。（スクリーンショット：トリスタン・ハリス）

携帯電話の無料検索結果の逆引き

メインのプロフィール写真を変更しても同じことが起こります—Facebookはそれが私たちの瞬間であることを知っています 社会的承認に対して脆弱 ： 私の友達は私の新しい写真についてどう思いますか？ Facebookはニュースフィードでこれを上位にランク付けできるので、Facebookは長く存続し、より多くの友人がそれを気に入ったりコメントしたりします。彼らがそれを気に入ったりコメントしたりするたびに、私たちはすぐに引き戻されます。

誰もが本質的に社会的承認に反応しますが、一部の人口統計（10代の若者）は他の人よりも社会的承認に対して脆弱です。そのため、この脆弱性を悪用する場合、設計者がどれほど強力であるかを認識することが非常に重要です。

ハイジャック＃5：社会的相互主義（しっぺ返し）

あなたは私に恩恵を与えてくれます—次回はあなたに借りがあります。
あなたは、ありがとうと言います—私はあなたが歓迎されていると言わなければなりません。
あなたは私にメールを送ります—あなたに返事をしないのは失礼です。
あなたは私に従います—あなたを追いかけないのは失礼です。（特にティーンエイジャー向け）

私たちです脆弱 他の人のジェスチャーに返礼する必要がある 。しかし、社会的承認と同様に、テクノロジー企業は現在、私たちがそれを経験する頻度を操作しています。

場合によっては、それは偶然です。 メール、テキストメッセージ、メッセージングアプリは社会的互恵の工場です 。しかし、他のケースでは、企業はこの脆弱性を故意に悪用します。

LinkedInは最も明白な犯罪者です。 LinkedInは、できるだけ多くの人がお互いに社会的義務を負わせることを望んでいます。なぜなら、彼らが往復するたびに（接続を受け入れる、メッセージに応答する、または誰かをスキルに戻すことを承認することによって）、LinkedIn.comに戻ってできるからです。人々にもっと時間を費やしてもらう。

Facebookのように、LinkedInは知覚の非対称性を利用します。誰かから接続の招待状を受け取ったとき、あなたはその人が 意識的な選択 あなたを招待するために、実際には、彼らはLinkedInの提案された連絡先のリストに無意識のうちに応答した可能性があります。言い換えれば、LinkedInはあなたを変えます 無意識の衝動 （人を追加するために）何百万もの人々が返済する義務があると感じる新しい社会的義務に。彼らは人々がそれをするのに費やす時間から利益を得る間ずっと。

LinkedInは、知覚の非対称性を利用しています。（写真：トリスタン・ハリス）

何百万人もの人々が一日中このように邪魔され、頭を切り落とした鶏のように走り回って、お互いに往復していると想像してみてください。これらはすべて、それから利益を得る企業によって設計されています。

ソーシャルメディアへようこそ。

承認を受け入れた後、LinkedInはあなたの偏見を利用して、あなたが承認するための* 4 *人の追加の人々を提供することにより、往復します。（スクリーンショット：トリスタン・ハリス）

テクノロジー企業が社会的相互主義を最小限に抑える責任を負っていたと想像してみてください。または、テクノロジー企業がこれらのバイアスを悪用した時期を監視する、公共の利益を代表する独立した組織（業界コンソーシアムまたはテクノロジーのFDA）があった場合はどうでしょうか。

ハイジャック＃6：底なしのボウル、無限のフィード、自動再生

YouTubeは、カウントダウン後に次の動画を自動再生します（スクリーンショット：トリスタン・ハリス）

人々を乗っ取るもう1つの方法は、空腹でなくなったとしても、物を消費し続けることです。

どうやって？簡単。 限界と有限の経験を取り、それを底なしの流れに変えてください それは続く 。

コーネル大学のブライアン・ワンシンク教授は、彼の研究でこれを実証しました。底なしのボウルを与えることで、人々をだましてスープを食べ続けることができます食べると自動的に補充されます。底なしのボウルでは、人々は通常のボウルよりも73％多いカロリーを食べ、140カロリーで何カロリーを食べたかを過小評価しています。

ハイテク企業も同じ原則を利用しています。ニュースフィードは、スクロールし続ける理由を自動的に補充するように意図的に設計されており、一時停止、再検討、または離れる理由を意図的に排除します。

Netflix、YouTube、Facebookなどのビデオやソーシャルメディアサイトもその理由です 自動再生 あなたが意識的な選択をするのを待つのではなく、カウントダウン後の次のビデオ（あなたがそうしない場合に備えて）。これらのウェブサイトのトラフィックの大部分は、次のものを自動再生することによって駆動されます。

Netflixの自動再生の動作（写真：トリスタン・ハリス）

Facebookはカウントダウン後に次のビデオを自動再生します（写真：トリスタン・ハリス）

テクノロジー企業は、ユーザーが動画を見やすくしているだけだと主張することがよくあります 彼らが欲しい 彼らが実際に彼らのビジネスの利益に奉仕している時を見るために。そして、あなたは彼らを非難することはできません。なぜなら、費やされる時間の増加は彼らが競争する通貨だからです。

代わりに、テクノロジー会社があなたに力を与えたかどうか想像してみてください 意識的にあなたの経験を束縛する 何になるかと調整するよく過ごした時間あなたのために。境界を定めるだけではありません量あなたが費やす時間の、しかし品質よく費やされた時間の何でしょう。

ハイジャック＃7：即時中断と敬意を表する配信

企業はそのメッセージを知っています 人々をすぐに邪魔することは、人々に反応させることでより説得力があります 非同期で配信されるメッセージ（電子メールや遅延受信ボックスなど）よりも。

選択肢があれば、Facebook Messenger（またはWhatsApp、WeChat、SnapChat）は メッセージングシステムを次のように設計することを好む 受信者にすぐに割り込む（そしてチャットボックスを表示する） ユーザーがお互いの注意を尊重するのを助ける代わりに。

言い換えると、 中断はビジネスに良い 。

切迫感と社会的互恵性を高めることも彼らの利益になります。たとえば、Facebookは自動的に メッセージを読んだかどうかを開示しないようにするのではなく、メッセージを見たときに送信者に通知します （私がメッセージを見たことを知ったので、私はさらに応答する義務があると感じています。）

対照的に、Appleは、ユーザーが開封確認のオンとオフを切り替えることをより丁重に許可しています。

問題は、ビジネスの名の下に中断を最大化すると、コモンズの悲劇が発生し、世界的な注目のスパンが台無しになり、毎日何十億もの不必要な中断が発生することです。これは、共有設計標準で修正する必要がある大きな問題です（潜在的には、よく過ごした時間）。

ハイジャック＃8：理由と理由のバンドル

アプリがあなたを乗っ取るもう1つの方法は、 あなたの理由 アプリにアクセスするため（タスクを実行するため）および それらをアプリのビジネス上の理由から切り離せないものにする （そこに着いたら消費する量を最大化する）。

たとえば、食料品の話の物理的な世界では、訪問する最も一般的な理由の1番と2番は、薬局の詰め替えとミルクの購入です。しかし、食料品店は人々が購入する量を最大化することを望んでいるので、彼らは薬局とミルクを店の後ろに置きます。

言い換えれば、彼らは顧客が望むもの（ミルク、薬局）をビジネスが望むものと切り離せないものにします。 店舗があった場合 人々をサポートするために本当に組織された 、彼らは最も人気のあるアイテムを前面に配置します。

テクノロジー企業は、同じ方法でWebサイトを設計します。たとえば、今夜発生するFacebookイベント（理由）を調べたい場合、Facebookアプリでは、最初にニュースフィードにアクセスしないとアクセスできません（理由）。これは意図的なものです。 Facebookは、Facebookを使用する理由をすべて、消費する時間を最大化するための理由に変換したいと考えています。 。

理想的な世界では、アプリは常にあなたに 直接的な方法 あなたが欲しいものを手に入れるために 別々に 彼らが望むものから。

何十億もの人々が使用する製品に、目標に向かって進むための力を与える方法をサポートすることを強制した設計基準の概要を示すデジタル権利章典を想像してみてください。

ハイジャック＃9：不便な選択

企業が選択肢を利用できるようにするだけで十分だと言われています。

気に入らない場合は、いつでも別の製品を使用できます。
気に入らない場合は、いつでも登録を解除できます。
アプリに夢中になっている場合は、いつでもスマートフォンからアンインストールできます。

当然のことながらビジネス 彼らがあなたに簡単にしてほしい選択をしたいのですが、彼らがあなたに難しくしてほしくない選択をしたいのです。 マジシャンも同じことをします。観客が選んでほしいものを簡単に選ぶことができ、そうでないものを選ぶのが難しくなります。

たとえば、NYTimes.comでは、デジタルサブスクリプションをキャンセルするための自由な選択を行うことができます。ただし、[サブスクリプションのキャンセル]をクリックしたときに実行するのではなく、 電話番号に電話してアカウントをキャンセルする方法についての情報を記載したメールを送信します それは特定の時間にのみ開いています。

NYTimesは、アカウントをキャンセルする自由な選択肢を提供していると主張しています（スクリーンショット：トリスタン・ハリス）

博士。ジョン・レイク美容外科医ビバリーヒルズ外科グループ

の観点から世界を見る代わりに 選択肢の可用性 、私たちは世界を次の観点から見る必要があります 選択を制定するために必要な摩擦 。選択が達成するのがどれほど難しいか（摩擦係数など）でラベル付けされ、これらの困難をラベル付けし、ナビゲーションがいかに簡単であるかについての基準を設定する独立したエンティティ（業界コンソーシアムまたは非営利団体）があった世界を想像してみてください。

ハイジャック＃10：予測エラー、Foot in theDoor戦略

Facebookは写真を見るのに簡単な選択を約束します。それが本当の値札を与えた場合、私たちはまだクリックしますか？（写真：トリスタン・ハリス）

最後に、アプリは、クリックの結果を予測できない人々の能力を悪用する可能性があります。

人々は直感的に予測しません 真のコスト クリックの それが彼らに提示されたとき。営業担当者は、最初に小さな無害なリクエストを要求し（1回クリックするだけで、どのツイートがリツイートされたかを確認できます）、そこからエスカレートすることで、ドアに足を踏み入れるテクニックを使用します（しばらく滞在しませんか？）。事実上すべてのエンゲージメントWebサイトがこのトリックを使用しています。

人々がこれらの選択を行うためのゲートウェイであるWebブラウザーとスマートフォンが、本当に人々を監視し、クリックの結果を予測するのに役立ったと想像してみてください（実際にどのようなメリットとコストがあったか？）。

そのため、投稿の上部に推定読書時間を追加します。選択の真のコストを人々の前に置くとき、あなたはユーザーや聴衆を尊厳と敬意を持って扱っています。でよく過ごした時間インターネットでは、予想されるコストと利益の観点から選択を組み立てることができるため、人々は、余分な作業を行うのではなく、デフォルトで情報に基づいた選択を行うことができました。

トリップアドバイザーは、クリックの背後にある質問の3ページの調査を非表示にしながら、シングルクリックレビュー（星の数は？）を要求することにより、ドアに足を踏み入れる手法を使用しています。（写真：トリスタン・ハリス）

まとめとこれを修正する方法

テクノロジーがあなたのエージェンシーを乗っ取ることに腹を立てていますか？私も。いくつかのテクニックをリストしましたが、文字通り何千もあります。このような意欲的なハイテク起業家のテクニックを教える本棚全体、セミナー、ワークショップ、トレーニングを想像してみてください。あなたを夢中にさせる新しい方法を発明することが毎日の仕事である何百人ものエンジニアを想像してみてください。

究極の自由は自由な精神であり、私たちが自由に生活し、感じ、考え、行動するのを助けるために私たちのチームにあるテクノロジーが必要です。

スマートフォン、通知画面、ウェブブラウザは、衝動ではなく価値観を第一に考える心と対人関係の外骨格である必要があります。人々の時間は貴重です。そして、プライバシーやその他のデジタル権利と同じ厳格さでそれを保護する必要があります。

Tristan Harrisは、2016年までGoogleの製品哲学者であり、テクノロジーが10億人の人々の注意、幸福、行動にどのように影響するかを研究していました。 Time Well Spentのその他のリソースについては、を参照してください。 http://timewellspent.io 。

更新：この投稿の最初のバージョンは、以下を含む長年にわたって私の考えに影響を与えた人々への謝辞を欠いていました ジョー・エーデルマン 、 ラスキンにならないで 、Raph D'Amico、 ジョナサン・ハリス そして デイモン・ホロウィッツ 。