Сегодня, я обнаружила себя секунд 30 пялящейся на домашнюю страницу Pinterest, и она выглядела примерно так:
За те 30 секунд, я создала мысленную модель себя: определенно дизайнер, мне нравятся печатная продукция, я занимаюсь типографией, и немного люблю поесть. Всё это было не далеко от правды, но что-то, в этой предложенной ленте Pinterest заставило меня почувствовать дискомфорт. В попытке понять, что этот дискомфорт причинило, я записала свои мысли об этой предложенной ленте и других рекомендациях, и о том, что они с нами делают.
Предложенные ленты сейчас повсюду. Ваша новостная лента Facebook, люди, познакомиться с которыми вам предлагает Twitter, картинки, на которые Instagram заставляет вас смотреть, продукты, которые вам предлагает Amazon, Tumblr, Reddit, Medium, даже ваш поисковик, которым вы пользуетесь. Всё это спрятано за терминами, вроде «персонализация», «кастомизация», или «адаптивные интерфейсы». Кажется, будто эта машина уже знает тебя, и говорит, «но что же может быть лучше этого?». Чаще всего, нам нравится, когда машины учат нас, и адаптируются. Чаще всего я рада за того человека, который написал этот алгоритм. Чаще всего он полезен. Моя лента лучше отражает мои интересы, и я получаю лучшее из того, что мне нравится. Но часто я задаюсь вопросом, смотрю ли я на то, что мне нравится, или мне просто нравится то, что я вижу?
Я пытаюсь сказать, что этот прекрасный алгоритм, который так много обо мне знает, хорошо справляется с тем, что указывает мне на вещи, которые могут мне понравится, основываясь на моих действиях в прошлом. Но я уверенна в том, что он меня не знает. Он меня не понимает. Я могу позволить себе понимать, как эти системы работают, откуда берутся эти данные, и как они анализируются. Я знаю, что то, что происходит сейчас, совсем недавно было почти фантастикой. Но также я знаю, что они далеко не являются тем, что они из себя хотят показать. И я боюсь, что куплюсь на это. Человеко-компьютерное взаимодействие — это прекрасно, и оно мне очень нравится, но это, тем не менее, не взаимодействие человека с человеком, но машина все равно пытается меня в этом убедить, и это в корне нечестно!
Алгоритмы не понимают всей сложности человеческих взаимодействий. Анализаторы текста не понимают всей сложности человеческого общения. Я прямо вижу, как вы, извиваясь в кресле, думаете: «еще один пользователь, который не понимает всех выдающихся возможностей нашей услуги!». Но это не так — я вижу доброе намерение, стоящее за ней. Я могу оценить юзабилити, которое она несет. Но я все равно повторяю — это не человек. Хорошим примером послужит мой недавний опыт с Google Hangouts. Он сохраняет мои сообщения, и периодически выдает хорошие предложения. Одна из таких функций — «поделится местоположением». Когда кто-то спрашивает у вас, где ты находишься, Hangouts, в качестве ответа, предлагает отправить свою удобную ссылку. Всё это выглядит отлично, но недавно, я общалась с человеком, с которым уже давно не виделась, и этот человек спросил меня, где я пропадала. Hangouts, естественно, предложил отправить мое местоположение, и я даже посмеялась над тем, какая из этого ответа вышла бы шутка. Проблема вот в чем — наши машины слишком буквальны, а мы — нет. Наша культура эволюционировала на протяжении веков, и продолжает развиваться. Наши машины тоже развиваются, но по-другому. Наши точки зрения меняются, наши дети подрастают, мы развиваем новые виды отношений. Наши машины становятся быстрее, определяют больше подробностей, видят больше данных. Эта оторванность от эволюции дезорганизует, и поэтому моя машина говорит мне кто я такая, и что мне нравится. Я, на самом деле не такая. Но я начинаю верить в то, что говорит мне машина. И вот, я уже провожу час на Pinterest, просматривая типографические изображения. Но та часть меня, которая хотела смотреть на канцелярию уже мертва, и меня хотят заставить поверить в то, что ее никогда не существовало.
Таким образом, услугам, особенно включающим в себя поисковые движки, не хватает духа открытий. Они не несут с собой какого-либо вызова. Всё подается мне на тарелочке, и это обслуживание кажется настолько безупречным, что я даже не пытаюсь выглянуть за ее золотую каемочку. Эли Пэрисер хорошо рассказывает о том, как эти пузыри заключают в себе, и ограничивают наши точки зрения. Помните то удовольствие, когда вы открывали журнал National Geography, и поражались новым видам летающей рыбы? Всё это было заменено на машины, которые узнав о том, что вам нравятся выдры, будут показывать их вам до тех пор, пока вы не убедитесь в том, что всё, для чего вы существуете — это выдры. Выдры — это, конечно, хорошо, но я и про рыб хочу узнать, ведь именно так мы развиваемся. Так что по существу, предложенные мне ленты заставляют меня кликать по связанному контенту, и подобным веткам (слева). При том, что до начала эры подобных систем, всё происходило примерно так (справа).
Что по сути является меньшим погружением в изучение, более разрозненным знанием, и, возможно, просто не имеющим смысла контентом. Но это определенно более широкий взгляд, и совершенно определенно лучшее отражение меня.
Зная всё это, давайте сделаем шаг назад, и посмотрим на преимущества суггестивных услуг. В понимании того, что система настолько персонализирована, кроется некая доля удовольствия. Очень удобно, когда мое приложение знает, какая еда мне нравится. Более того, это не всегда работа только машины. Все мы знакомы с ситуацией, когда мы заходим в наше любимое кафе, с нами здоровается знакомая официантка, и предлагает «как обычно». Эта официантка вас знает, за годы ваших посещений она выучила что вы заказываете, и может это предугадать. Мое приятное удивление — будет единственным ей ответом. Не похожа ли она на эти обучающиеся системы? Она же делает то же самое. Так почему же я ее воспринимаю хорошо, а когда машина делает то же самое — я пугаюсь. Потому, что ей я доверяю. Мы можем строить доверие с людьми, с которыми взаимодействуем. Это доверие — основная часть отношений. Я могу позволить себе предположить, что этот человек ничего с предоставленной мной информацией не сделает. Я знаю, что ей не управляет какая-то умная система. Более того, я знаю, что она не несет с собой никакой рекламы.
И это приводит меня к следующему. Количество рекламы, которая управляет нашими рекомендациями просто огромно. Так, что, когда лендинговая страница Ebay знает, что я ищу фотоаппараты, их предложения работают не для меня. Они работают для Canon, ведь они им платят. Мои знакомые рекламщики говорят: «Ну и что тут такого? Это работает. Это увеличивает продажи. Увеличивает доход. Более того — это увеличивает вовлеченность. Что говорит о том, что пользователь счастлив. Так что все в выигрыше». Но это не так. Мои предпочтения перестали быть моими предпочтениями, а стали предпочтениями брэнда, который платит службе, которую я использую. И возникает спор — в итоге я провожу больше времени на веб-сайте, но это время управляется агентом, о наличии которого я е подозреваю. Как пользователь, я вовлечена. Но имеет ли такое вовлечение смысл?
Люди адаптируются. Мы адаптируемся даже еще до того, как это поймем. Уже на протяжении долгого времени, наше поведение адаптировано к использованию компьютеров, и это доказано такими исследованиями, как это, это, это и это. Эти исследования говорят о недостатке сопереживания во взаимодействии, использовании аббревиатур в общении, изменении шаблонов общения, даже об изменении взаимоотношений. А теперь представьте, что мы адаптируемся к суггестивным службам, вроде прогнозирующих служб мессенджеров. Представьте себе, что мы станем такими же буквальными, как и эти службы. Представьте, что из нашего общения исчезнет сарказм. Представьте речь, без неуверенности, без разных интерпретаций, разного значения. Умрет весь юмор. Со временем мы вообще начнем разговаривать на языке машин, а на вопрос, «где ты был», будем отвечать геометрическими координатами. Конечно, это преувеличение, но пугает даже возможность того, что мы станем двигаться, в сторону потери красоты, лежащей в основе сложности человеческого общения. Даже не обязательно что мы начнем двигаться в этом направлении — машины сами вполне могут начать продвигаться в нашу сторону, и начать всё лучше понимать людей. Но все эти исследования показывают, что это движение — двухстороннее, и мы встретимся посередине. По сути это гонка, и я очень надеюсь, что мы проиграем.
Перевод статьи Сафины Али
