Евгений Морозов: «To Save Everything, Click Here»

Почему технари так болезненно относятся к попыткам регулировать Интернет извне? Почему веб-дизайнеры и программисты не любят, когда заказчики пытаются навязывать им свои решения или мнения? Почему современные таксисты не знают свой город? Почему электронное правительство заменит обычное, если современную элиту не остановят? И, наконец, почему именно Google угробит нашу цивилизацию?

Сегодня я попробую дать один универсальный ответ на огромное множество подобных вопросов, которые, в конечном счете, сводятся к особому социально-психологическому феномену — солюционизму. Я попробую стать голосом техно-пророка, которого, как известно, в своем отечестве не бывает.

Под катом — речь бывшего белоруса о взглядах на будущее ИТ и общества, ныне преподавателя Стэндфордского университета, Евгения Морозова, + моя многобуквенная рецензия к его нашумевшей в США книге «To Save Everything, Click Here».

Intro

Прежде чем мы начнем, ради исторической справедливости сделаю буквально несколько коротких замечаний о самом авторе. Во-первых, всезнающая Википедия утверждает, что Евгений — «русско-американский журналист», что не совсем так: он родился в Солигорске, после чего прожил всю взрослую жизнь в Минске. Во-вторых, после отъезда из Беларуси в США «для борьбы с мировыми диктатурами» посредством «преподавания, концепций и сетевой среды» Морозов издал серию из двух книг, которые в итоге принесли ему потрясающую известность в США (одну из которых, повторюсь, мы и рассмотрим ниже). В-третьих, я не буду здесь более останавливаться на, безусловно, яркой личности автора, ибо, забегая чуточку вперед, нам еще предстоит встретиться с ним на страницах blogerator.ru в рамках отдельного и обстоятельного разговора «по душам».

Также отмечу, что ниже по тексту я активно использовал цитаты из книги Эли Паризера «За стеной фильтров» — еще одной книги, тесто связанной с рассматриваемой ниже теорией и ее следствиями.

Солюционизм — его основы

Итак, сегодняшний мой рассказ-рецензия — это обзор центральной концепции, которая с многочисленными примерами излагается и обосновывается в последней и очень яркой концептуальной работе Евгения Морозова «To Save Everything, Click Here».

И концепция эта — технологический солюционизм (technological solutionism).

Попробую определить суть солюционизма максимально кратко: современным миром все больше правят технократы, а вовсе не политики. Но у ментальности технарей есть одна серьезная закавыка, своего рода профессиональная деформация или родовая травма, которую они, подсознательно и автоматически, будучи ее носителями, навязывают всему остальному миру посредством своего нынешнего доминирования.

ИТ-люди, как правило, на полном серьезе убеждены, что они знают лучше своих пользователей, чем (a) тем хочется заняться, а также что (b, экстраполируя из а) им вообще нужно по жизни.

Таким образом, согласно их точке зрения, выход из любой проблемы — это вопрос правильно составленного алгоритма или подходящего технического решения. Ярким (эталонным) представителем этой ментальности являются стартапы и вся Кремниевая долина в целом.

А главный носитель данного ментального искажения — Google — настоящий мессия солюционизма в нашем офлайн-мире.

В одном из своих интервью Морозов так кратко определяет солюционизм:

Это твердая уверенность в том, что мы живем в уникальное революционное время, когда прошлые истины уже не являются таковыми, во всем постоянно происходят фундаментальные изменения, а наша потребность «to fix things» высока, как никогда.

Ключевым компонентом морозовского солюционизма можно назвать интернетоцентризм (Internet-centrism):

Это вера техногиков в мифологический «the Internet», которые понимают его как раз и навсегда сформировавшийся конструкт, дающий нам невиданные ранее возможности по разрешению всех основных проблем, как личных, так и общечеловеческих. При этом Интернет становится очередным фетишем, через который объясняют буквально всё, а представить мир без «Интернета» им становится сложнее, чем представить себе конец мира вообще.

В более широком контексте он возвращает нас к тому, что:

несовершенство, неопределенность, неясность, беспорядок и возможность заблуждаться, возможность грешить и совершать ошибки — все это образует человеческую свободу, и всякая попытка искоренить эти недостатки автоматически уничтожает нашу человечность.

И это не отвлеченная философская гипотеза, она имеет очень конкретные последствия уже здесь и сейчас.

Когнитивная петля

Хватит теории-введения, понять которую без многочисленных примеров и пояснений довольно сложно, последуем далее методу подачи материала самой книги (т.н. case studies), где эта идея поясняется на бесконечных примерах. Я выбрал сразу продвинутый пример с обратной петлей когнитивной персонализации.

Итак, персонализация сегодня — это базовая стратегия крупнейших сайтов Интернета. Ее главная задача — динамически перекроить Интернет таким образом, чтобы он стал умным и «своим родным» для каждого отдельного пользователя. Глава Google Эрик Шмидт признавался, что всегда мечтал создать программу, которая «догадывается, что я пытаюсь напечатать». Сервис Google Instant, запущенный осенью 2010 года и угадывающий, что вы ищете, прямо в строке поиска, по мере ввода букв, — лишь начало.

Шмидт уверен: пользователи хотят, чтобы в идеале Google «подсказывал им, чем следует заняться дальше».

Но зададимся вопросом: откуда Google может знать, что нам подходит и что вообще нам нужно? Для Google это вопрос риторический: компания годами отслеживает каждое наше телодвижение в сети, копается в наших фобиях и почте, подсматривает грязные секреты в поисковых запросах, накапливает и сортирует предпочтения и неприятные темы, а затем процеживает все через аналитические алгоритмы, призванные, по мысли Google, определить оптимальные для каждого конкретного индивида семантические поля. На самом примитивном уровне эта концепция реализована в контекстной рекламе (Google AdWords).

Ладно, если бы вся эта персонализация касалась лишь рекламы. Но она распространяется не только на покупки. Для все большего числа пользователей персонализированные потоки сообщений, как в Facebook или в RSS, становятся главным источником информации. Практически все ведущие мировые сайты автоматически подстраивают свои заголовки и выдачу под наши личные интересы и желания.

Минуточку, это значит, что персонализация Интернета может повлиять не только на то, с кем вы назначите свидание, но и на то, куда вы пойдете затем, о чем будете говорить и даже думать сегодня вечером. Алгоритмы, управляющие рекламой (и не только), начинают потихоньку управлять и нашей жизнью.

Эли Паризер суммирует это так:

Фильтры нового поколения изучают то, что вам, судя по всему, нравится: ваши предшествующие действия, или то, что нравится людям, похожим на вас, а затем пытаются экстраполировать эти данные. Это механизмы предсказаний, постоянно уточняющие теорию о том, кто же вы на самом деле есть, что вы сделаете и чего захотите дальше. Вместе они творят уникальную информационную вселенную для каждого из нас — я называю этот процесс возведением «стены фильтров» — они фундаментально меняют наш подход к восприятию информации.

Впрочем, главное здесь, что вы оказываетесь за стеной этих фильтров не по собственному желанию. Отличие интернета от обычных СМИ в том, что включая телеканал НТВ, вы принимаете осознанное решение, с помощью какого именно фильтра исследовать мир вокруг себя. В случае с персонализированными адаптационными интернет-фильтрами такого выбора у вас нет. Они сами вклиниваются в нашу жизнь, и, поскольку они приносят прибыль сайтам, на которых установлены, их все труднее избегать и даже вообще осознавать их влияние на нас.

Прочитав это, можно подумать, что современные интернет-медиа — это идеальное отражение наших интересов и желаний (как минимум, они стремятся к этому). Для многих это заманчивая перспектива — возвращение к птолемеевой вселенной, где солнце и все остальное вращается исключительно вокруг вас. Но за все приходится платить: персонализированные фильтры, предоставленные сами себе, превращаются в невидимую систему автоматической пропаганды и цензуры, внушающую нам собственные идеи, усиливающую наше стремление ко всему знакомому и оставляющую в неведении относительно угроз и открытий, таящихся во мраке неизвестности. Мы начинаем вариться в собственном соку, самозамыкаемся в своей стерильной вселенной, постоянно воспроизводя себя самого до бесконечности снова и снова.

Для общества это подобно монархии, как если бы его президент не сменялся никогда.

«It’s stupidity. It’s worse than stupidity: it’s a marketing hype campaign»

В психологии постоянная саморефлексия называется когнитивной петлей, это также научный синоним слов «кризис», «застой» или «деградация». Сначала плохая новость: в мире, где все сплошь знакомое, нельзя научиться чему-то новому, нельзя развиваться и конкурировать, это бесконечный ретвит одного и того же сообщения/опыта. А теперь хорошая новость: в этом мире мы лишены конкуренции и стрессов, с вами все соглашаются и подтверждают вашу правоту, в нем все спокойно и всегда понятно, вы неизменны и стабильны как покойник. Если узнавать о мире и себе одно и то же, то и поступать всегда будешь одинаково.

Получается замкнутый круг.

Эта система воспитывает до предела инфантильную личность: она стимулирует персонализировать свой мир + забанить всех остальных (инакомыслящих). По такой модели построены не только отдельные люди, но и целые государства. Дела куда хуже, если на следующей стадии развития ИТ эта связка фильтр+бан начинают работать по отношению к вам полностью автоматически и незаметно, это такой милый когнитивный карцер, который вы сами же для себя создали. У него есть много названий, одно из них — Google.

И каким бы властелином собственной судьбы вы себя ни считали, технически хорошо реализованная персонализация способна завести вас на путь эволюционно-информационного детерминизма — когда то, с чем вы ознакомились в прошлом, теперь жестко определяет то, что вы увидите далее: это ваша веб-история, которую вы обречены повторять, воспроизводить, прокручивать вновь без конца и устали. Вы застрянете в статичной, постоянно сужающейся версии себя, в бесконечной «я-петле». Вы останетесь навсегда вечными пользователями фирмы Apple, в мире, где очередная девальвация ценностей происходит немедленно после остановки такого фильтра.

Быть в курсе того, что не входит в область ваших интересов, — это проявление важнейшей гражданской добродетели, — убежден журналист New York Times Клайв Томпсон, пишущий о новых технологиях. — В нашем сложном мире на вас влияет практически все — так замыкается петля материальных, личных интересов«. Он добавляет: «Так родители ненавязчиво формируют своих детей, если те задерживаются у них дома слишком долго, так и структура общества формируется новыми медиа, в которых набирают обороты фрагментация и инфантилизм, порождаемые персонализацией, где зацикленные на себе жители никогда не покидают своей смысловой зоны комфорта, фактически отказываясь от своего права свободы выбора».

Впрочем, что касается тяжести свободы выбора для обывателя, проблема эта не нова. Вот как Сартр еще в начале 20 века писал об этом:

Свобода накладывает на нас неизмеримую ответственность, поэтому люди часто живут «в дурной вере», избегая ответственности за собственную жизнь посредством отрицания реальности своей свободы, открыто или скрытно делегируя свой выбор вовне. Во все времена это проявляется в тотальной несамостоятельности выбора людей, даже если они и отрицают это горячо, сквозь века изменились лишь методы достижения этого«.

«Google и Facebook управляют подростки»

К сожалению, в отличие от демократических государств контролировать работу Google мы не можем почти никак. Технологическое вмешательство в вашу жизнь не прошло через нормальный демократический процесс. И это по-настоящему пугает, потому что солюционизм в своей основе тоталитарен. Google никогда не интересовало мнение своих пользователей — например, они просто закрыли Google Reader и давай-до-свидания, руководствуясь исключительно своими техногиковыми понятиями «об окончательно устаревшей технологии RSS».

Лиха, однако, беда начало. Поколение 21 века будет полностью бесхребетным «infant terrible», ибо Google Glass при них превратится в полноценную имплантацию «всезнающего помощника», добровольно вмонтированного массам прямо в мозг (а это давняя мечта Брина, чтобы поисковая система была имплантирована прямо в наш мозг).

Продолжая череду примеров из книги, вторая популярная в Америке идея — «геймификация» — то есть использование механики игр для создания стимулов в экономике. Идея эта основана на том, что с помощью, например, смартфона, который отслеживает повседневные действия человека, все его поведение можно сделать частью какой-то социально-общественной игры или механизма. Можно присваивать людям победные очки за то, что они чистят зубы или, скажем, сортируют мусор, и заставлять их соревноваться с друзьями, также участвующими в коллективной игре.

Я не буду здесь приводить многочисленные примеры ужаса, к которому это потенциально приводит, благо в книге Евгения их достаточно.

«When your heart stops beating, you’ll keep tweeting»

Нассим Талеб, автор знаменитого «Черного Лебедя», называет Евгения «Майклом Тайсоном в ярости», который «вломился в мир идеалов ИТ». Если почитать комментарии на Амазоне к его книге, какой-то знакомый с неместным контекстом американец даже обозвал его современным Pavlik Morozov, который предал идеалы Интернета, порождением которого сам и являлся. Согласен, от ситуации веет чем-то шизофреническим: известный теоретик и пропагандист Интернета пишет разгромные тексты против самого Интернета, пытаясь показать, что Сеть и современные технологии — путь в никуда.

Здесь восточному внутреннему самосовершенствованию жестко противопоставлен западный солюционизм с его бесконечными инновационными гаджетами-устройствами-сетями, уводящему прочь в виртуальные миры грез и фантазий. Чем отличается взрослый от ребенка? Тем, что важнейшая часть потребностей ребенка удовлетворяется кем-то другим. Его заместителем извне. То есть: взрослым может считаться человек, который способен самостоятельно находить нормальные (оптимальные) способы реализации своих потребностей и решения возникающих при этом проблем.

То, к чему стремится солюционизм — взять на себя функции Вечного Заместителя, тем самым препятствуя экзистенциальному взрослению своих подопечных. Вместо того чтобы тратить силы и энергию на развитие своего сознания, адекватно возросшим нагрузкам и прогрессу, люди пассивно делегируют свои силы, энергию и власть на пустышки. Кажется, такое положение дел — это естественное следствие стремления людей «цивилизованного» мира к поиску легких путей.

Это как если взять новый кредит, чтобы отсрочить выплаты по старому еще на год, никак при этом принципиально не решая проблему.

Немного примеров к этой теории: если у западной цивилизации есть агрессивные оппоненты в Азии, волхвы солюционизма как всегда прямолинейны: «Значит, мы должны создать достаточно могущественную технологию, которая помогла бы нам уничтожить их».

И они создают их, одна за другой, например дроны.

Или взять, к примеру, личный самоконтроль. На eBay продаются специальные гаджеты, которые позволяют подключить их к интернет-каналу, после чего они автоматически отключат интернет на заданный интервал времени, если сеть мешает вашей работе.

Эти устройства для самоограничения чрезвычайно популярны сейчас в Америке, но дело в том, что применяя подобные решения, мы заочно проигрываем внутреннюю битву, мы постепенно кастрируем в себе способность контролировать себя самих, отсюда наводнение из духовных эпидемий типа ожирения или прокрастинации по всему миру.

Калькуляторы в каждом телефоне привели к тому, что подавляющее большинство современных тинейджеров не могут умножить в уме 12 на 6, хотя это элементарно. Они также не смогут повторить путь в незнакомый район родного города, потому что их когнитивные способности умерщвлены Google Maps, по которой они бездумно проходят свою жизнь путь, минуя этапы познания и поиска, проб и осмысления ошибок.

Современная интернет-инфраструктура формирует «soft slavery» и разрушает наш «choice architecture» — уже не мы принимаем решения, но «кто-то вне нас».

Technology — Still an Opiate?

В качестве очередного примера из книги — пару месяцев назад Рэнди Цукерберг (Randi Zuckerberg), бывший маркетинговый директор Facebook, запустила свой собственный проект Seesaw, ради которого она решилась покинуть работу в социальном гиганте. Это социальное приложение, которое позволит «crowdsource absolutely every decision in your life». Оно предоставит возможность монетизировать каждое решение твоей жизни: выбор платья, что сегодня одеть, что купить, какой бренд предпочесть, чем перекусить и так далее (не заканчивая пунктом «за кого голосовать на предстоящих выборах»).

Тысячи подобных приложений, сервисов и ситуаций, которые более или менее явно деформируют нашу «choice architecture», буквально окутывают нас с ног до головы.

Создатели Seesaw, следуя логике Морозова, вопрошают:

Если человек хочет купить последний iPhone или MacBook, сознательно или подсознательно желая произвести благоприятное впечатление на своих друзей, то почему бы, что было бы логично, не пойти дальше и не делегировать им право и на все остальное? Почему не отдать свое право выбора напрямик людям, мнением которых о себе ты так сильно дорожишь? А если бы это не только улучшило тебя в их глазах, но и приносило деньги, добавляло внимания и состязательности вокруг тебя, то почему, черт возьми, не сделать этого немедленно?"

А ведь это только начало пути, «самодеятельность на местах», но вот что готовит нам Гугл — машины без водителей, дополненная реальность, эксперименты с бессмертием, электронное правительство, высокоскоростной интернет в любой точке земного шара и т.п...

Big Data, Small Government

Как-то упаковывая в завершение кричащую какофонию смыслов и разнородных примеров, всю книгу Евгения Морозова можно условно разложить на три основные темы-составляющие:

• центральная — неомагический культ технологий (солюционизм) как опасная попытка бороться со следствиями многочисленных личных, природных и общественных проблем, корни которых лежат в нас самих, а не в окружающем мире и вещах;

• рассмотрение наиболее ярких примеров этих тенденций, среди которых следует выделить такие пласты, как геймификация (Gamification), Quantified Self (QS, интенсивное использование лайфлогинга и гаджетов типа Fitbit), внедрение электронного государства (например, обамовский Data.gov site, инициатива Americans Elect, государственная система онлайн-петиций, проект предикативной полиции США, автоматический контроль за перемещением граждан и т.п.);

• отдельно подробно рассматривается важнейший тренд современного солюционизма — Интернет-центризм — завязывание всего и вся в единую и общую для всех сеть, унификация и коммутация общества на основе техно-интерфейсов.

Убежден, что после прочтения этой книги ваши глаза откроются и новые примеры солюционизма и нашего общего будущего вы сможете сами увидеть буквально везде и повсюду.

Известный российский телеведущий и писатель Владимир Познер в своей последней книге сетует, что он, проживший большую часть своей жизни в Нью-Йорке, не узнает его знаменитых таксистов. Раньше они были очень открытыми и знали весь город назубок, теперь в большинстве своем не знают даже самых крупных улиц, перемещаясь по городу исключительно с помощью автомобильных навигаторов, став замкнутыми и безразличными, «работающими как роботы, подключенные к своему бортовому компьютеру».

Поэтому закончить обзор этой книги хочется цитатой из Маршалла Маклюэна:

«Мы творим наши орудия, а затем наши орудия творят нас».

p.s.:

В догонку прямая речь П.Дурова (цитата взята из книги «Код Дурова») о роли ИТ в ближайщем будущем по его мнению, когда эффективные технологии и айтишники будут «зачищать» неэффективное и старомодно-неповоротливое государство:

«Мы зовем в новый мир, свободный от оков невозможности. Возможно все, если ты готов умереть за свой путь. Знания и возбужденная ими свобода, которая несется по каналам, построенным нами, рано или поздно заставят ветхие мехи мира прохудиться. Вино само выльется из них. Новые виноградари должны ждать и верить. Верить, что будущее невозможно без них».

Короче говоря, если у Достоевского «красота спасёт мир», то у экзальтированного айтишника («новые виноградари») — «технологии спасут мир».