Зачем нам нужна жизнь в соцсетях и что нам обещают алгоритмы? Быть не прошлым и единичным собой, а будущим и вместе с кем-то, утверждает Полина Колозариди

текст: Полина Колозариди

© Russian Media Lab Network / HelsinkiUni

Мы продолжаем думать над темой, которая с разных сторон изучалась в нашем проекте «Из жизни алгоритмов». Исследовательница цифровых технологий Полина Колозариди в разговоре с антропологом Ильей Утехиным уже подходила к выводу, что существование в цифровом пространстве меняет саму природу человека, которому нужно теперь мыслить себя в невиданной до сих пор коллективности. В этом тексте она раскрывает подробнее эту идею.

Алгоритмы в интернете — машины познания и изменения. С их участием фиксируются действия пользователей на онлайн-платформах и сервисах. Зафиксированные, эти действия становятся цифровыми следами. Машины и люди превращают следы действий в данные. Сам сбор данных задан условиями платформ, которыми пользуются люди. На основе данных создают новые действия: интерфейсы, рекламу, сервисы.

Пользователи продолжают действовать. Алгоритмы продолжают служить для фиксации и разработки категорий, в которые помещаются следы, систематизировать эти действия, предлагать новые.

Кажется, что эти машины познания знают о людях всё больше — и даже то, чего люди сами не знают. С помощью этого эссе я предлагаю посмотреть на несколько аспектов утверждения «алгоритмы знают о людях всё больше», а также на критику, которая возникает вокруг него.

* * *

Критика алгоритмов часто пахнет реакцией. Порой этот запах смешан со старомодной комбинацией гуманитарного и гуманистического: цифрами-де нас не познать. Эта мысль иногда смыкается с идеей особенности любого опыта и standpoint-позиции: только пережившие могут свидетельствовать. А значит, и знание, производимое алгоритмически, извне, не соответствует тому, что является подлинным. К этому тезису легко добавляются антиутопические образы вроде тех, что есть в сериале «Черное зеркало».

Иногда реакция сочетается с плохо скрытой завистью прежних профессионалов подсчета и оценки. В иных случаях критики обращаются к этике и праву, основанным на традиции, мгновенно становящейся «прежней». Все эти типы реакции настаивают на новизне, происходящей в связи с появлением алгоритмов в хозяйстве, общественной и частной жизни. Алгоритмы не всегда объявляются причиной этих изменений, скорее, частью нового состояния. И пусть каждый из элементов алгоритмических систем уже был раньше. Но новыми объявляются в их связи, по крайней мере, политическая ситуация и интеллектуальная атмосфера наших дней.

Эта же критика укрепляет положение других видов знания как альтернативных, «иных»: тех, что основаны на сомнении, воображении. В результате усиливаются различия между разными способами производства знания. Где-то они похожи на споры физиков и лириков, иногда — на поколенческие дебаты, иногда возникают новые дискуссии о статусе реальности и формальных способах ее описания.

У этих споров и противоречий есть последствия и для пользователей. Например, социальные медиа закрывают доступ к изучению профилей, наученные горьким опытом скандалов с Cambridge Analytica. Пользователям сообщают, что приватность их данных — в их руках, поэтому нужно нажать кнопку «согласиться со всеми правилами», иначе вы не зайдете на сайт.

Критика, настаивающая на новизне алгоритмов и неизбежных трагических изменениях, которые за ней последуют, подпитывает и самоуверенность производителей, порой демонизируя и их самих, и машины. Наконец, алгоритмы обещают приручить, как будто они или их производители — это опасная природа. Производители признают, что приручение необходимо, и даже не против того, чтобы кто-то решал отдельно проблемы этики, так как сами производители вроде бы как нейтральны.

Правда, разработчики отнюдь не оказываются на обочине жизни. Они переходят в другую эпистемологическую и методологическую реальность — в пространство бизнес-аналитики, политических консультаций, в журналы по психометрии с использованием больших данных. Несмотря на любую критику, курсы data science внедряются в университетах всех стран. Чаще всего они посвящены инструментальным приемам работы с массивами информации, унифицированными и не требующими сложной рефлексии. В университетах изучают ВК-профили школьников, чтобы таргетировать рекламу на самых умных выпускников. О данных, полученных во время отслеживания коронавируса, не беспокоится только ленивый.

Но, возможно, критики могут продуктивно меняться вместе с миром алгоритмов и данных? Не противопоставляя их себе как нечто «новое», а находя способы переопределить границы? Например, исследование Ника Сивера и Дэвида Моатса показало, что дата-аналитики и критики больших данных часто беспокоятся о схожих проблемах, но едва понимают друг друга. Причем, по мнению Сивера и Моатса, за это непонимание часто ответственны именно критики. Они ориентируются на собственные этические нормы и не видят, как аналитики данных сами предлагают решения для возникающих вопросов.

Отчасти этот конфликт норм подобен тому, как наука Нового времени отстраивала себя от других видов наук. Например, всего лишь несколько веков мы живем с разделением на астрономию и астрологию. Из них наукой считается только первая, хотя основания для такого различия подвергаются не меньшей критике, чем сейчас работа алгоритмов.

Сам эпистемологический статус больших данных, на которых основываются алгоритмы в интернете (и не только), и вправду легко сравнить с астрологией. Точно так же астрологи выявляют не причинно-следственные связи, а совпадения, которые с помощью математических методов позволяют создавать утверждения о будущем. Но тогда нужно пересмотреть основания, на которых астрологию когда-то исключили. Непосредственно связь больших данных с астрологией, например, объясняет Михаил Куртов.

Но сжиться с тем, что «нового времени не было», почти невозможно, а преодолевать — тяжело. Нужны и историческая ревизия алгоритмической рациональности, и даже политическая воля.

* * *

Действительно, «алгоритмы» — слово, за которым сразу много всего. По-хорошему нужно давать каждому случаю собственное определение, но для нашей темы важно как раз, скорее, это сплетение.

Алгоритмы — это и математика, и информатика, очень конкретные программы. И это алгоритмы мифологические, встроенные в машины и в общество. Они влияют на то, как в социальных медиа люди представляют и понимают других, они как-то влияют на понимание себя.

В этом «как-то» видны как раз мифологичность алгоритмов и их загадка даже для самих разработчиков, которые признаются: можно задать параметры, но понять, что происходит внутри, бывает непросто. Не про все алгоритмы можно сказать так. Но часто прозрачность алгоритмов потому и становится необходимой, что она видится едва достижимой возможностью: да, в работе алгоритма можно разобраться, но для этого нужно специально за ним наблюдать.

Понять, что такое алгоритм, можно, имея в виду его историю. Историк науки Лорейн Дастон последовательно рассказывает в своей лекции, как из операций познания, на каждом шагу предполагающих сомнение, возникло алгоритмическое мышление. В нем, наоборот, сомнение исключено, поскольку есть последовательность действий, правил, которые могут свершаться без человека. Так, один из этапов этого становления алгоритмов — удешевление рабочей силы. В какой-то момент операции становятся такими механистичными и повторяемыми, что можно заменить человека машиной. И нет, это история не исключительно про дегуманизацию и ужасы капитализма, а про изменение роли мыслительных операций.

Алгоритмы как интеллектуальное явление — это часть разных процессов познания в науке, быту и производстве. Некоторые из них превратились в очень твердые способы-методы, срослись с вещами, рынком, стали привычными. Например, в селф-трекинг, который превращает наши действия в данные. (А, как мы уже сказали, эти данные, в свою очередь, становятся топливом для новых изменений и интерфейсов, которые подстегивают все новые действия и новые данные. Но это не круг, а спираль, тем более что в нее входит все больше участников — новых пользователей. Метафора, связанная с топливными ресурсами, здесь не случайна. Пользовательские действия не сами по себе, а превращенные в наборы данных, рассматриваются как ресурс.)

Или алгоритмы, которые ранжируют посты в социальных сетях, — они здорово помогают подсвечивать то, что может показаться пользователю социальной сети важным. Их можно настраивать, лайкая отдельного человека или каждый день заходя на его страницу. Часто эти алгоритмы вызывают страх — вроде бы давая контроль над общением с другими, они одновременно не предъявляют пользователю своего собственного устройства. И с ним появляется другой страх — где же подлинное, правдивое, есть ли те алгоритмы, которые и правда знают о каждом отдельном пользователе всё?

* * *

Социальные медиа позволяют рассказывать о себе другим. Их колоссальная популярность иногда удивляет. Почему люди в этом участвуют? Не потому, что это что-то новое. Люди делали такое и раньше ― фиксировали свой опыт и рассказывали о себе другим. Через дневники, личные письма, фотоальбомы они создавали документы частной истории, обычно в единственном экземпляре. Иногда эти документы предназначались не только для себя или одного собеседника, но и для «круга». Были и публичные высказывания: статьи, выступления на площади или по радио. Вопрос о том, почему люди вообще чем-то делятся, не нов. Социальные медиа добавляют разве что синхронности: граду и миру — и одновременно самым близким. И люди рассказывают — ближним и дальним — о своей повседневности и любви, о прочитанных книгах и взглядах на международные конфликты. И организуют свою онлайн-жизнь, решая, в каком мессенджере или социальной сети, какому собеседнику уместно рассказать конкретную историю.

Но все это не ответ на вопрос о том, почему мы постим, читаем, пишем друг другу. Об этом во многом было исследование «Why We Post»: антропологи жили в разных странах мира по полтора года, чтобы понимать различия в том, как люди взаимодействуют с социальными медиа. И да, все очень по-разному, хотя важно не само по себе разнообразие. Важно, что селфи и выбор мессенджера, мемы «с добрым утром, котятки» — все это может быть объяснено конкретными проявлениями неравенства, семейной ситуацией или особенностями мест жизни.

Но и это не ответ на вопрос о том, почему мы рассказываем о себе. Чтобы понять это вполне, я думаю о влюбленности и смущении. Я думаю о ситуациях, когда важно переживать границу себя и ее преодоление. Когда важно фиксировать изменения, и не самому по себе, а с другими. Это значит — важно измениться и сделать это вместе. Важно признать это изменение границ и зафиксировать его. Зафиксировать правдиво.

* * *

Всегда ли мы понимаем, что именно становится частью нашего образа в социальных медиа? Конечно же, нет, наоборот: скорее, мы меняемся в процессе, и именно это важно. Важно, что некоторые свойства мы можем приобрести, только вполне пережив предыдущие. И это то, почему мы рассказываем себя, часто очень конкретным людям. Чтобы быть не прошлым и единичным собой, а будущим и вместе с кем-то.

И да, помогают нам в этом социальные медиа. Но что понимают из этого алгоритмы?

В романе Роберта Музиля «Человек без свойств» мы узнаем о чертах главного героя через описание, в котором он сам не признает себя:

«Его лицо имело значение только как совокупность примет; ему показалось, что никогда раньше он не думал о том, что глаза его были серыми глазами, одной из четырех официально признанных разновидностей глаз, имеющейся в миллионах экземпляров; волосы его были светло-русыми, рост высоким, лицо овальным, а особых примет у него не было, хотя сам он держался другого мнения на этот счет. По собственному его чувству, он был крупного сложения, у него были широкие плечи, его грудная клетка выпирала, как надутый парус на мачте, а суставы его тела замыкали его мышцы, как узкие стальные звенья, когда он сердился, спорил или когда к нему льнула Бонадея; напротив, он был тонок, хрупок, темен и мягок, как висящая в воде медуза, когда читал книгу, которая его захватывала, или когда на него веяло дыханьем бесприютной великой любви, присутствия которой в мире ему никогда не удавалось понять. Вот почему даже в эту минуту он смог оценить статистическое развенчание своей персоны, и примененный к нему полицией способ измерения и описания воодушевил его, как любовное стихотворение, сочиненное сатаной».

Описание, с которым Ульрих не соотносит себя, сделано в полиции.

Сто лет спустя ровесник Ульриха к своим тридцати будет знать себя и о себе через цифры. Рост, вес, количество друзей в социальных сетях, километраж дневной прогулки, время ночного сна, количество прочитанных страниц в приложении для книг, статистика времени, проведенного в смартфоне. Среди них будут цифры, от которых замирает сердце, и цифры, от которых приходится краснеть. Вокруг него также будут люди, избегающие цифр — порой настойчиво и почти маниакально, порой, скорее, равнодушно.

Есть ли у нашего современника другие инстанции описания себя? То, перед лицом чего или кого мы предъявляем себя как нечто целостное и подлинное (пусть и не обязательно полное)?

* * *

Но возникает новый вопрос. Что такое здесь подлинность и почему она так важна? И если мы перенесем этот вопрос на контекст социальных сетей ― нет ли за идеей подлинности опасения, что люди становятся в интернете другими? Ведь это виртуальное пространство, где одновременно можно быть анонимным, но как будто никогда не будешь тождественным себе офлайновому. Что будет подлинным: правдивый твит под псевдонимом или лицемерие под паспортными данными?

На первом этапе это поверхностно картезианский вопрос — дело в том, как я мыслю и существую. Но уже на втором этапе видно, что вопрос не в правдивости самой по себе, а в том, насколько разрозненные проявления себя соотносятся друг с другом и встраиваются в общий образ, характер. Это вопрос, скорее, о том, как конструируется личность — в коллективах и практиках, от исповеди до героизации.

Ведь отсутствие точки, в которой все составляющие личности сходятся, — привычное состояние для современности. Это видно по бесконечным дебатам о фейковых новостях, троллях и ботах. Вопросы о том, правдивы ли образы инстаграм-звезд, не постановочно ли люди показывают свою жизнь в Инстаграме, где новости искажены, возникают все чаще. И это важно не только для пользователей, но и для алгоритмов как того, что организует нашу жизнь.

Дело в том, что алгоритмы уже встроены в нашу повседневность, и их правильная работа зависит от того, насколько люди правдивы. Приведу простой пример. Допустим, у вас живет кот, но вы упрямо обманываете поисковик, утверждая, что ищете корм для хомяка. В результате и контекстная реклама, и стартовые страницы зоомагазинов приводят вас к зерну для хомяков.

Чуть более сложную историю предлагает увидеть художница Мими Онуоха с проектом «Библиотека отсутствующих датасетов». В нем перечислены датасеты, без которых социальные проблемы решать все сложнее. Это вопросы, например, мобильности людей с ограничениями возможности движения. Онуоха объясняет, что можно было бы решать такие вопросы, если бы эти данные считались важными и собирались.

Следующий шаг — хотят ли люди (или общество), чтобы о них знали горькую правду, знали в том числе и об их несправедливых суждениях? Создает ли это заодно с решением проблем — новые? Например, это постоянный предмет дискуссий о дискриминации, которая может усиливаться из-за алгоритмов.

Эти вопросы не уводят от темы подлинности, а приводят к ней. То, что сейчас кажется действиями, завтра оказывается свойствами. Их сегодняшняя фиксация превращается в завтрашний факт. Подлинным становится то, что основано на узнанном в прошлом. Так самотождественность оказывается зафиксирована во все большем количестве сфер жизни — с участием алгоритмов.

Дальше она может стать основанием для будущего изменения, но только если ее подвергнуть критике, как сейчас критике подвергают расистское общество и расистские алгоритмы. Если не обратить внимания на то, что происходит, такой порядок вещей будет считаться «естественным».

* * *

Да, заходя в интернет и пользуясь сайтами, часть работы которых обеспечена алгоритмами, все мы — пользователи. С точки зрения разработчиков, это также часто означает, что у нас есть «пользовательское поведение». И да, это наследует бихевиористским догмам о стимулах и реакциях, соотнесенным с современными науками о мозге. Если мы как пользователи не хотим иметь с этим дело и рассказывать о себе через такие инстанции, нам приходится поступаться комфортом. Так делают, например, пользователи DuckDuckGo (поисковика, который не собирает данных запросов). Мэш-сети, локальные сети, альтернативные инфраструктуры — все это не только технические, но и политические изобретения.

Так или иначе, нам важно понимать себя как пользователей. Вероятно, со временем эти практики понимания, исследования себя и заботы о себе станут такими же, как практики поддержания здоровья зубов с помощью зубной щетки. В конце концов, принять свою телесную раздробленность и множественность органов — это тоже казалось когда-то непростой интеллектуальной операцией. Едва ли вообразить свой симбиоз с техническими явлениями сложнее, чем принять, что в нас живут паразиты и бактерии, часть из которых даже полезна и жизненно необходима. Считаем ли мы себя менее подлинными, зная, как многим в организме управляет кишечник? С большой вероятностью принять алгоритмы и научиться управлять своей жизнью с ними на бытовом уровне будет немногим сложнее.

Но вопрос о том, понимают ли алгоритмы больше, чем люди, неизбежно изменится с изменением самого статуса знания. Сейчас мы живем в ситуации, когда доверие к алгоритмам подпитывается в том числе статусом науки. Но инстанций, институций, которые позволяли бы считать технологические внедрения благом, не хватает. Поэтому и возникает запрос на общественную экспертизу технологий. Чтобы доверять все более сложные вопросы алгоритмам, недостаточно утверждений о том, что они работают, или исследований об эффективности алгоритмизированной логистики. Нужно пережить, в том числе с помощью критики, изменение того, что мы называем знанием.

Для воодушевления я предлагаю нам всем задуматься о гуморах. Учение о гуморах — четырех жидкостях, чей баланс необходим для здоровья человека, — было основой европейской медицины на протяжении нескольких столетий. Эти жидкости — кровь, черная и желтая желчь, а также флегма. И они вовсе не исчезли из нашей жизни, но теперь считаются определяющими типы темперамента: сангвиник, холерик, меланхолик и флегматик. В прекрасной науке будущего наши вопросы о статусе личности в эпоху алгоритмов ждет та же судьба.

Автор сердечно благодарит Аню Щетвину, Андрея Теслю и Дмитрия Муравьева, без которых этот текст никогда не стал бы конкретным.

Подписывайтесь на наши обновления

Источник