«Гонка после технологии:
инструменты аболиционистов для нового кода Джима» Руха Бенджамина, краткое содержание читать ~4 мин.

Это нехудожественная книга 2019 года, написанная доктором Руха Бенджамином. Бенджамин – квалифицированный социолог и антрополог, профессор афроамериканских исследований в Принстонском университете. Книга «Гонка после технологии» получила несколько наград, в том числе книжную премию имени Оливера Кромвеля Кокса (2020) от секции расы и этнических меньшинств Американской социологической ассоциации; почётное упоминание книжной премии социологии коммуникаций, информации, технологий и медиа (CITAMS) (2020); литературную премию Бруклинской публичной библиотеки за нехудожественную литературу (2020).

Книга «Гонка после технологии» посвящена тому, что Бенджамин называет «новым Джим-кодом». Это новые технологии, представляемые как благотворные и чистые, но усиливающие, увековечивающие и ускоряющие социальное неравенство.

Во введении Бенджамин исследует социальные и политические последствия имён. Технологии фильтрации соискателей часто отсеивают кандидатов с чёрными именами, что является примером «нового Джим-кода», когда технологии, кажущиеся объективными, воспроизводят, усиливают и ускоряют социальное неравенство. Во имя разнообразия и мультикультурализма некоторые алгоритмы подстраивают контент под зрителей. Однако это также может нацелить их на гипернаблюдение со стороны правоохранительных органов. Беньямин настаивает на том, что раса сама по себе является технологией несправедливости, и просит нас задуматься о человеческих последствиях бесконтрольного технического прогресса.

Глава 1: «Спроектированное неравенство: Являются ли роботы расистами?» описывает подавляющее большинство белых результатов международного конкурса красоты 2016 года, судейство которого полностью осуществлялось искусственным интеллектом. Когда предвзятость дизайнеров проникает в технологии, это может иметь более серьёзные последствия в таких областях, как здравоохранение или тюрьма.

В главе также рассказывается о том, как роботы могут воспроизводить человеческие предубеждения, чем больше мы программируем их, чтобы они были похожи на нас. Бенджамин предлагает учитывать расовую принадлежность при разработке ИИ, а также учитывать, как оптимизация технологий для одних может привести к худшему опыту для других. Поскольку на жизнь людей так сильно влияют технологические инновации, мы должны более внимательно относиться к технологиям, которые мы разрабатываем.

Глава 2: «Дискриминация по умолчанию: Является ли сбой системным?» исследует, как сбои, хотя и воспринимаются как небольшие ошибки, отражают широко распространённые социальные предубеждения. Например, глюки в программном обеспечении для предиктивной работы полиции делают неверные прогнозы, которые завышают уровень преступности в сообществах чернокожих и латиноамериканцев.

Архитектурный дизайн также исторически усиливает социальную иерархию. Хотя дизайн может намеренно или ненамеренно ориентироваться на определённые группы населения, такое неравенство затрагивает всех. Далеко не всегда сбои в алгоритмах свидетельствуют о более серьёзных системных проблемах.

Глава 3: «Кодированное воздействие: видимость – это ловушка?» описывает дискриминационные способы, с помощью которых технологии делают чернокожих людей как невидимыми, так и гиперневидимыми. Некоторые технологии разработаны без учёта интересов чернокожих, что приводит к неравному доступу.

С другой стороны, некоторые чрезмерно ориентированы на чернокожих, как, например, улучшенная функция вспышки в фотоаппарате Polaroid ID2, разработанная для лучшего фотографирования чернокожих южноафриканцев для паспортных книжек, которые ограничивали их передвижение во времена апартеида. Быть гипервидимым – значит быть стереотипным. Между евгеникой, судебной экспертизой ДНК и распознаванием лиц правительство использует новые технологии для наблюдения и контроля.

Глава 4: «Технологическая доброжелательность: Исправляют ли нас исправления?» исследует, как технологические решения социальных проблем часто воспроизводят другие виды неравенства.

Например, браслеты «решают» проблему переполненности тюрем, расширяя сферу действия государства наблюдения. Аналогичным образом, технологии, разработанные для предсказания того, какие сообщества имеют больше медицинских потребностей, могут негативно кодировать эти сообщества как дорогостоящие и нуждающиеся. Бенджамин настаивает на том, чтобы мы были бдительны по отношению к технологическим решениям, которые претендуют на решение социальной проблемы, но создают другую дилемму.

В главе 5: «Переоснащение солидарности, переосмысление справедливости» Бенджамин призывает к сопротивлению закодированному неравенству. Например, технологии виртуальной реальности были представлены как инструмент для сопереживания через восприятие чужой реальности, но это неадекватно, потому что восприятие – это больше, чем просто видение.

Бенджамин считает, что наши решения не всегда должны приходить в виде нового, модного дизайна. Она выступает за более инклюзивное общество и замедление технологического прогресса, чтобы оставить место для дизайна с учётом расовой принадлежности. Такие активистские группы, как Data for Black Lives, борются за справедливость данных и способствуют демократизации данных. Бенджамин настаивает на том, чтобы мы не отвлекались на новые технологии. Вместо этого мы должны изучить альтернативные творческие методы для отмены Нового кодекса Джима и создания справедливых систем.