Функция «Заметки сообщества» должна была положить конец теориям заговора в соцсети X, бывшем Twitter. Вместо этого Илон Маск позволяет недобросовестным пользователям разжигать ненависть, распространять ложь и дезинформацию о нападении ХАМАСа 7 октября. И в тот же день, спустя всего несколько часов после массового убийства израильских граждан террористами, многие интернет-аккаунты уже начали транслировать сомнения в правдивости сотворенных там ужасов.

Функцию “Community Notes” («Заметки сообщества») на платформе X (бывший Twitter) неоднократно применяли для легитимации распространители теорий заговора. Эта функция, внедренная сначала в США, а в начале 2023 года и во всем мире, изначально предназначена для проверки фактов и опровержения сомнительных утверждений, содержащихся в вирусных твитах. Однако после терактов 7 октября злоумышленники с ее помощью опровергали реально произошедшие массовые убийства!

Надо отметить, что такие действия сами по себе — непростая задача: во-первых, зверства произошли совсем недавно, а во-вторых, хотя религиозные и культурные традиции евреев ограничивают спектр того, как, когда и кому следует демонстрировать человеческие останки — тем не менее многие израильтяне сочли необходимым явить миру ужасы тех выходных.

Некоторые проводили явные исторические параллели с тяжелым выбором, сделанным американским генералом Дуайтом Эйзенхауэром. Который писал, побывав в недавно освобожденном концлагере в Бухенвальде: «Я специально посетил его, чтобы предоставить свидетельства из первых рук, если в будущем кто-то захочет объявить, что всё это пропаганда».

Другие вспомнили Мейми Тилл, 14-летнего сына которой линчевали в 1966 году в штате Миссисипи. Она настаивала, чтобы его похоронили в открытом гробу, говоря: «Пусть люди увидят, что они сделали с моим мальчиком».

Через нескольких часов после терактов 7 октября израильские официальные органы опубликовали ужасающие снимки в социальных сетях, включая X. На большинстве снимков не было останков – например, снимок, на котором забрызганная кровью спальня молодой девушки. Но на некоторых были. На одном, чудовищном своей трагичностью, видно обугленное тело младенца в лаборатории судмедэксперта.

Намерение Израиля обнародовать эти снимки было понятно: пусть никто не отрицает того, что сделали здесь террористы.

Однако не стоит недооценивать развращенность некоторых интернет-сообществ. Уже через несколько часов после того, как эти снимки появились в сети, некоторые пользователи X использовали функцию Community Notes для распространения конспирологических теорий о том, что кадры были фальсифицированы или инсценированы. Они размещали в сообществе заметки, ложно характеризующие изображения как фальшивые, и привлекали других пользователей оценивать свои комментарии как «полезные», чтобы они появлялись под изображениями для всех пользователей платформы.

Например, в примечании к изображению детской спальни утверждалось, что цвет засохшей крови неправдоподобен, она должна быть темно-красной, так что это инсценировка, «кровь не розовая». Авторы заметок намеренно заостряли внимание не на обилии крови, а на небольшом участке розового цвета.

В примечании к изображению обугленного трупа младенца лживо утверждается, будто цифровой анализ показал, что изображение было сгенерировано искусственным интеллектом, и приводятся «характерные признаки, такие как «искривленные пальцы» — несмотря на то, что фотография реальная и пальцы судмедэксперта выглядят нормальными. Это пример «взлома восприятия» с помощью ИИ, когда страх быть обманутым сгенерированными ИИ изображениями используется, чтобы заставить людей не верить реальным изображениям.

Солдат осматривает сожженный дом в киббуце Кфар-Аза. AP Photo/Ariel Schalit

Компания Х удалила фальшивые заметки через несколько часов, но к этому моменту ущерб уже был нанесен.

Мало того, что комментарии, ложно опровергающие истинность изображений, уже увидели несметные тысячи пользователей, так еще и отрицатели зверств сделали скриншоты для дальнейшего распространения, вероятно, зная, что заметки будут удалены.

Впоследствии они распространили эти скриншоты среди еще большего числа пользователей как на платформе X, так и в других соцсетях, вместо того, чтобы дать ссылку на сами твиты, в которых уже не было фальшивых примечаний. Зато отрицатели смогли дополнительно утверждать, что евреи использовали свое богатство или влияние в СМИ, чтобы добиться удаления примечаний. Некоторые из таких утверждений остаются на Х и сейчас.

Отрицание злодеяний — давно известный в интернете номер. Апологеты Башара Асада весьма успешно ставили под сомнение военные преступления, совершенные его режимом против сирийского и палестинского гражданского населения в ходе длительной гражданской войны в этой стране. В одних случаях они обвиняли сирийских граждан в применении химического оружия против самих себя, в других утверждали, что таких атак просто не было. А в последнее время зверства в отношении украинских граждан в таких городах, как Буча, включая изнасилования, пытки и убийства, пророссийские пропагандисты пытаются представить «постановочными съемками западной пропаганды».

Однако использование «Заметок сообщества X» для отрицания реальности злодеяния, в данном случае снятого на видео и одновременно выложенного в Facebook и Telegram как жертвами, так и преступниками, — это новая разработка в инструментарии распространителей ненависти и дезинформации.

Вся схема подчеркивает один из недостатков системы проверки фактов, в основе которой лежит пользовательская модерация: некоторые пользователи играют на стороне зла, и недостаточно надежная система позволяет таким людям распространять дезинформацию и отрицать факты, прикрываясь доверием, которое должна обеспечивать функция Community Notes. Илон Маск стремится снизить нагрузку на X, которой требует профессиональная модерация контента — однако риски, связанные с использованием модерации сообществом, очевидны. И этот фальшивый анализ, маскирующийся под реальную проверку фактов, будет распространяться и дальше.

В прошлом пропагандисты и отрицатели злодеяний могли разве что попросить свою аудиторию не верить своим глазам. Сегодня, в век фотошопа и искусственного интеллекта, их потомки могут сами закрыть аудитории глаза.

Натан Коленберг, «ХаАрец», Н.Б. На фото: Кфар-Аза. Фото: Рами Шлуш.

Об авторе: Натан Коленберг — аналитик отдела недобросовестного финансирования и коррупции Альянса за обеспечение демократии Германского фонда Маршалла США, специализирующийся на Ближнем Востоке, научный сотрудник Проекта национальной безопасности имени Трумэна.