Как ИИ используют против свободы слова

9 октября выступил на 26-й Центральноазиатской медиаконференции Представительства ОБСЕ по свободе СМИ. Тема доклада простая, но немного тревожная - как злоупотребления ИИ угрожают медиа и свободе слова. Ниже я собрал главные мысли из своей презентации, а в конце добавил сами слайды в полном объеме. Все факты взяты из открытых отчётов и расследований 2026 года, за которыми я слежу в своём новостном агрегаторе Semanticon, а основные данные были взяты из отчеты компании Anthropic о злоупотреблениях моделями их продукта Claude AI со стороны различных лиц - от отдельных хактивистов до пропагандистских ресурсов. По этой причине, нельзя считать эти данные полноценным отражением реальной ситуации. Они призваны лишь немного расширить наши взгляды на ситуацию и побудить к более обширным исследованиям вопроса злоупотреблений технологиями ИИ и методов защиты от них.

Что изменилось за год

Ещё год назад мы говорили в основном про дипфейки и фейковые тексты. Сейчас речь о другом. ИИ научился сам вести целые операции - от распространения пропаганды, до слежки за людьми и взломов целых систем. Человек только ставит задачу, а дальше почти всё делает программа.

Из-за этого сложная атака больше не требует "сложного" исполнителя. Раньше по уровню исполнения можно было понять, кто стоит за кампанией. Теперь это не работает и на первое место выходит не мастерство, а лишь намерение и относительно несложные навыки использования ИИ-ресурсов.

Фабрика пропаганды

Один из самых наглядных примеров - это французсоке агентство, которое с помощью ИИ вело около 70 фейковых новостных сайтов и выдавало их за независимые редакции. На этих площадках вышло почти 9000 статей примерно на 20 языках. Позицию в материалах меняли в зависимости от того, кто платит, а реальные тексты журналистов переписывали под вымышленными именами (отчёт Anthropic).

Другой случай - государственные СМИ России используют ИИ как «младшего редактора». Одному сотруднику модель позволяет выпускать объём, на который раньше нужна была целая команда. При этом, с материала убирают следы госпроисхождения и проводят его через цепочку подконтрольных изданий, чтобы он выглядел независимо подтверждённым.

Слежка за журналистами и активистами

ИИ помогает собирать досье на журналистов и активистов, в том числе в диаспорах. Людей сортируют по городу, возрасту и даже по «истории арестов». В Мали, например, через ИИ следили за абонентами 25 миллионов SIM-карт. Для журналистов в эмиграции и их источников это прямой риск.

Атаки на редакции

Весной 2026 года один человек с помощью ИИ атаковал 42 организации - партии, аналитические центры и средства массовой информации. Он похищал базы данных, а на сайте одного издания внедрил скрипт, который охотился за логинами и сессиями сотрудников редакции. Это прямая угроза безопасности как источников, так и самих журналистов.

Когда ИИ уверенно врёт

Проблема бывает и в самом инструменте. ИИ умеет уверенно выдавать ложь за правду. Весной 2026 года галлюцинация чат-бота едва не запустила военную операцию: самолёты уже были в воздухе, когда выяснилось, что разведданные выдумал ИИ (источник - материал TechCrunch). Есть и более тонкий момент. Связную, хорошо скоординированную ложь модели отсеивают хуже, чем разрозненные фейки. Об этом же предупреждает исследование Центра прав человека Беркли.

Удар по экономике журналистики

Свобода СМИ держится в том числе на деньгах, а ИИ бьёт по самой модели финансирования. По материалам иска, ИИ снижал переходы на сайт The New York Times почти на 93 процента, то есть пользователь получает готовый ответ на свой вопрос от ИИ и на сам сайт уже не идёт. Топ-менеджер Microsoft во внутренней переписке назвал обучение на чужих текстах «крупнейшей кражей труда в истории» (расследование TechCrunch).

Поиск людей по камерам

Ещё одна тема, которая прямо задевает свободу выражения. В США появилась система, которая позволяет полиции искать людей по текстовому описанию через городские камеры. Хуже всего защищена именно категория «политическое и культурное выражение». Поиск по ней не блокируется системой, а только показывает предупреждение, которое можно пропустить. Так можно, например, узнать, кто ходил на шествия (репортаж Wired).

Что из этого следует для нас

Прямых центральноазиатских кейсов в этих отчётах (пока!) нет, но риски переносятся к нам напрямую. Модель пропаганды легко повторить на русском, таджикском или узбекском. Обработка данных множества людей уже не гипотеза. ИИ-инструмент, которому доверяет редакция, сам может стать точкой входа для атаки. И проверять факты теперь нужно строже, потому что красиво оформленная ложь проходит по цепочке без сомнений.

Однако тут всё таки стоит сделать четкую оговорку - ИИ сам по себе еще не нападает и не следит за нами самостоятельно. Он продолжает быть инструментом в руках других людей. В самом начале, я уже отметил, что ключевым моментом стало намерение человека. Если человек с ИИ в руках руководствуется благими намерениями, то ИИ становится великолепным инструментом, приносящим пользу многим людям. Если же ИИ оказывается в руках человека с плохими намерениями, то и ему будет служить всеми правдами и неправдами. И получается, что всё ещё финальное решение остается за человеком и только от каждого из нас зависит, в каком русле будет использоваться эта технология.

А здесь полная презентация доклада:

Источники

Главные источники, использованные при подготовке презентации:

• отчёт Anthropic о злоупотреблениях ИИ,

• материал по иску NYT (TechCrunch),

• репортаж Wired о системе Flock,

• материал TechCrunch о галлюцинации ИИ и

• исследование Центра прав человека Беркли.

Новости по теме я собираю в агрегаторе Semanticon.