Читати книгу - "Ми - Bellingcat. Онлайн-розслідування міжнародних злочинів, Еліот Хіггінс"

І якщо ця низькопробна підробка наробила стільки галасу, багато хто жахається, чого ж очікувати в перспективі п’яти чи десяти років.

Редагування зображень — не новина, цим відзначалася ще радянська пропаганда ХХ століття: вороги Сталіна зникали в тюремних камерах, а потім зникали і з фотографій. Така робота вимагала неабиякої майстерності у фотолабораторії, а для поширення змінених зображень потрібні були слухняні видання. Нині технічно складніші маніпуляції можна робити на смартфоні, а всесвітнє поширення не вимагає особливих зусиль.

Термін «дипфейк» стосується не лише відео. Штучний інтелект уміє створювати фотопортрети людей, яких ніколи не існувало. Це дуже добре демонструє сайт «Котре обличчя справжнє?», де розміщують поряд портрет реальної людини та комп’ютерне зображення 375. Їх дуже важко розрізнити, і це лякає. Уже відомі випадки, коли зловмисники використовували звукові дипфейки: шахраї взяли зразки мовлення керівника компанії, відтворили його голос за допомогою цифрових інструментів, а тоді цим голосом розпорядилися, щоб юний працівник негайно переказав 220 000 євро на підставний рахунок 376. Дослідницька компанія OpenAI, яку співзаснував Ілон Маск, створила алгоритм, що самостійно пише зв’язні тексти. Це розширює можливості для автоматизованих ботів, які тепер могли б не лише спамити, а й втягувати людей у суперечки, просувати теорії змов, засмічувати змістовні суспільні дискусії. Побоюючись зловживань, в OpenAI вирішили не випускати цю розробку на ринок 377.

Оскільки дипфейки становлять загрозу, ми можемо їх вивчити, підготуватися й відповідно реагувати. Натомість параноїдальні настрої лише катастрофічно нашкодять: люди почнуть зневажати будь-які задокументовані дані. Найшвидший спосіб поставити під сумнів переконливе розслідування за відкритими джерелами — заявити, що вірити не можна нічому. Я впевнений, скоро це стане звичною тактикою дезінформаційних кампаній. Уявляю твіти, які відкидають відео із Сирії запитанням: «А звідки ви знаєте, що це не дипфейк?». Погано поінформовані люди, переоцінюючи цю технологію, лише додають їй сили.

Сем Ґреґорі з правозахисної організації WITNESS, провідний фахівець із синтетичних медіа та можливих зловживань ними, стверджує, що в нас є шанс впоратися із цією загрозою краще, ніж це вдавалося в нещодавніх онлайн-зіткненнях суспільства з дезінформацією. По-перше, нам слід знати, які різновиди обману є технічно можливими 378. Ви вже можете прибрати людину чи об’єкт із кадру. Можете змінити погоду на відео. Можете підставити чуже обличчя й змінити рухи — перетворити кадри з реальними людьми на ляльковий театр, де персонажі говорять і роблять те, що хоче ляльковод. По-друге, слід усвідомлювати, до чого здатні призвести «синтетичні медіа». Зокрема до знецінення чесних репортажів і розслідувань, цілеспрямованого очорнення репутації політиків і представників громадянського суспільства, маніпулювання думкою виборців. Можуть постраждати й відеоархіви, якщо серед історичних записів затешуться фальшиві. По-третє, слід розуміти напрям розвитку цієї технології. Дипфейки вдосконалюються. Вони засновані на технології штучного інтелекту, яка є предметом великих конкурентних досліджень. Компанії-розробники комерціалізують сферу, що раніше була суто академічною, і знижують бар’єр входу в галузь. Дедалі зменшується обсяг навчальних даних — тобто кількість зображень або аудіозразків, необхідних алгоритму, щоб переконливо їх імітувати. По-четверте, слід зважати, що синтетичні медіа поширюватимуться тими самими каналами дезінформації, з якими ми вже боремося: від мікротаргетингу в соцмережах, через масові спам-розсилки і до брехливих альтернативних медіа.

Одна зі складових протидії — медіаграмотність. Проте важко не відставати від технології. Дипфейки розвиваються дуже швидко: щойно знайдеш у них слабке місце, як його майже одразу усувають. За словами Ґреґорі, ще одна складова протидії — тісна координація між основними новинними ресурсами і розслідувачами за відкритими джерелами, які найкраще вміють оцінювати матеріали й розвінчувати фальшивки. А компанії, які випускають програмне забезпечення для редагування медіафайлів, мають усвідомлювати свою етичну відповідальність і створювати інструменти не лише для введення в оману, а й для її викриття 379. Одна з можливостей — вбудовані дані для верифікації, коли під час створення кожного відео чи фото метадані завантажуватимуться в базу, де криміналістам або платформам соцмедіа буде легко їх перевірити 380. Науково-дослідна команда New York Times запустила Проєкт походження новин і тестує можливість включати в зображення контекст і метадані — скажімо, за допомогою водяних знаків, які засвідчать, що контент перевірено. Також вони експериментували, публікуючи фото із застосуванням блокчейну. За цією технологією, що стала відомою завдяки криптовалютам, для запобігання фальсифікаціям після кожної дії оновлюється загальний онлайн-журнал 381. Щоб заохотити дослідників, компанія Facebook вклала десять мільйонів доларів у проєкт із виявлення дипфейків. Мета — знайти найкращий спосіб викривати синтетичні медіа 382.

Наразі дипфейки не надто мене турбують. Фото й відео не існують самі по собі, вони є ланками інформаційних ланцюжків. Візьмімо те відео з Обамою. Уявімо, що одного дня воно з’явилося в ютубі без усяких пояснень і стало вірусним. Bellingcat і багато інших одразу перевірили б, що ще публікували на цьому каналі. Звідки взялося це джерело, чи можна йому довіряти? Чи це відео вже з’являлося на інших ресурсах? Які користувачі першими рознесли його по твітеру й фейсбуку? Що в них у списках уподобань? І так далі. Крім того, реальні події відбуваються в певних контекстах. Коли Обама сказав це? Де? Чи є докази, що він перебував у тому місці в той час? Якщо відео викликає хоч найменший сумнів, потрібно копати глибше. Найімовірніша доля вірусного дипфейк-відео — що ми його врешті-решт розвінчаємо, а творцям зіпсуємо репутацію. Якщо люди почнуть скептично (а не зневажливо) сприймати побачене в інтернеті — це лише на загальне благо. Замість повірити у відео з Пелосі чи поглинати все, що підсовує алгоритм фейсбуку, люди мали б вимагати, щоб інформацію перевірили варті довіри організації.

Є й оптимістичні перспективи в застосуванні штучного інтелекту в розслідуваннях за відкритими джерелами. Машинне навчання — тобто використання наборів даних, щоб натренувати комп’ютер «учитися» самостійно, — відкриває можливість обробляти великі обсяги онлайн-інформації. Сирійський конфлікт залишив по собі більше годин відео, ніж тривала сама війна 383. Наразі в «Сирійському архіві» зберігається близько 3,5 мільйона одиниць цифрового контенту (десь 1,5 мільйона відео з ютубу та 2 мільйони роликів і знімків із твітеру й фейсбуку). В основній команді троє людей, плюс четверо-п’ятеро помічників. Разом вони перевірили понад 8000 одиниць із архіву, і це дивовижне