Как искусственный интеллект обнаруживает фейки и дезинформацию
Компания Jigsaw, дочерняя структура Alphabet (материнской компании Google), анонсировала два сервиса, с помощью которых СМИ, особенно представленные в Сети, смогут бороться с ложным контентом и дезинформацией.
Информацию о новых разработках компании Jigsaw – сервисе с использованием ИИ, позволяющем обнаружить следы редактирования на любых типах фотографий, и интерактивной платформе, которая объединила сведения о скоординированных кампаниях по дезинформации, сообщила The New York Times со ссылкой на The Current - исследовательское издание Jigsaw.
Все на борьбу с фейками!
Сервис по обнаружению фейковых фотографий получил название Assembler. Как заявили в СМИ его разработчики, отличить настоящие фотографии от фальшивых, сделанных мастерски, не всегда легко, а порой и невозможно. Но, поскольку количество ложного контента в Сети растет в геометрической прогрессии, необходимость в таком сервисе никогда не была столь актуальной. Разработанный Jigsaw инструмент дает возможность проверить подлинность изображений и обнаружить все следы редактирования на любых типах фотографий. Включая и те, которые были созданы с помощью искусственного интеллекта.
Assembler составляют семь различных детекторов изображения, каждый из которых настроен на обнаружение определенного типа техники манипуляции с фотографиями.
Пять из этих семи детекторов разработаны исследовательскими группами целого ряда университетов мира, включая Калифорнийский университет в Беркли (США), Неаполитанский университет Федерико II (Италия) и Университет Мэриленда (США).
После того, как изображение подверглось обработке - например, два изображения объединили в одно или с фона изображения было что-то удалено, следы этих изменений могут остаться. Специальное ПО на основе искусственного интеллекта анализирует изображение, сравнивает его с проанализированными ранее образцами и примерами, и позволяет обнаруживать на изображении места со следами модификаций. Детекторы, к примеру, могут найти такие изменения, как аномалии цветового рисунка, области изображения, которые были скопированы и вставлены несколько раз, использование нескольких моделей фотокамер для создания изображения и так далее.
«Эти детекторы не могут полностью решить проблему, но они представляют собой важный инструмент для борьбы с дезинформацией», - полагает Луиза Вердолива (Luisa Verdoliva), профессор Неаполитанского университета и приглашенный ученый в Google AI.
Два других детектора разработаны инженерами Jigsaw. Они предназначены для выявления «глубоких подделок» - реалистичных изображений, которые подверглись серьезным манипуляциям с помощью искусственного интеллекта, что способно ввести в заблуждение самых искушенных представителей целевой аудитории любого СМИ.
«Assembler наиболее полезен в ситуации, когда на журналиста из крупного новостного издания, получившего какое-нибудь скандальное изображение, начинает оказываться давление – его буквально заставляют опубликовать скандальную новость на его основе, - заявил Сантьяго Андриго (Santiago Andrigo), менеджер по продуктам Jigsaw. – Сервис также можно использовать и для проверки изображения, которое стало «вирусным».
«Мы наблюдали за тем, как дезинформация все шире использовалась для манипулирования выборами, ведения войны и разрушения гражданского общества», - написал Джаред Коэн (Jared Cohen), исполнительный директор Jigsaw, в блоге об Assemble. – Но, по мере того, как развивалась тактика дезинформации, развивались и технологии, используемые для ее обнаружения».
По сообщению экспертов Jigsaw, Assembler тестируется в свыше 10-ти новостных и фактографических организаций во всем мире. В их числе - Animal Politico (Мексика), Rappler (Филиппины) и Agence France-Presse (Франция). Для СМИ доступ к сервису предоставляется бесплатно. Однако открытие доступа для частных лиц не предполагается.
Платформа по обнаружению дезинформации
Еще один инструмент, анонсированный The New York Times - интерактивная платформа, объединившая сведения о скоординированных кампаниях по дезинформации, проведенных во всем мире за последние 10 лет. В базу данных платформы занесены игроки, участвующие в операциях влияния, используемые в них общие тактики, а также способы и методы распространения дезинформации на платформах социальных сетей.
В рамках этого проекта специалисты Jigsaw сотрудничали с Лабораторией цифровых судебно-медицинских исследований Атлантического совета (Вашингтон, США), которая изучает связи между социальными сетями, кибербезопасностью и правительством. Более чем из 700 исследований, статей и отчетов, опубликованных этой лабораторией за последние пять лет, Jigsaw отобрала для своей интерактивной платформы 60 случаев дезинформации.
Как прокомментировал Эмерсон Брукинг (Emerson Brooking), сотрудник лаборатории, цель этого проекта не в том, чтобы составить энциклопедический список дезинформационных кампаний, а в том, чтобы создать основу, некий «общий язык» для их описания, разработать принципы и практику классификации, что помогло бы СМИ и группам, изучающим дезинформацию.
Смогут ли получить российские СМИ доступ к данным сервисам, пока неизвестно. Как и то, в какой степени проект интерактивной платформы Jigsaw может быть ангажирован Атлантическим Советом – неправительственной организацией, известной своей враждебностью в отношении России и неоднократно дававшей правительству США рекомендации создать коалицию по противодействию «российским пропагандистским медиа». За что и была внесена в перечень иностранных организаций, деятельность которых на территории РФ признана нежелательной. К слову, по сведениям СМИ, ссылающихся на проект бюджета США, опубликованный в начале текущего месяца, в бюджете запланированы ассигнования в размере $24 млн на деятельность Global Engagement Center, созданного специально для противодействия «российской пропаганде».
Опубликовано 11.02.2020