Предупреждение: фотошоп устарел, на сцену выходят фейк-роботы

Англоязычный сайт «The Verge» опубликовал достаточно интересную статью о грядущих проблемах из сферы новых технологий, а именно – возможностей их, мягко говоря, не очень хорошего применения в ближайшем будущем (а может технологии и не такие уж новые и может быть уже во всю применяются сегодня).

Речь идёт о разных вариациях возможного использования, так называемого, искусственного интеллекта, машинного обучения роботизированных систем. Например, прогресс (прогресс ли это?) уже дошёл до того, что в скором времени можно будет эмулировать любые голоса (реальных людей) в реальном же времени. Об этом пишет, конечно, не только «The Verge», но и, к примеру, немецкоязычный сайт журнала «TECHNOLOGY REVIEW».  В статейке  говорится, что с помощью искусственного интеллекта, американский стартап может воспроизвести голоса любого человека в режиме реального времени. Технология работает очень хорошо и имеет значительный потенциал для злоупотреблений.

Благодаря бесплатному программному обеспечению машинного обучения из Интернета теперь можно обмениваться лицами людей в видеозаписях. Используя Генеративно-состязательную сеть (Generative Adversial Networks, оно же – GAN) и другие методы, исследователи KI-Forscher могут даже создавать полностью искусственные лица. Modulate.ai – компания из Массачусетса, теперь использует эту технологию другим способом: копирует, моделирует и манипулирует свойствами голосов.

Эта технология выходит далеко за рамки простых фильтров, которые позволяют Вам сделать свой собственный голос похожим на персонажа из «Звездных войн» или любого другого фильма. При таком подходе можно в реальном времени создавать любой возраст, пол и любой тембр голоса. Например, таким образом, Вы можете вести полноценный телефонный разговор в роде того, как было показано в фильме «Иван Васильевич меняет профессию» –  как женщина, если Вы мужчина.

Технология пока не идеальна – разные голоса всегда создают трели. Но технология совершенствуется и используется гораздо более качественно, когда имеется возможность собрать больше данных о голосе, о его изменениях. И это показывает, как быстро достижения в машинном обучении меняют цифровую реальность. Для захвата и моделирования звуковых характеристик голосового сигнала в Modulate используются GAN. В этой технологии две сети конкурируют друг с другом и пытаются как можно более точно распознать и воспроизвести свойства набора данных.

При наличии достаточных данных об обучении голос любого другого человека может быть легко сгенерирован, говорит Майк Паппас, соучредитель и генеральный директор компании. Без одобрения оригинала, этого делать нельзя, Паппас настаивает на том, что речь идет не об обмане: «Технология не предназначена для подражания людям, – говорит он, а для создания новых возможностей».

Действительно, целевым рынком для Modulate являются онлайн-игры, такие как Fortnite или Call of Duty, где игроки могут общаться друг с другом через микрофон. Это может улучшить игровой процесс, но, тем не менее, всё это может быть использовано для противоправных целей.

Не менее интересна информация относительно синтеза изображений (лиц людей, машин, интерьеров). Некоторые изображения несуществующих персон уже сейчас практически неотличимы от реальных, живых людей. Вот, опять же, для примера, изображение несуществующей на свете девушки, созданное по технологии GAN (при переходе по ссылке искусственно созданные лица будут меняться).

А вот ниже – видеоролик о том, как можно создавать подвижные изображения. А программы для приклеивания чужих голов в видео уже сейчас можно скачать в Интернете. То есть, «фэйк ньюз» и уголовные проявления с использованием этих технологий скоро выйдут на совершенно новый уровень.

Вслед за сайтом ThisPersonDoesNotExist.com, использующем искусственный интеллект для генерирования не существующих в реальности человеческих лиц, появился ресурс WhichFaceIsReal.com, предлагающий людям отличить искусственно созданные лица от настоящих.

Попытаться найти отличия и научиться различать искусственные и настоящие лица интересно, однако, помимо этого, у нового ресурса имеется более высокая цель. Сайт был создан двумя учёными Вашингтонского университета, Джевином Вэстом (Jevin West) и Карлом Бергстромом (Carl Bergstrom), которые занимаются изучением распространения информации в обществе. По их мнению, рост популярности сгенерированных искусственным интеллектом несуществующих лиц может представлять проблему, негативно влияя на доверие людей к, казалось бы, очевидным вещам, и именно об этом учёные хотят предупредить население.

«Самым опасным периодом в появлении подобной инновационной технологии является время, когда люди ничего об этой технологии не знают, – объясняет Бергстром, – именно тогда она может использоваться (злоумышленниками) наиболее эффективно».

«Мы пытаемся рассказать людям о существовании этой технологии, – говорит Вэст, – точно так же, как люди когда-то узнали о редактировании изображений в Photoshop».

Оба сайта используют для создания лиц алгоритм машинного обучения – GAN. Такие сети функционируют, просматривая большое количество данных (в нашем случае, множество портретов реальных людей), запоминая образцы и пытаясь воспроизвести увиденное. Методы GAN интересны тем, что они тестируют сами себя. Одна часть сети генерирует лица, а другая сравнивает их с изученными данными. Если находятся отличия, генератор отправляется назад для усовершенствования своей работы.

Помимо изображений, эти приёмы могут использоваться для работы с аудио и видео. Хотя на данный момент существуют ограничения в отношении того, что могут сделать эти системы, они уверенно развиваются и совершенствуются.

В случае с генерируемыми искусственным интеллектом лицами, одним из негативных сценариев использования технологии может быть распространение заведомо ложной информации, например, после террористического акта технологию можно использовать для генерирования фейкового лица преступника и распространения изображения этого несуществующего человека в социальных сетях и новостях.

В подобных случаях журналисты обычно пытаются подтвердить источник изображения, используя инструменты наподобие Google Reverse Image search. Однако аналогичные решения не будут работать с фейковым лицом, созданным искусственным интеллектом.

«Если вы хотите дезинформировать людей в подобной ситуации и публикуете фото преступника, на самом деле изображающее другого человека, это можно очень быстро проверить, – объясняет Бергстром, – но что если вы используете фотографию человека, которого на самом деле не существует? Подумайте о сложностях отслеживания такого изображения».

С другой стороны, Вэст, считает, что пока особых сложностей в распознавании искусственных лиц не существует:

«Я считаю, что на данный момент сделать это довольно просто», – отмечает он. Пройдя предлагаемый на сайте тест, можно научиться различать сгенерированные искусственным интеллектом лица и лица реальных людей. На самом деле, у искусственных лиц существует ряд особенностей, например, ассиметрично расположенные черты лица,  неестественно гладкие волосы или разного цвета глаза. Однако, несомненно, фейковые изображения будут усовершенствоваться.

«Уже через три года они станут неотличимыми, – говорит Вэст, – и когда это произойдёт, залогом успеха станут знания. Мы не хотим сказать, что людям не следует ничему верить. Мы хотим донести до людей совсем другое –  не стоит быть легковерными».

По публикациям сайтов «The Verge», «TECHNOLOGY REVIEW» и др.

________________________________________________________________

Публикация на нашем сайте – март 2019 года