Вы только что вернулись домой после долгого рабочего дня и собирались сесть за ужин, как вдруг ваш телефон начал гудеть. На другом конце находится любимый человек, возможно, родитель, ребенок или друг детства, который умоляет вас немедленно отправить ему деньги.
Вы задаете им вопросы, пытаясь понять. Что-то не так с их ответами, которые либо расплывчаты, либо нехарактерны, а иногда и с характерной задержкой, как будто они думают слишком медленно. Тем не менее, вы уверены, что это определенно говорит ваш любимый человек: вы слышите его голос, и определитель номера показывает его номер. Списывая странность на их панику, вы покорно отправляете деньги на банковский счет, который они вам предоставили.
На следующий день вы перезваниваете им, чтобы убедиться, что все в порядке. Ваш любимый человек понятия не имеет, о чем вы говорите. Это потому, что они никогда не звонили вам - вас обманули с помощью технологии: дипфейка голоса. В 2022 году таким образом были обмануты тысячи людей.
Как исследователи в области компьютерной безопасности, мы видим, что непрерывный прогресс в алгоритмах глубокого обучения, редактировании и инженерии аудио, а также в создании синтетического голоса означает, что становится все более убедительно имитировать голос человека.
Что еще хуже, чат-боты, такие как ChatGPT, начинают генерировать реалистичные сценарии с адаптивными ответами в реальном времени. Комбинируя эти технологии с генерацией голоса, дипфейк превращается из статичной записи в живой, реалистичный аватар, который может убедительно вести телефонный разговор.
Клонирование голоса
Создание убедительного высококачественного дипфейка, будь то видео или аудио, - не самая простая задача. Это требует большого количества художественных и технических навыков, мощного оборудования и достаточно крупного образца целевого голоса.
Появляется все больше сервисов, предлагающих за определенную плату создавать голосовые клоны среднего и высокого качества, а некоторым инструментам для дипфейка голоса требуется образец длительностью всего в минуту или даже несколько секунд для создания голосовой клон, который может быть достаточно убедительным, чтобы обмануть кого-то. Однако, чтобы убедить любимого человека, например, использовать его в мошенничестве с выдачей себя за другое лицо, вероятно, потребуется значительно большая выборка.
Защита от мошенничества и дезинформации
С учетом всего сказанного, мы в проекте DeFake Рочестерского технологического института, Университета Миссисипи и Мичиганского государственного университета, а также другие исследователи усердно работают над тем, чтобы иметь возможность обнаруживать видео- и аудиодипфейки и ограничивать вред. они вызывают. Есть также простые и повседневные действия, которые вы можете предпринять, чтобы защитить себя.
Начнем с голосового фишинга, или «вишинга», мошеннических действий, подобных описанному выше, которые являются наиболее вероятными голосовыми дипфейками, с которыми вы можете столкнуться в повседневной жизни, как на работе, так и дома. В 2019 году энергетическая фирма была обманута на 243 000 долларов, когда преступники имитировали голос босса ее материнской компании, чтобы приказать сотруднику перевести средства поставщику. В 2022 году люди были обмануты примерно на 11 миллионов долларов с помощью смоделированных голосов, в том числе близких, личных связей.
Что ты умеешь?
Остерегайтесь неожиданных звонков, даже от людей, которых вы хорошо знаете. Это не означает, что вам нужно планировать каждый звонок, но это помогает, по крайней мере, отправить электронное письмо или текстовое сообщение заранее. Кроме того, не полагайтесь на идентификатор вызывающего абонента, так как его тоже можно подделать. Например, если вам звонит кто-то, утверждающий, что он представляет ваш банк, повесьте трубку и позвоните напрямую в банк, чтобы подтвердить законность звонка. Обязательно используйте номер, который вы записали, сохранили в списке контактов или можете найти в Google.
Кроме того, будьте осторожны с вашей личной идентифицирующей информацией, такой как номер социального страхования, домашний адрес, дата рождения, номер телефона, отчество и даже имена ваших детей и домашних животных. Мошенники могут использовать эту информацию, чтобы выдавать себя за вас перед банками, риелторами и другими лицами, обогащая себя, разоряя вас или уничтожая ваш кредит.
Еще один совет: познай себя. В частности, знайте свои интеллектуальные и эмоциональные предубеждения и уязвимые места. В целом это хороший жизненный совет, но он является ключом к защите себя от манипуляций. Мошенники обычно пытаются разузнать, а затем воспользоваться вашими финансовыми проблемами, политическими взглядами или другими наклонностями, какими бы они ни были.
Эта бдительность также является достойной защитой от дезинформации с использованием голосовых дипфейков. Дипфейки можно использовать, чтобы воспользоваться вашей предвзятостью подтверждения или тем, во что вы склонны верить о ком-то.
Если вы слышите, как важный человек, будь то из вашего сообщества или правительства, говорит что-то, что либо кажется ему очень нехарактерным, либо подтверждает ваши худшие подозрения о нем, вам следует проявить осторожность.
Мэттью Райт - профессор компьютерной безопасности в Рочестерском технологическом институте. Он получает финансирование от Фонда Найта, Фонда Майами, Национального научного фонда и Лаборатории аналитических наук, связанных с дипфейками.
Кристофер Шварц - научный сотрудник с докторской степенью по компьютерной безопасности в Рочестерском технологическом институте. Он является исследователем с докторской степенью в проекте DeFake Project, который получает финансирование от Фонда Найта, Фонда Майами, Национального фонда наук и Лаборатории аналитических наук.