Наступила эра агентов ИИ. Искусственные личности, такие как Siri, Cortana, Alexa и другие, проникают в нашу жизнь. В большинстве случаев они помогают нам, предоставляя информацию или выполняя задания по нашей просьбе. Но иногда они капризничают и делают то, чего мы не ожидали, например, заказывают кукольный домик.
Это то, что Alexa от Amazon, персональная программа-помощник, найденная на Amazon Echo и связанных устройствах, как сообщается, сделала для некоторых телезрителей в Сан-Диего, Калифорния. Во время недавнего утреннего репортажа на новостной станции CW6 ведущие рассказали о 6-летней девочке из Техаса, которая использовала Echo своих родителей, чтобы заказать кукольный домик и 4 фунта (1,8 кг) печенья. Потом начались проблемы.
В то время как ведущие сообщали об этой истории, они, по-видимому, активировали несколько устройств Echo, принадлежащих людям, которые смотрели репортаж по телевидению. Ниже приведен отчет CW6 об этом первоначальном отчете:
Затронутые устройства добросовестно разместили заказ на кукольный домик. Рынок кукольной недвижимости пережил кратковременный бум. Нет ни слова о том, сколько из этих заказов, если таковые имеются, были оформлены как реальные покупки.
Юмористическая история иллюстрирует проблемы, с которыми сталкиваются компании при разработке цифровых помощников с голосовым управлением. Стратегия Amazon заключается в том, чтобы по умолчанию разрешить онлайн-покупки через Alexa, что имеет смысл с точки зрения Amazon. Люди могут изменить настройки своих устройств с поддержкой Alexa, чтобы требовать аутентификацию перед совершением покупки, но эта ответственность ложится на владельца, а не на Amazon.
Я могу сообщить, что Google Home иногда реагирует и на звук с телевизора. У меня есть устройство Google Home, и оно несколько раз срабатывало, пока я смотрел что-то по телевизору. К счастью, он еще не разместил никаких заказов. Учитывая, что я много смотрел «В Филадельфии всегда солнечно», я благодарен за это. Худшее, с чем я столкнулся, - это протест Google Home за то, что он не понимает того, что, по его мнению, я говорю.
Более отрезвляющим аспектом этой истории является осознание того, что эти устройства всегда прислушиваются к тому, что происходит в окружающей среде. Они должны слушать, чтобы реагировать, когда вы даете командную фразу. Остаются вопросы, сколько наших разговоров кешируется в памяти этих устройств и насколько гаджеты защищены от хакеров. Нетрудно представить, что плохо защищенный агент ИИ эффективно превращается в микрофон, который записывает все, что происходит в вашем доме. В декабре Wired опубликовал отличный материал по этому же вопросу, на случай, если вам интересно почитать дальше.
Возможно, в будущем мы увидим, как больше компаний внедряют стратегии аутентификации по умолчанию для предотвращения случайных покупок или других непреднамеренных действий. Например, было бы неловко, если бы ваш ИИ-помощник заказывал вам такси каждый раз, когда он слышал, как кто-то это делает по телевизору. Или, может быть, мы увидим улучшения в технологии распознавания голоса, чтобы эти устройства могли различать голоса своих владельцев и другие голоса.
А пока рекомендуется изучить любое устройство, использующее голосовую активацию, прежде чем использовать его. Для некоторых людей потенциальное влияние на конфиденциальность может быть слишком большим для комфорта. Для других несколько кукольных домиков-сюрпризов могут оказаться небольшой платой за цифровую помощь.