По словам экспертов по безопасности, число голосовых клонов ИИ растет Голосовые модели ИИ можно использовать для имитации близких
Эксперты рекомендуют согласовывать безопасное предложение с друзьями и семьей
Следующий спам-звонок, который вы получите, может быть не от реального человека, и ваше ухо не сможет заметить разницу. Мошенники используют голосовые модели ИИ для автоматизации своих мошеннических схем, обманывая людей, имитируя реальных людей, звонящих, включая членов семьи. Что такое мошенничество с голосованием с помощью ИИ?
Мошеннические звонки не являются чем-то новым, но звонки с использованием ИИ — это новое, опасное поколение. Они используют генеративный ИИ, чтобы выдавать себя не только за представителей власти или знаменитостей, но также за друзей и семью.
Появление моделей ИИ, обученных на человеческих голосах, открыло новую область риска, когда речь идет о телефонном мошенничестве. Эти инструменты, такие как речевой API OpenAI, поддерживают разговоры в реальном времени между человеком и моделью ИИ. С помощью небольшого количества кода эти модели можно запрограммировать на автоматическое выполнение телефонных мошенничеств, побуждая жертв раскрывать конфиденциальную информацию.
Так как же можно оставаться в безопасности? Угрозу делает такой проблематичной не только то, насколько легко и дешево ее можно развернуть, но и то, насколько убедительными стали голоса ИИ.
В начале этого года OpenAI столкнулась с негативной реакцией из-за своей голосовой опции Sky, которая звучала пугающе как Скарлетт Йоханссон, в то время как сэр Дэвид Аттенборо описал себя как «глубоко встревоженного» клоном голоса ИИ, который был неотличим от его настоящей речи. (Изображение предоставлено: Getty Images/d3sign)
Всего нескольких секунд аудио достаточно, чтобы имитировать голос любимого человека. Это можно легко получить из видео, размещенного в социальных сетях.
Даже инструменты, разработанные для борьбы с мошенниками, показывают, насколько размытыми стали границы. Британская сеть O2 недавно запустила Daisy, бабушку ИИ, предназначенную для поимки телефонных мошенников во время траты времени, которую они считают разговором с настоящим пожилым человеком. Это разумное использование технологии, но также оно показывает, насколько хорошо ИИ может имитировать человеческое взаимодействие.
К сожалению, мошенники могут обучать голоса ИИ на основе очень маленьких аудиозаписей. По данным компании F-Secure, занимающейся кибербезопасностью, для имитации голоса любимого человека достаточно всего нескольких секунд аудио. Это можно легко получить из видео, размещенного в социальных сетях. Как работают мошенничества с клонированием голоса ИИ
Основная концепция мошенничества с клонированием голоса похожа на стандартное телефонное мошенничество: киберпреступники выдают себя за кого-то другого, чтобы завоевать доверие жертвы, а затем создают ощущение срочности, побуждающее ее раскрыть конфиденциальную информацию или перевести деньги мошеннику.
Зарегистрируйтесь, чтобы первыми узнать о непревзойденных предложениях Черной пятницы на топовые технологии и получить весь ваш любимый контент Ny Breaking.
Разница с мошенничеством с клонированием голоса двояка. Во-первых, преступники могут автоматизировать процесс с помощью кода, что позволяет им охватить больше людей, быстрее и за меньшие деньги. Во-вторых, они могут имитировать не только представителей власти и знаменитостей, но и людей, которых вы знаете напрямую. Безопасные фразы: обезопасьте себя от голосовых клонов ИИ – YouTube
Смотрите
Все, что нужно, это аудиоклип, который обычно берется из онлайн-видео. Затем он анализируется и моделируется моделью ИИ, что позволяет использовать его в обманных взаимодействиях. Все более распространенным приемом является имитация моделью ИИ членов семьи, просящих денег в чрезвычайной ситуации.
Технология также может использоваться для имитации голосов высокопоставленных лиц для манипулирования жертвами. Мошенники недавно воспользовались одним голосовым клоном премьер-министра Квинсленда Стивена Майлза, чтобы попытаться устроить инвестиционный конфликт. Как обезопасить себя от мошенничества с голосованием ИИ
По данным цифрового кредитора Starlingbanka, 28% взрослых британцев заявили, что стали жертвами мошенничества с голосовыми клонами ИИ, но только 30% уверены, что знают, как его распознать. Вот почему Старлинг запустила кампанию Safe Phrases, которая призывает друзей и семью договориться о секретной фразе, которую они могут использовать для подтверждения личности друг друга, — и это разумная тактика. TL;DR Как вы остаетесь в безопасности?
(Изображение предоставлено Getty Images/Ronstick)
1. Договоритесь о безопасном предложении с друзьями и семьей 2. Попросите звонящего подтвердить недавнюю личную информацию 3. Прислушивайтесь к неравномерному акценту слов или бесчувственному разговору 4. Повесьте трубку и перезвоните человеку
5. Будьте осторожны с необычными просьбами, такими как запросы банковской информации
Даже без заранее подготовленной безопасной фразы вы можете использовать похожую тактику, если усомнитесь в правдивости личности звонящего. Голосовые клоны ИИ могут имитировать речевую модель человека, но у них не обязательно есть доступ к личной информации. Попросив звонящего подтвердить что-то, что известно только ему, например, информацию, которой вы поделились во время последнего звонка, вы на шаг приблизитесь к уверенности.
Также доверяйте своему уху. Хотя клоны голоса ИИ очень убедительны, они не на 100% точны.. Прислушивайтесь к явным признакам, таким как неравномерное ударение на определенных словах, бесстрастное выражение или невнятная речь.
Мошенники умеют скрывать номер, с которого они звонят, и даже могут выглядеть так, будто они звонят с номера вашего друга. Если вы когда-либо сомневаетесь, самое безопасное, что можно сделать, это повесить трубку и перезвонить человеку по обычному номеру, который у вас есть для него.
Мошенничество с клонированием голоса также основано на той же тактике, что и традиционное телефонное мошенничество. Эта тактика предназначена для оказания эмоционального давления и создания ощущения срочности, заставляя вас предпринять действие, которое вы бы в противном случае не предприняли. Будьте внимательны к этому и остерегайтесь необычных запросов, особенно когда речь идет о переводе денег.
Те же красные флажки применяются к звонящим, которые утверждают, что они из вашего банка или другого органа. Стоит ознакомиться с процедурами, которые использует ваш банк, когда связывается с вами. Например, в приложении Starling есть один индикатор статуса вызова, с помощью которого вы можете в любое время проверить, действительно ли вам звонит банк. Вам также может понравиться…
Статья добавлена ботом, с использованием машинного перевода : https://nybreaking.com/category/tech/
