Искусственный Интеллект

 

Клиент банка "Lloyds Bank" из Великобритании обнаружил, что может получить доступ к своему банковскому счету с помощью голосового ИИ через идентификацию по "Voice ID".

 

 

Пользователь Джозеф Кокс выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в свою банковскую учётную запись. Он смог обмануть систему с помощью бесплатной версии решения от "ElevenLabs" для генерации своего синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.

Он проводил эксперимент несколько раз, так как изначально система "Lloyd Bank" сообщала, что не может аутентифицировать его голос. После внесения некоторых изменений в настройках "ElevenLabs" для генерации голоса, таких как чтение более длинного текста, чтобы каденции звучали более естественно, его сгенерированный голос успешно обошёл систему безопасности банка.

 

 

В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы – назвать свою дату рождения и прочитать «мой голос – мой пароль».

Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос – мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь своего аккаунта.

 

«Я не мог в это поверить – это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счёт. После этого у меня был доступ к информации об учётной записи, включая баланс и список последних транзакций и переводов», — уточнил Кокс.

 

На веб-сайте "Lloyds Bank" сообщается, что опция "Voice ID" абсолютна безопасна. «Ваш голос подобен отпечатку пальца и уникален для вас», — утверждает банк. — "Voice ID" анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны для вас. Например, как вы используете свой рот и голосовые связки, какой у вас акцент и как быстро вы говорите. Система также распознает вас, если у вас простуда или боль в горле», — уточнено на сайте банка в описании этой технологии.

Представитель "Lloyds Bank" заявил, что опция "Voice ID" обеспечивает высокий уровень защиты, чем традиционные методы аутентификации. По мнению банка, синтетические голоса не так привлекательны для мошенников, как другие методы для компрометации данных клиентов.

В "Lloyds Bank" в курсе об угрозе клиентам от синтетических голосов и там постоянно дорабатывают проверку голоса. В банке сообщили, что голосовая идентификация "Voice ID" уже привела к значительному снижению мошенничества с телефонным банкингом.

Профильные эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, такой как многофакторная аутентификация, как можно скорее. Они опасаются, что репликация голосов в этом году будет одним из векторов атак на учётные записи пользователей в банках, так как злоумышленники в курсе информации о дне рождения жертвы, а получить запись голоса можно также разными способами.

Аналогичную голосовую идентификацию предлагают банки в США, например, "TD Bank" (опция "VoicePrint"), банк "Chase" (также "Voice ID") и "Wells Fargo" (функция "Voice Verification"), которые, согласно описанию, «эффективно защищают личность клиента».

 

 

Ранее исследователи с помощью нейросети "elevenlabs.io" и "ChatGPT" рассказали голосом Стива Джобса про "ChatGPT". Особенность "elevenlabs.io" заключается в том, что нейросети достаточного слушать оригинальный голос в течение всего нескольких секунд, чтобы потом воспроизвести его.

В начале января "Microsoft" объявила о создании инструмента "VALL-E" для имитации любого голоса. Этому ИИ достаточно трёхсекундного образца для генерации полноценного голоса человека. Услышав конкретный голос, "VALL-E" создаст аудиозапись того, как человек говорит что-то, причём постарается сохранить даже его эмоциональный тон.

 

Источник:  "Хабр", @denis-19.

Господа, будьте сдержаны в комментариях, ведь вы подаете пример для ИИ.

DARPA сообщает о разработке алгоритма ИИ для управления реактивным истребителем F-16 менее трех лет после создания специальной версии истребителя.

Полет выполнялся на VISTA X-62A производства Lockheed Martin, который, как следует из пресс-релиза Lockheed Martin, является модифицированным F-16D Block 30 Peace Marble Il с обновленной авионикой Block 40.

DARPA создала автономный реактивный самолет в рамках программы Air Combat Evolution(ACE), но при этом утверждает что самолеты не предполагается отправлять в полет без пилотов. AI F-16 тестировался The Air Force Test Pilot School на авиабазе Эдвардс в Калифорнии в течении нескольких дней и по их выводам ИИ можно доверять выполнение самостоятельных полетов, но пилот находился на борту на случай возникновения проблем.

"Благодаря командной работе DARPA,  Air Force Test Pilot School, Air Force Research Laboratory и нашим исполнителям мы достигли высокого прогресса второй фазы во всех областях программы ACE" заявил в пресс-релизе лейтенант-полковник Райан "Хэл" Хефрон, программный менеджер ACE в DARPA.

"VISTA [Variable In-flight Simulator Test Aircraft] позволил нам срезать углы в программе пропустив запланированную фазу работы над моделью и перейти сразу к полноразмерному внедрению, сэкономив год или больше и предоставляя обратную связь во время реального полета"

Во время тестовой фазы F-16 взлетал и садился в различных условиях, при присутствии противников и использовал симулированное вооружение, но никаких осложнений не возникло. В ACE также задействована Test Pilot School, которая провела дополнительное обучение и информацию для уменьшения уровня дискомфорта пилотов летающих с ИИ.

Дополнительные тесты включают в себя определение насколько доверяют пилоты истребителю в боях на коротких дистанциях, в то время как пилот должен одновременно фокусироваться на "более крупных задачах боя"

Автономный истребитель F-16 всего лишь один из более чем 600 проектов с использованием ИИ минобороны США и финансируется правительством США с 2018 года, которое утвердило пятилетний бюджет в размере 2 млрд долларов. Однако уже в 2022 году правительство потратило 2 млрд долларов на исследования ИИ и разработки строительных роботов и носимого оборудования.

Stacie Pettyjohn, директор оборонительной программы в центре New American Security сказала в интервью что AI F-16 "распределит наши силы" в рамках концепции которую DARPA называет "mosaic warfare". Это улучшение позволит уменьшить потери т.к. понадобится меньше людей для управления самолетами.

"Эти значительно меньшие по размеру автономные летательные аппараты могут быть скомбинированы самым неожиданным образом для запутывания противника. Потеря любого из них не окажет значительного влияния на выполнение задания"