Изследователите показват, че Алекса може да „клекне“ отвличане на гласови команди

„ИзследователитеУвеличи Amazon

Успехът на устройства на Интернет на нещата, като Amazon’s Echo и Google Home създадоха възможност за разработчиците да надграждат гласово активирани приложения, които се свързват все по-дълбоко – в домове и личен живот на клиентите. И – според проучване на a екип от Университета на Илинойс в Урбана-Шампан (UIUC) – потенциал да се експлоатират някои от идиосинкрасиите на системи за машинно разпознаване на глас за злонамерени цели също е нараснал.

Нарича се “умение клякане”, методът на атака (описан в a документ, представен на симпозиума за сигурност на USENIX в Балтимор месец) понастоящем е ограничена до платформата Amazon Alexa – но тя разкрива слабост, която другите гласови платформи ще трябва да разрешат тъй като те разширяват поддръжката на приложения на трети страни. Арс се срещна с екипът на UIUC (който се състои от Дийпак Кумар, Рикардо Паканела, Пол Мърли, Ерик Хененфент, Джошуа Мейсън, асистент Професор Адам Бейтс и професор Майкъл Бейли) в USENIX Сигурност. Говорихме за техните изследвания и потенциала за други заплахи, породени от гласово въвеждане на информация системи.

Гласът на господаря му

Имаше редица скорошни демонстрации за нападения които използват гласовите интерфейси. През март изследователите показаха, че дори когато Windows 10 е заключен, Cortana “помощникът” отговаря на гласови команди – включително отваряне на уебсайтове. И Доказано е, че IoT устройства с активирано гласово разпознаване са уязвим за команди от радио или телевизионни реклами, YouTube видеоклипове и малки деца.

Тази уязвимост надхвърля само звуковите гласови команди. В отделен документ, представен на USENIX Security този месец, от Yuan Xuejing от Китайската държавна ключова лаборатория за информационна сигурност, изследователите доказаха, че аудио вградено във видео саундтрак, музикален поток или радиопредаване може да бъде променен, за да предизвика глас команди в автоматични системи за разпознаване на реч, без да са открит от човешки слушател. Повечето слушатели не можаха да се идентифицират проблеми с променените песни.

Но атаките на клек на умения могат да представляват по-непосредствен риск – това Изглежда, изследователите откриват, че разработчиците вече дават имената на техните приложения, които са подобни на тези на популярните приложения. Някои от тях – като „Рибни факти“ (умение, което връща случайни факти за рибите, водните гръбначни) и „Фашистични факти“ (умение, което връща факти за базирани в Вермонт jam band) – са случайни, но други като “Факс на котки” (който мимики „Котешки факти“) очевидно са умишлени.

An example of a potential "sound-alike" error using Alexa, where подобно звучащо име на умение отвлича заявки за друго умение  (and produces a questionable fact).Увеличи / Пример за потенциална грешка, подобна на звука при използване на Alexa, където a similar-sounding skill name hijacks requests for another skill(и предизвиква съмнителен факт). Kumar et al., UIUC

Благодарение на начина, по който Alexa обработва заявките за нови “умения” – облачни приложения, които се регистрират в Amazon – възможно е създайте злонамерени умения, които са именувани с хомофони за съществуващи законни приложения. Amazon направи всички умения в своята библиотека налични с гласова команда по подразбиране през 2017 г. и уменията могат да бъдат “инсталиран” в библиотеката на клиента с глас. “Така или иначе, има атака само за глас за хора, които са избирателно регистриране на имена на умения “, каза Бейтс, който ръководи UIUC Secure и Лаборатория за прозрачни системи.

Този вид предлага всички видове потенциал за злонамерени разработчиците. Те биха могли да изградят умения, които прихващат искания законни умения, за да задвижват потребителски взаимодействия, които крадат лична и финансова информация. Те по същество ще използват Алекса да извършва фишинг атаки (вид престъпна измама, а не сладко от сладко). Учените от UIUC демонстрираха (в пясъчник) среда) как може да се използва умение, наречено “Am Express” отвлечете първоначалните заявки за умение Amex на American Express – и откраднете пълномощията на потребителите

Демонстрация на това как враждебно умение може да се използва за кражба на пълномощия.

Чух ли това правилно?

Има и думи, че Алекса често греши за други думи, може би поради акцента на гласовете на Алекса бяха обучени класификатори за машинно обучение. За идентифициране на някои от Екипът на UIUC използва корпус от аудио образци от Национален речев проект. (Тази колекция от речеви образци от 60 различни говорители от шестте основни диалектни региони на САЩ е събрана от изследователите по лингвистика Синтия Клопър (сега в Университет в Охайо) и Дейвид Писони.)

Predictable, exploitable errors found in Alexa voice processing.Enlarge/ Предсказуеми грешки в експлоатация, открити в Alexa voice обработка.Kumar et al., UIUC

Използваната от екипа на UIUC колекция се състои от 188 уникални думи, изречени от всеки от 60-те говорители – общо 11 466 аудио проби. Тези проби бяха изтласкани към умение Алекса, изградено от екип, наречен „Запиши това“. Умението преписа думите в текст използване на клиентско приложение, което възпроизвежда аудиото на партиди и контролираше скоростта на подаване, за да не бомбардира Алекса сървър за обработка на глас. „Изпратихме всяка извадка за реч на Alexa 50 пъти, “каза Кумар,” ни предоставя 573 000 преписа 60 високоговорителя. ”

От 188 думи тестът идентифицира 27 (14%), че надеждно би бил грешно разтълкуван от Алекса като друга дума. Освен това, изследването намери конкретни думи, които Алекса погрешно тълкуван за конкретни диалекти и полове – което означава това тези думи потенциално могат да бъдат използвани за насочване на атаки срещу a специфична демографска.

Екипът на UIUC сподели своите открития с екипа за сигурност на Amazon. Ars се свърза с Amazon, за да види какво се прави, за да се предпази от тях видове атаки и получихме следното официално изявление в отговор от говорител на Amazon: „Доверието на клиентите е важно за нас и ние провеждаме прегледи за сигурност като част от умението процес на сертифициране. Имаме смекчения, за да открием това тип поведение на уменията и ги отхвърлете или премахнете, когато идентифицирани. ”

Изследователите от UIUC признаха, че има ограничения за това докъде те биха могли да вземат своите тестове, без всъщност да публикуват умение в производствената библиотека на Alexa. Но проф. Бейтс каза, че е така вероятно, че решаването на проблема с неправилни команди “не е” о, натискаме пластир и проблемът отшумява – това сме ние доверието ни в машинното обучение на езика класификатор и всички класификатори за машинно обучение ще направят грешки. И така, размяна на клавиатура – аналогово устройство, което ние доверие – при машинното обучение ще има проблеми и те ще изскачат на повече места от лентата на уменията. ”

Екипът на UIUC разглежда редица възможни следващи стъпки за проучвания, включително как може да възникне проблемът с обработката на глас на Alexa влияят по различен начин на демографията. Някои от данните от проучване предполага, че Alexa може да не се справя с всички говорители еднакво, но ще бъде необходим по-голям набор от данни в говорена дума, за да се получи вярно справяне с обхвата на този въпрос.

Изследователите обмислят и изследователски теми около въздействие на доверието в устройствата на Интернет на нещата. „Ако нападател осъзнава, че потребителите се доверяват на гласовите интерфейси повече от другите форми на изчисление, “те пишеха в своя документ,” те могат да изграждат по-добре, повече насочени атаки срещу гласови интерфейси. “И екипът се надява да проучи типовете грешки при обработката, които съществуват при други езикови платформи.

“Като проблем с интерфейса”, каза Бейтс, “няма дъно за това.”

Like this post? Please share to your friends:
Leave a Reply

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: