Comenzi nedetectabile urechilor umane pot ajunge la asistenți cu inteligența artificială

Cercetătorii demonstrează cum comenzile inteligente subliminale au potențial de atacuri rău intenționate

Cercetătorii din Statele Unite și China au efectuat teste în încercarea de a demonstra că comenzile „ascunse” sau cele nedetectabile urechilor umane pot ajunge la asistenți cu inteligență artificială precum Siri și le comandă să efectueze acțiuni pe care proprietarii dispozitivelor nu le-au intenționat niciodată. Cercetarea a fost publicată într-un articol din The New York Times, sugerând că aceste comenzi subliminale pot forma numere de telefon, deschide site-uri și alte acțiuni cu potențial mai periculos dacă ajung pe mâinile cui nu trebuie.
Un grup de studenți de la Universitatea din California, Berkeley și Georgetown University au publicat o lucrare de cercetare în această lună, afirmând că pot insera comenzi în înregistrări muzicale sau în textul vorbit. Când sunt redate lângă un Amazon Echo sau Apple iPhone, o persoană ar auzi doar melodia sau cineva care vorbește, în timp ce Siri și Alexa „ar putea auzi o instrucțiune pentru a adăuga ceva la lista dvs. de cumpărături”. Sau, mai periculos, deblocând ușile, transferând bani din bancă și cumpărând articole online.
Metoda prin care elevii au reușit să efentueze comenzile ascunse nu ar trebui să fie o preocupare pentru publicul larg, dar unul dintre autorii lucrării, Nicholas Carlini, crede că grupuri rău intenționate ar putea face deja incursiune cu tehnologii similare.

„Am vrut să vedem dacă am putea să le facem și mai insesizabile”, a spus Nicholas Carlini, doctor în anul al cincilea, student în securitatea calculatoarelor de la UC Berkeley și unul dintre autorii lucrării.
Dl. Carlini a adăugat că, deși nu există dovezi că aceste tehnici au părăsit laboratorul, nu poate fi decât o chestiune de timp înainte ca cineva să înceapă să le exploateze. „Presupunerea mea este că oamenii răi au angajat deja oameni să facă ceea ce fac eu”, a spus el.

Anul trecut, cercetătorii de la Universitatea Princeton și Universitatea Zheijiang din China au efectuat teste similare, demonstrând că asistenții cu inteligență artificială ar putea fi activați prin frecvențe care nu sunt audibile pentru oameni. Printr-o tehnică numită „DolphinAttack”, cercetătorii au construit un emițător pentru a trimite comanda ascunsă care a format un anumit număr de telefon, în timp ce în alte teste s-au făcut fotografii și s-au trimis mesaje text. DolphinAttack se spune că este limitat în ceea ce privește raza de acțiune, totuși, deoarece „trebuie să fie aproape de dispozitivul receptor”.

DolphinAttack ar putea injecta comenzi vocale ascunse la 7 sisteme de recunoaștere a vorbirii de ultimă oră (de exemplu, Siri, Alexa) pentru a activa sistemul ca să fie disponibil permanent și a realiza diverse atacuri, printre care activarea lui Siri pentru inițierea unui apel FaceTime pe iPhone, activarea Google Now pentru a comuta telefonul în modul avion și chiar a manipula sistemul de navigație într-un automobil Audi.

Într-un alt un set de cercetări, un grup de la Universitatea Illinois din Urbana-Champaign a demonstrat că această limitare a razei de acțiune ar putea fi depășită, demonstrând comenzi primite de la 8 metri distanță. Pentru ultimul grup de cercetători de la Berkeley, Carlini a declarat pentru The New York Times că este „încrezător” că echipa sa va fi în curând capabilă să trimită comenzi cu succes „împotriva oricărui sistem de dispozitive inteligente de pe piață”. El a spus că grupul dorește să demonstreze companiilor că acest defect este o problemă potențială, „și apoi sperăm că alți oameni vor spune: ‘OK, aceasta este posibil, acum să încercăm să o rezolvăm'”.
Din motive de securitate, Apple este strictă cu anumite comenzi Siri legate de HomeKit, blocându-le în spatele codurilor de acces ale dispozitivului ori de câte ori utilizatorii au parolele activate. De exemplu, dacă doriți să deblocați ușa din față cu o deblocare inteligentă conectată, puteți să îi cereți lui Siri, dar va trebui să introduceți codul de acces pe un iPhone sau iPad după ce ați lansat comanda. HomePod, pe de altă parte, nu are în mod intenționat această funcționalitate.