Noul AI poate bloca microfoanele necinstite

Noul AI poate bloca microfoanele necinstite

Credit: Unsplash/CC0 Public Domain

Ați observat vreodată reclame online care vă urmăresc, care sunt ciudat de aproape de ceva despre care ați vorbit recent cu prietenii și familia? Microfoanele sunt încorporate în aproape orice azi, de la telefoane, ceasuri și televizoare la asistenți vocali, și vă ascultă mereu. Calculatoarele folosesc în mod constant rețelele neuronale și inteligența artificială pentru a vă procesa vorbirea, pentru a obține informații despre dvs. Dacă ai vrea să previi acest lucru, cum ai putea proceda?

Pe vremuri, așa cum era portretizat în serialul de succes „The Americans”, puneai muzică cu volumul ridicat sau deschideai apa din baie. Dar dacă nu ai vrea să țipi în mod constant peste muzică pentru a comunica? Cercetătorii Columbia Engineering au dezvoltat un nou sistem care generează sunete liniștite pe care le poți reda în orice cameră, în orice situație, pentru a împiedica dispozitivele inteligente să te spioneze. Și este ușor de implementat pe hardware cum ar fi computere și smartphone-uri, oferind oamenilor libertatea de a proteja confidențialitatea vocii lor.

„O provocare tehnică cheie pentru a realiza acest lucru a fost să facem totul să funcționeze suficient de rapid”, a spus Carl Vondrick, profesor asistent de informatică. „Algoritmul nostru, care reușește să împiedice un microfon necinstiți să vă audă corect cuvintele în 80% din timp, este cel mai rapid și mai precis de pe patul nostru de testare. Funcționează chiar și atunci când nu știm nimic despre microfonul necinstiți, cum ar fi locația acestuia, sau chiar software-ul computerului care rulează pe el. Practic camuflează vocea unei persoane în aer, ascunzând-o de aceste sisteme de ascultare și fără a deranja conversația dintre oamenii din cameră.”

Rămâneți înaintea conversațiilor

În timp ce rezultatele echipei în coruperea sistemelor automate de recunoaștere a vorbirii sunt teoretic cunoscute ca fiind posibile în AI pentru o vreme, realizarea lor suficient de rapidă pentru a fi utilizate în aplicații practice a rămas un blocaj major. Problema a fost că un sunet care întrerupe vorbirea unei persoane acum – în acest moment specific – nu este un sunet care va întrerupe vorbirea o secundă mai târziu. Pe măsură ce oamenii vorbesc, vocile lor se schimbă constant pe măsură ce spun cuvinte diferite și vorbesc foarte repede. Aceste modificări fac aproape imposibil ca o mașină să țină pasul cu ritmul rapid al vorbirii unei persoane.

„Algoritmul nostru este capabil să țină pasul prezicând caracteristicile a ceea ce va spune o persoană în continuare, oferindu-i suficient timp pentru a genera șoapta potrivită”, a spus Mia Chiquier, autorul principal al studiului și doctorat. student în laboratorul lui Vondrick. „Până acum, metoda noastră funcționează pentru majoritatea vocabularului în limba engleză și intenționăm să aplicăm algoritmul pe mai multe limbi și, în cele din urmă, să facem ca șoapta să sune complet imperceptibilă.”

Lansarea de „atacuri predictive”

Cercetătorii trebuiau să proiecteze un algoritm care să poată rupe rețelele neuronale în timp real, care să poată fi generat continuu pe măsură ce vorbirea este vorbită și aplicabil la majoritatea vocabularului dintr-o limbă. În timp ce lucrările anterioare au abordat cu succes cel puțin una dintre aceste trei cerințe, niciuna nu le-a îndeplinit pe toate trei. Noul algoritm al lui Chiquier folosește ceea ce ea numește „atacuri predictive” – un semnal care poate perturba orice cuvânt pe care modelele de recunoaștere automată a vorbirii sunt antrenate să-l transcrie. În plus, atunci când sunetele de atac sunt redate prin aer, ele trebuie să fie suficient de tare pentru a perturba orice microfon de „ascultare” necinstit care ar putea fi departe. Sunetul de atac trebuie să aibă aceeași distanță ca și vocea.

Abordarea cercetătorilor realizează performanță în timp real prin prognoza unui atac asupra viitorului semnalului sau cuvântului, condiționat de două secunde de vorbire de intrare. Echipa a optimizat atacul astfel încât acesta să aibă un volum similar cu zgomotul de fond normal, permițând oamenilor dintr-o cameră să converseze în mod natural și fără a fi monitorizați cu succes de un sistem automat de recunoaștere a vorbirii. Grupul a demonstrat cu succes că metoda lor funcționează în camerele din lumea reală cu zgomot ambiental natural și geometrii complexe ale scenei.

IA etică

„Pentru mulți dintre noi din comunitatea de cercetare, preocupările etice ale tehnologiei AI sunt o problemă esențială, dar pare să aparțină unui proces de gândire separat. Este ca și cum suntem atât de fericiți că în sfârșit am făcut o mașină, dar am uitat să proiectăm o mașină. volan și frână”, spune Jianbo Shi, profesor de informatică și știință a informațiilor la Universitatea din Pennsylvania și un cercetător de frunte în învățarea automată. „Ca comunitate, trebuie să ne gândim „conștient” la impactul uman și societal al tehnologiei AI pe care o dezvoltăm încă din faza de proiectare a cercetării. Studiul lui Mia Chiquier și Carl Vondrick pune întrebarea „Cum să folosim AI pentru a ne proteja împotriva neintenționate”. utilizări AI? Munca lor ne face pe mulți dintre noi să ne gândim în următoarea direcție: nu întrebați ce poate face IA etică pentru noi, ci ce putem face noi pentru IA etică? Odată ce credem în această direcție, cercetarea AI etică este la fel de distractivă și creativă.”

Chiquier își va prezenta lucrarea pe 25 aprilie 2022, la Conferința Internațională pentru Reprezentațiile Învățării.


Învățarea automată îmbunătățește recunoașterea vorbirii umane


Mai multe informatii:
Mia Chiquier et al, Real-Time Neural Voice Camouflage (2022). Disponibil ca PDF la arXiv:2112.07076 [cs.SD] arxiv.org/abs/2112.07076

Furnizat de Columbia University School of Engineering and Applied Science

Citare: Oprirea „ei” să vă spioneze: Noul AI poate bloca microfoanele necinstite (2022, 18 aprilie) preluat la 19 aprilie 2022 de la https://techxplore.com/news/2022-04-spying-ai-block-rogue-microphones .html

Acest document este supus dreptului de autor. În afară de orice tranzacție echitabilă în scopul studiului sau cercetării private, nicio parte nu poate fi reprodusă fără permisiunea scrisă. Conținutul este oferit doar în scop informativ.

Leave a Comment

Your email address will not be published.