Neuroscience News logo for mobile.

Oprirea dispozitivelor inteligente să vă spioneze

Rezumat: Cercetătorii au dezvoltat un nou algoritm AI care împiedică dispozitivele inteligente precum Alexa sau Siri să vă audă corect cuvintele în 80% din timp. Algoritmul este un pas către oferirea unei agenții personale în protejarea confidențialității vocii lor în prezența dispozitivelor inteligente.

Sursă: Universitatea Columbia

Ați observat vreodată reclame online care vă urmăresc, care sunt ciudat de aproape de ceva despre care ați vorbit recent cu prietenii și familia? Microfoanele sunt încorporate în aproape orice azi, de la telefoanele noastre, ceasurile și televizoarele până la asistenții vocali, și vă ascultă mereu. Calculatoarele folosesc în mod constant rețelele neuronale și inteligența artificială pentru a vă procesa vorbirea, pentru a obține informații despre dvs. Dacă ai vrea să previi acest lucru, cum ai putea proceda?

Pe vremuri, așa cum se înfățișează în serialul de succes „Americanii”, puneai muzică cu volumul ridicat sau deschideai apa din baie. Dar dacă nu ai vrea să țipi în mod constant peste muzică pentru a comunica?

Columbia Engineering cercetătorii au dezvoltat o sistem nou care generează sunete silențioase pe care le poți reda în orice cameră, în orice situație, pentru a împiedica dispozitivele inteligente să te spioneze. Și este ușor de implementat pe hardware cum ar fi computere și smartphone-uri, oferind oamenilor libertatea de a proteja confidențialitatea vocii lor.

„O provocare tehnică cheie pentru a realiza acest lucru a fost să facem totul să funcționeze suficient de rapid”, a spus Carl Vondrickasistent universitar de informatică.

„Algoritmul nostru, care reușește să împiedice un microfon necinstiți să vă audă corect cuvintele în 80% din timp, este cel mai rapid și cel mai precis de pe patul nostru de testare.

„Funcționează chiar și atunci când nu știm nimic despre microfonul necinstiți, cum ar fi locația lui sau chiar despre software-ul de computer care rulează pe el. Practic, camuflează vocea unei persoane în aer, ascunzând-o de aceste sisteme de ascultare și fără a deranja conversația dintre oamenii din cameră.”

Rămâneți înaintea conversațiilor

În timp ce rezultatele echipei în coruperea sistemelor automate de recunoaștere a vorbirii sunt teoretic cunoscute ca fiind posibile în AI pentru o vreme, realizarea lor suficient de rapidă pentru a fi utilizate în aplicații practice a rămas un blocaj major. Problema a fost că un sunet care întrerupe vorbirea unei persoane acum – în acest moment specific – nu este un sunet care va întrerupe vorbirea o secundă mai târziu.

Pe măsură ce oamenii vorbesc, vocile lor se schimbă constant pe măsură ce spun cuvinte diferite și vorbesc foarte repede. Aceste modificări fac aproape imposibil ca o mașină să țină pasul cu ritmul rapid al vorbirii unei persoane.

„Algoritmul nostru este capabil să țină pasul prezicând caracteristicile a ceea ce va spune o persoană în continuare, oferindu-i suficient timp pentru a genera șoapta potrivită”, a spus Mia Chiquier, autorul principal al studiului și doctorand în laboratorul lui Vondrick.

„Până acum metoda noastră funcționează pentru majoritatea vocabularului limbii engleze și intenționăm să aplicăm algoritmul pe mai multe limbi și, în cele din urmă, să facem ca șoapta să sune complet imperceptibilă.”

Lansarea „Atacuri predictive”

Cercetătorii trebuiau să proiecteze un algoritm care să poată rupe rețelele neuronale în timp real, care să poată fi generat continuu pe măsură ce vorbirea este vorbită și aplicabil la majoritatea vocabularului dintr-o limbă.

În timp ce lucrările anterioare au abordat cu succes cel puțin una dintre aceste trei cerințe, niciuna nu le-a îndeplinit pe toate trei. Noul algoritm al lui Chiquier folosește ceea ce ea numește „atacuri predictive” – un semnal care poate perturba orice cuvânt pe care modelele de recunoaștere automată a vorbirii sunt antrenate să-l transcrie.

În plus, atunci când sunetele de atac sunt redate prin aer, ele trebuie să fie suficient de tare pentru a perturba orice microfon de „ascultare” necinstit care ar putea fi departe. Sunetul de atac trebuie să aibă aceeași distanță ca și vocea.

Abordarea cercetătorilor realizează performanță în timp real prin prognoza unui atac asupra viitorului semnalului sau cuvântului, condiționat de două secunde de vorbire de intrare.

În timp ce rezultatele echipei în coruperea sistemelor automate de recunoaștere a vorbirii sunt teoretic cunoscute ca fiind posibile în AI pentru o vreme, realizarea lor suficient de rapidă pentru a fi utilizate în aplicații practice a rămas un blocaj major. Imaginea este în domeniul public

Echipa a optimizat atacul astfel încât acesta să aibă un volum similar cu zgomotul de fond normal, permițând oamenilor dintr-o cameră să converseze în mod natural și fără a fi monitorizați cu succes de un sistem automat de recunoaștere a vorbirii.

Vezi si

Acesta este un desen animat cu o femeie cu o umbră planând asupra ei

Grupul a demonstrat cu succes că metoda lor funcționează în camerele din lumea reală cu zgomot ambiental natural și geometrii complexe ale scenei.

IA etică

„Pentru mulți dintre noi din comunitatea de cercetare, preocupările etice ale tehnologiei AI sunt o problemă esențială, dar pare să aparțină unui proces de gândire separat. Este ca și cum suntem atât de fericiți că în sfârșit am făcut o mașină de conducere, dar am uitat să proiectăm un volan și o frână”, spune Jianbo Shiprofesor de informatică și știința informației la Universitatea din Pennsylvania și un cercetător de frunte în învățarea automată.

„Ca comunitate, trebuie să ne gândim „conștient” la impactul uman și social al tehnologiei AI pe care o dezvoltăm încă din faza de proiectare a cercetării. Studiul lui Mia Chiquier și Carl Vondrick pune întrebarea: „cum să folosim AI pentru a ne proteja împotriva utilizărilor neintenționate ale AI?”

„Munca lor ne face pe mulți dintre noi să gândim în următoarea direcție: nu întrebați ce poate face IA etică pentru noi, ci ce putem face noi pentru IA etică? Odată ce credem în această direcție, cercetarea etică AI este la fel de distractivă și creativă.”

Finanțarea: Această cercetare se bazează pe munca susținută de NSF CRII Award 1850069 și NSF CAREER Award 2046910. MC este susținut de o bursă de doctorat CAIT. Părerile și concluziile nu trebuie interpretate ca reprezentând în mod necesar politicile oficiale, exprimate sau implicite, ale sponsorilor.

Despre această știri despre cercetarea inteligenței artificiale și a dispozitivelor inteligente

Autor: Holly Evarts
Sursă: Universitatea Columbia
A lua legatura: Holly Evarts – Universitatea Columbia
Imagine: Imaginea este în domeniul public

Cercetare originală: Concluziile vor fi prezentate la Conferința Internațională pentru Reprezentațiile Învățării

Leave a Comment

Your email address will not be published.