We vroegen Facebook A.I. Expert of het onze chats in het geheim opneemt

De advertentie-aanbevelingen van Facebook zijn soms een beetje te goed, wat leidt tot een populaire theorie dat de app van het sociale netwerk smartphone-microfoons gebruikt om stiekem in gesprekken te luisteren. Het gerucht is wijdverspreid genoeg om een ​​te hebben vergaard Snopes na het debunken van het idee.

En zoals Tomas Mikolov, een onderzoeker bij Facebook AI Research, uitlegde in een omgekeerde interview, de grimmige realiteit dat mensen eigenlijk vrij eenvoudig te voorspellen zijn.

"Het idee dat de Facebook-toepassing zou luisteren naar wat je tegen je telefoon zegt, en probeert om er iets van af te leiden voor gepersonaliseerde advertenties, lijkt een beetje op een samenzweringstheorie, en meer op wat gekke mensen zouden geloven in, "Vertelde Mikolov omgekeerde Vrijdag tijdens een interview op de Human-Level Artificial Intelligence-conferentie georganiseerd door GoodAI in Praag, Tsjechië. Mikolov heeft echter ook verduidelijkt dat hij "niet aan advertenties werkt, ik werk niet eens aan toegepaste teams, dus dit zijn eigenlijk mijn persoonlijke meningen in plaats van de meningen van iemand die de realiteit echt kent, maar ik heb mijn doctoraat gedaan bij spraakherkenningsgroepen, dus ik weet eigenlijk hoe rekenintensief spraakherkenning is."

De theorie is populair gebleken, zelfs nadat Facebook het categorisch ontkende in een verklaring van juni 2016, waarin werd uitgelegd dat advertenties "gebaseerd zijn op de interesses van mensen en andere profielinformatie - niet waar je het hard over hebt." A New Statesman experiment in maart kon advertenties niet veranderen door dicht bij de telefoon te praten, waarbij het artikel suggereerde dat de theorie een afleiding was van grotere privacykwesties op Facebook. Niettemin duikt de theorie nog regelmatig op op sociale media en in onderzoekstudies:

Vraag in DCMS horen of Facebook naar onze gesprekken luistert - kwam herhaaldelijk naar voren in @doteveryoneuk onderzoek - 7% gelooft dat telefoongesprekken worden verzameld

5% gelooft dat hun oogbewegingen bij het bekijken van het scherm zijn verzameld op

- Catherine Miller (@radiocatherine) 27 maart 2018

"Laten we aannemen dat je een persoon bent in Praag, in Tsjechië," zei Mikolov. "Het is rond het middaguur. U spreekt geen Tsjechisch en nu wilt u iets zoeken en de telefoon zal u al advertenties voor aanbevelingen voor enkele restaurants om u heen laten zien. Je zult denken 'oh, we hadden het net over restaurants en gingen lunchen, dus de telefoon luisterde naar mij, en er moet wat A.I. zijn. dat weet waar ik het over heb en daarom zie ik deze aanbevelingen! "Maar misschien nee, misschien is het eigenlijk anders. Er zijn duizenden mensen in dezelfde situatie voor je geweest, in dezelfde stad, met dezelfde achtergrond die rond de middag op zoek waren naar plaatsen waar ze heen konden gaan voor de lunch, en nu krijg je meteen enkele aanbevelingen. Misschien zijn het slechts enkele grootschalige statistieken over wat andere mensen in dezelfde context doen … niemand hoeft echt te luisteren naar wat u zegt, dus de telefoon kan raden wat u wilt doen."

Dat maakt Facebook niet duidelijk over hoe het data gebruikt, alleen dat het analyseren van gesprekken met de microfoon niet veel zin heeft.Zelfs Christopher Wylie, de klokkenluider in het Facebook-Cambridge Analytica-schandaal, vertelde het cultuurcomité van het Britse House of Commons in maart dat natuurlijke taalverwerking van het soort dat naar een gesprek kon luisteren en een intelligente reactie kon geven, eigenlijk vrij moeilijk zou zijn. schaal."

Facebook zou de microfoon op andere manieren kunnen gebruiken. Wylie legde uit dat bedrijven de microfoon "in het algemeen" gebruiken voor "milieu" doeleinden, analyseren of een gebruiker thuis is, op de werkplek of ergens anders op basis van de algemene audio in hun omgeving. Facebook diende in juni ook een octrooi in voor een systeem dat de microfoon zou gebruiken om te identificeren welke show een gebruiker bekijkt - in essentie Shazam voor tv. Facebook heeft echter snel een verklaring uitgegeven waarin het idee wordt beschreven als 'speculatief van aard' en dat het idee 'niet is opgenomen in een van onze producten en nooit zal zijn'.

Mikolov merkte echter op dat computersystemen soms kunnen werken op manieren die de illusie van echte intelligentie geven. Hij beschreef zijn werk bij Google, waar hij bijna twee jaar tot mei 2014 een onderzoekswetenschapper was, bezig met het veranderen van woorden in vectoren onder het team "word2vec". Deze op een aantal gebaseerde representaties van concepten lieten het team schijnbaar intelligente resultaten produceren met weinig kennis.

"Je kunt koning minus man plus vrouw doen, en deze vergelijking geeft je het resultaat van een vector die heel dicht bij koningin staat," zei Mikolov. "Het lijkt bijna magisch dat je analogieën kunt vormen door simpelweg te rekenen met de woorden. Nogmaals, zelfs als het er magisch uitziet, is het in feite gewoon een eigenschap van de gegevens zelf. Zelfs als je een enorme hoeveelheid gegevens hebt en je een paar eenvoudige statistieken vastlegt in de gegevens, zie je dat er veel van deze zeer fraaie patronen opduiken die op het eerste gezicht een hoog niveau van kennis van de taal lijken te vereisen."

Facebook heeft al veel informatie om te analyseren. Het kent jouw voorkeuren, vind-ik-leuks, locatie, vriendenkringen, online interacties en zelfs meer. Wat meer is, is dat gebruikers deze informatie regelmatig vrijwillig verstrekken - geen geheime microfoontrucs vereist.

"Als je miljarden likes hebt voor sommige pagina's van mensen in dezelfde context, dan kun je waarschijnlijk voorspellen wat andere mensen in dezelfde situatie zouden doen, en je hoeft niet veel meer te begrijpen dan eenvoudige statistieken dat deze functies gezien deze functies de waarschijnlijk resultaat, "zei Mikolov.

Opmerking van de uitgever: De Human-Level Artificial Intelligence-conferentie financierde de reis en accommodatie van Inverse om het evenement te dekken, maar de organisatie heeft geen invloed op de redactionele verslaggeving van Inverse.