Google-medewerkers luisteren mee naar uw gesprekken, ook in uw huiskamer

Sinds de lancering van de Google Home, in 2016, hebben miljoenen mensen de slimme luidspreker van de zoekmachinegigant in huis gehaald of op kantoor neergezet om er allerlei triviale vragen aan te stellen.  

Als je bijvoorbeeld vraagt “Ok Google, hoe is het verkeer naar Brussel?”, floept het toestel automatisch aan en leest een computerstem meteen de laatste verkeersinformatie voor. Handig toch? Het systeem werkt ook op de smartphone, als je de app Google Assistent installeert. Het is dus vergelijkbaar met Siri van Apple. 

Wat gebruikers van de Google-luidspreker en de Assistent-app vaak niet weten, is dat alles wat ze tegen Google zeggen, standaard wordt opgenomen en bijgehouden.  Dat staat ook keurig in de gebruiksvoorwaarden van Google Home.

Maar wat gebruikers simpelweg niet kunnen weten – omdat het niet in de kleine lettertjes staat - is dat er mensen zijn die achteraf stukjes van die opnames kunnen beluisteren.

In onderstaande reportage legt Tim Verheyden uit hoe dit in zijn werk gaat. (Lees eronder verder voor meer uitleg.)

Google beweerde eerder dat het bedrijf niet afluistert. Dat deed Google Nederland bijvoorbeeld In een vlot uitlegfilmpje op YouTube, bedoeld om de scepsis over afluisteren weg te nemen. 

In dit filmpje antwoorden medewerkers van Google op de vraag: “Luistert Google je af?” In het antwoord leggen ze uit dat de commando’s die gebruikers geven, worden opgenomen en doorgestuurd voor verwerking. Maar de conclusie van Google is heel stellig: “Nee, je wordt niet afgeluisterd.” (Lees verder onder het filmpje.)

Nu luistert Google niet rechtstreeks af, en al zeker niet live. VRT NWS is wel te weten gekomen dat Google met vertraging meeluistert. Of beter: laat meeluisteren. Kijk maar eens naar onderstaand fragment uit onze reportage. Hierin confronteren we gewone Vlamingen met een aantal geluidsfragmenten. 

“Dit is ontegensprekelijk mijn eigen stem”, zegt één van hen, ietwat ongemakkelijk lachend. Daarnaast herkent een echtpaar uit Waasmunster meteen de stem van hun zoon en hun kleinkind.  (Lees verder onder de video.)

Wat is hier nu gebeurd? VRT NWS heeft ruim 1.000 fragmenten kunnen beluisteren die opgenomen zijn met de Assistent van Google, via slimme luidsprekers en de smartphone-app.  In die fragmenten waren onder andere de adressen van onderstaande mensen te horen. Op die manier konden we een aantal betrokkenen doodeenvoudig gaan opzoeken en confronteren met de opnames. 

"Ik vraag mij af hoe je hieraan bent geraakt”, vraagt een man in bovenstaand fragment zich terecht af.  Daarvoor moeten we even terug naar april, toen aan het licht kwam dat duizenden werknemers van de Amerikaanse internetgigant Amazon naar de opnames luisteren die de slimme luidsprekers van het bedrijf maken bij miljoenen gebruikers. 

Toen VRT NWS dit nieuws overnam, werden we gecontacteerd door iemand die voor een grote onderaannemer van Google werkt, die exact hetzelfde bleek te doen als hetgeen bij Amazon gebeurt.

Die medewerker liet ons meekijken in het systeem waarin de medewerkers opnames van de Google Assistent moeten beluisteren. Wereldwijd moet het om duizenden werknemers gaan; in Vlaanderen en Nederland krijgen vermoedelijk een tiental medewerkers opnames te horen van Nederlandstalige gebruikers.

Waarom houdt Google nu die opnames bij en waarom laat het bedrijf er mensen naar luisteren? Niet omdat Google per se geïnteresseerd is in wat u zegt. Google is wel geïnteresseerd in de manier waarop u iets zegt. Het computersysteem van Google bestaat namelijk uit slimme, zelflerende algoritmes. Om de subtiele en gekke eigenaardigheden van de menselijke taal te begrijpen, is het vaak nog net niet slim genoeg.  

Als de zoekmachine een spraakopdracht niet goed kan verwerken, wordt de opname van die opdracht in een online tool van Google gestopt: Crowdsource. Wie nieuwsgierig is: iedereen kan deze tool gebruiken om Google (gratis) te helpen bij het beschrijven van onder andere afbeeldingen en gelaatsuitdrukkingen. 

Wat u niet zal vinden in de openbare tool, is het gedeelte om audio-opnames te beschrijven. Voor dat klusje schakelt Google via onderaanneming professionals in. Als zij in een beveiligd gedeelte van de tool inloggen, krijgen ze een inbox te zien met audiofragmenten die ze moeten verwerken. Deze manier van werken werd ons later nog bevestigd door twee andere bronnen.

Via spraakherkenning is vooraf al grotendeels uitgeschreven wat in die fragmenten te horen is. Maar de medewerkers moeten nog eens goed luisteren om het fragment zo goed mogelijk te beschrijven. Is er een vrouwenstem of een mannenstem te horen of is het een kind? En wat wordt er gezegd? Iedere kuch en hoorbare komma wordt uitgeschreven. Door die input leert de zoekmachine voortdurend hoe ze in de toekomst beter kan reageren op commando’s.

Eén van onze onherkenbaar gemaakte bronnen legt uit hoe dit in zijn werk gaat. (Lees verder onder de video.)

De opnames die gemaakt zijn met een Google Home-luidspreker zijn meestal loepzuiver. Opnames die gemaakt werden met een smartphone, via de app, hebben gewone telefoonkwaliteit. Maar verder zijn de opnames onvervormd.

Dat onrechtstreekse medewerkers van Google naar zulke opnames kunnen luisteren, roept vragen op qua privacy. Dat weet Google natuurlijk ook. Om te voorkomen dat medewerkers meteen weten naar wie ze luisteren, worden de opnames in het systeem helemaal losgekoppeld van de gebruikersinformatie.

Zo wordt de gebruikersnaam weggehaald en vervangen door een anoniem volgnummer. Maar door te luisteren naar de dingen die de gebruikers zelf zeggen, is het geen rocket science om hun identiteit te achterhalen. Dat hebben we hierboven ook al aangetoond. 

Daarnaast moeten medewerkers die naar de fragmenten luisteren elk woord, elk adres, elke naam of bedrijfsnaam waarvan ze niet zeker zijn hoe die geschreven wordt, via Google of Facebook opzoeken om de correcte schrijfwijze te achterhalen. Op die manier komen ze vaak al snel te weten wie het bewuste stukje heeft ingesproken.

Van de ruim 1.000 opgenomen fragmenten die we bij VRT NWS te horen kregen, waren er 153 die onbewust werden opgenomen, zonder dat de gebruiker de opdracht had gegeven aan de Google Assistent. 

Hoe kan dit? De Google Home wordt normaal gezien pas geactiveerd als iemand “Ok Google” zegt. Maar als iemand in de buurt een woord uitspreekt dat nog maar op “Google” lijkt, begint de luidspreker vaak ook al op te nemen.  

Op die manier worden dus onbewust conversaties opgenomen: slaapkamergesprekken, gesprekken tussen ouders en hun kinderen, maar ook slaande ruzies en zakelijke telefoongesprekken met veel vertrouwelijke informatie.   

Het kan ook gebeuren dat conversaties onbewust worden opgenomen door een fout van de gebruiker zelf omdat die per ongeluk op een knop heeft geduwd of onbewust een commando geeft. 

Eén van onze drie bronnen zegt dat hij eens een opname moest verwerken waarop een vrouw te horen was die duidelijk in nood was. Wat moeten medewerkers in zo’n gevallen doen. Daar krijgen ze volgens onze bronnen helemaal geen richtlijnen over.  

Nochtans is dat toch een belangrijke ethische kwestie. De enige concrete richtlijnen die de medewerkers krijgen, gaan over betaalgegevens en wachtwoorden. Die moeten worden aangemerkt als gevoelige informatie. 

De professionele luisteraars vangen ook veel medische zoekopdrachten op, want wie raadpleegt bij een kwaaltje niet eerst even dokter Google? De opnames bevestigen ook de ijzeren wet van het internet: mannen blijken opvallend vaak op zoek te gaan naar porno, ook via een slimme luidspreker. 

“Dit is onwaarschijnlijk”, reageert cybersecurity-expert Bavo Van den Heuvel als we hem voorleggen wat we te zien en vooral te horen hebben gekregen. 

Van den Heuvel ziet meteen de mogelijke gevaren, omdat de opnames zowat overal gemaakt kunnen worden: ook in de praktijkruimte van een dokter zijn en bij andere mensen die met gevoelige dossiers, zoals de politie en het gerecht. (Lees verder onder de video.)

In een schriftelijke reactie op de onthullingen van VRT NWS erkent Google dat er inderdaad mensen naar opnames, luisteren. Tegelijk zegt het bedrijf dat er maar naar zo'n 0,2% van alle audiofragmenten wordt geluisterd.

Dit is het volledige antwoord van Google:

"We werken samen met taalexperts over de hele wereld om spraaktechnologie te verbeteren door transcripties te maken van een klein aantal audiofragmenten. Dit werk is van cruciaal belang voor de ontwikkeling van technologie die producten zoals de Google Assistent mogelijk maakt." 

"Taalexperts beoordelen slechts ongeveer 0,2% van alle audiofragmenten, die niet worden gekoppeld aan persoonlijk identificeerbare informatie. "

"We hebben recent vernomen dat een van deze taalexperts mogelijk ons gegevensbeveiligingsbeleid heeft geschonden door Nederlandstalige audiofragmenten te lekken. "

"We zijn dit actief aan het onderzoeken en wanneer we een inbreuk op ons beleid constateren, zullen we snel actie ondernemen, tot en met het beëindigen van onze overeenkomst met de partner." 

Nu is Google niet het enige bedrijf dat op deze manier werkt. In april bracht persagentschap Bloomberg al aan het licht dat de Amerikaanse internetgigant Amazon op dezelfde manier werkt, zoals VRT NWS nu ontdekt heeft bij Google. 

Bloomberg wist toen ook al dat Apple net als Google mensen inschakelt om zijn bekende Siri-zoekassistent te trainen. Hoe dit bij Apple precies in zijn werk gaat, weten we niet. De werkwijze van Google daarentegen is ons nu wel bekend.

Heeft u een Google Home-luidspreker en wil u vermijden dat het toestel ongewild opnames maakt die anderen kunnen beluisteren? Lees dan ook: Hoe voorkom je dat Google kan meeluisteren?

Heeft u naar aanleiding van dit artikel vragen over Google Home? Vul dan hieronder uw naam en uw vraag in.  Morgen, donderdag, zullen we deze vragen beantwoorden.

Bekijk hieronder het verslag uit "Het Journaal":

Bekijk hieronder het gesprek met Tim Verheyden uit "Het Journaal":