Waarom vertrouwen we nog steeds op Amazon? Hoe Big Tech Giants de samenleving niet beschermen

Amazon had misschien veel publieke aandacht verwacht toen het aankondigde waar het zijn nieuwe hoofdkantoor zou vestigen - maar zoals veel technologiebedrijven onlangs, had het waarschijnlijk niet verwacht hoe negatief de respons zou zijn. In de door Amazon gekozen territoria van New York en Virginia hebben lokale politici het niet eens met door de belastingbetaler gefinancierde enticements die aan het bedrijf waren beloofd. Journalisten uit het hele politieke spectrum poogden de deals - en sociale media vulden zich met de stemmen van New Yorkers en Virginians die weerstand boden.

Evenzo wijzen onthullingen dat Facebook antisemitische samenzweringstheorieën heeft gebruikt om de legitimiteit van haar critici te ondermijnen, erop dat Facebook in plaats van te veranderen, liever in het offensief zou gaan. Zelfs toen Amazon en Apple hun beurskoersen kort bovenaan $ 1 biljoen zagen, werden technologische leidinggevenden voor het Congres gesleept, worstelden ze om coherent te zijn tegen haatzaaiende spraak, werden betrapt op het verbergen van seksueel wangedrag en zagen hun eigen werknemers protesteren tegen zakelijke deals.

In sommige kringen wordt dit gezien als een verlies van vertrouwen van het publiek in de technologiebedrijven die beloofden de wereld opnieuw te maken - sociaal, ecologisch en politiek - of op zijn minst even frustrerend over de manier waarop deze bedrijven de wereld hebben veranderd. Maar de technologiebedrijven moeten veel meer doen dan het vertrouwen van het publiek terugwinnen; ze moeten bewijzen dat ze het in de eerste plaats verdienden - wat ze, wanneer geplaatst in de context van de geschiedenis van technologiekritiek en scepticisme, niet deden.

Weg van de problemen

Grote technologiebedrijven kozen hun projecten in vaag utopisch, positief klinkend jargon dat de politiek en het overheidsbeleid versluiert, de partijdigheid overstijgt en - gemakkelijk - controle ontwijkt. Google herinnerde zijn werknemers eraan: "Doe niet slecht." Facebook werkte eraan om "de wereld meer open en verbonden te maken." Wie kan bezwaar maken tegen die idealen?

Geleerden waarschuwden voor de gevaren van platforms zoals deze, lang voordat veel van hun oprichters zelfs werden geboren. In 1970 voorspelde sociaal criticus en historicus van de technologie Lewis Mumford dat het doel van wat hij 'computerdom' noemde, zou zijn 'een eindeloze hoeveelheid gegevens in te leveren en te verwerken, om de rol uit te breiden en de overheersing van het machtssysteem te waarborgen. "Datzelfde jaar waarschuwde een baanbrekend essay van de feministische denker Jo Freeman voor de inherente machtsonevenwichtigheden die bleven in systemen die iedereen gelijk leken te maken.

Op dezelfde manier voorspelde de computerwetenschapper Joseph Weizenbaum in 1976 dat de mensen in de komende decennia in een staat van nood zouden verkeren omdat ze steeds meer afhankelijk werden van ondoorzichtige technische systemen. Sindsdien zijn talloze soortgelijke waarschuwingen uitgegeven, waaronder belangrijke recente studiebeurzen zoals informatie-geleerde Safiya Noble's onderzoek naar hoe Google-zoekopdrachten raciale en gendervooroordelen repliceren en de verklaring van Siva Vaidhyanthan van de mediawetenschapper dat "het probleem met Facebook Facebook is".

De technologiebedrijven zijn krachtig en welvarend, maar hun tijd van het vermijden van controle loopt misschien ten einde. Het Amerikaanse publiek lijkt te beginnen te vermoeden dat de technologische giganten onvoorbereid waren, en misschien niet bereid, verantwoordelijkheid te nemen voor de tools die ze de wereld lieten ontketenen.

In de nasleep van de Amerikaanse presidentsverkiezingen van 2016 blijft de bezorgdheid groot dat Russische en andere buitenlandse regeringen elk beschikbaar platform voor sociale media gebruiken om onenigheid en ontevredenheid te zaaien in samenlevingen overal ter wereld.

Facebook heeft de problemen op het gebied van gegevensprivacy en transparantie die het Cambridge Analytica-schandaal veroorzaakten, nog steeds niet opgelost. Twitter is de favoriete megafoon voor president Donald Trump en thuis voor verontrustende hoeveelheden gewelddadige haatuitingen. De toekomst van de hoofdkantoren van Amazon is aan het veranderen als een veelzijdige vechtpartij tussen gekozen functionarissen en de mensen die zij zogenaamd vertegenwoordigen.

Is het onwetendheid of naïviteit?

Gezien de huidige situatie met de geschiedenis van kritiek op technologie in het achterhoofd, is het moeilijk om niet te concluderen dat de technologiebedrijven de crises verdienen waarmee ze worden geconfronteerd. Deze bedrijven vragen mensen om hun e-mails, persoonlijke gegevens, online zoekgeschiedenis en financiële informatie toe te vertrouwen, tot het punt waarop veel van deze bedrijven trotseren dat ze mensen beter kennen dan zij zichzelf kennen. Ze promoten hun nieuwste systemen, waaronder 'slimme luidsprekers' en 'slimme camera's', om ervoor te zorgen dat gebruikers elk wakker moment - en ook slaapmomenten - kunnen worden gemonitord, waardoor meer gegevens in hun geldberekeningsalgoritmen kunnen worden ingevoerd.

Maar schijnbaar onvermijdelijk laten deze bedrijven zien hoe onwaardig vertrouwen ze eigenlijk zijn, lekken ze data, delen ze persoonlijke informatie en voorkomen ze het hacken, terwijl ze langzaam de wereld vullen met een verontrustende techno-paranoia die een aflevering van "Black Mirror" waardig is.”

De antwoorden van technologiefirma's op elke nieuwe openbaring passen in een standaardpatroon: nadat een schandaal is ontstaan, drukt het betrokken bedrijf alarm dat er iets mis is gegaan, belooft het te onderzoeken en belooft het in de toekomst beter te doen. Enige tijd - dagen, weken of zelfs maanden - later onthult het bedrijf dat het schandaal een direct gevolg was van hoe het systeem was ontworpen, en een verontwaardigde manager uitdaagde om verontwaardiging uit te spreken over de destructieve gebruiken van slechte mensen die voor hun systeem werden gevonden, zonder toe te geven dat het probleem het systeem zelf is.

Zuckerberg zelf vertelde de Amerikaanse Senaat in april 2018 dat het Cambridge Analytica-schandaal hem had geleerd "we hebben de verantwoordelijkheid niet alleen mensen tools te geven, maar ook om ervoor te zorgen dat die hulpmiddelen voorgoed worden gebruikt." Dat is een vrij fundamentele les die je hebt gemist op tijdens het creëren van een bedrijf met miljarden dollars.

Herbouwen van wat er nog over is

Het gebruik van technologie - van een mes tot een computer - brengt risico's met zich mee, maar naarmate technologische systemen in omvang en complexiteit toenemen, neemt ook de omvang van deze risico's vaak toe. Een technologie is alleen nuttig als mensen deze veilig kunnen gebruiken, op manieren waarop de voordelen opwegen tegen de gevaren, en als ze er zeker van kunnen zijn dat ze de potentiële risico's begrijpen en accepteren. Een paar jaar geleden zijn Facebook, Twitter en Google mogelijk voor de meeste mensen als goedaardige communicatiemethoden gebleken die de samenleving meer hebben gebracht dan ze hebben weggenomen. Maar bij elk nieuw schandaal en een onaangename reactie zien steeds meer mensen dat deze bedrijven serieuze gevaren voor de samenleving vormen.

Hoe verleidelijk het ook is om naar de "uit" -knop te wijzen, er is geen eenvoudige oplossing. Technologiegiganten hebben zich voor honderden miljoenen mensen tot het weefsel van het dagelijks leven gemaakt. Het suggereren dat mensen gewoon stoppen, is eenvoudig, maar faalt in het herkennen van hoe betrouwbaar veel mensen zijn geworden op deze platforms - en hoe vastzitten ze zich in een steeds ondraaglijker situatie kunnen voelen.

Dientengevolge kopen mensen boeken over hoe slecht Amazon is - door ze te bestellen op Amazon. Ze voeren Google-zoekopdrachten uit naar artikelen over hoeveel informatie Google weet over elke individuele gebruiker. Ze twitteren over hoeveel ze Twitter haten en posten op Facebook-artikelen over het laatste schandaal van Facebook.

De technologiebedrijven kunnen zich uitspreken over een steeds meer verergerd gebruikersbestand, omdat hun platforms de ontevredenheid verder en breder verspreiden dan mogelijk in het verleden. Of ze kunnen ervoor kiezen om zichzelf drastisch te veranderen, zichzelf te verbreken, sommige controles te veranderen in democratische beslissingen van hun gebruikers en verantwoordelijkheid te nemen voor de schade die hun platforms en producten de wereld hebben aangedaan. Tot nu toe lijkt het er echter op dat de industrie niet verder is gegaan dan het bieden van halfbakken excuses terwijl het gewoon door blijft gaan met het zakendoen. Hopelijk zal dat veranderen. Maar als het verleden een leidraad is, zal het waarschijnlijk niet gebeuren.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation door Zachary Loeb. Lees hier het originele artikel.