De dodelijkste robots op de planeet en waarom je nog niet bang hoeft te zijn

Stephen Hawking, Elon Musk en duizenden andere zeer intelligente vrouwen en mannen uiten in een open brief over autonome wapens onlangs hun zorgen over moordende robots. Wat hun hackles zo hebben opgeworpen, is geen kwaadaardige AI, zoals de Terminator-stijl, het zijn drones die geprogrammeerd zijn om doelen te vernietigen zonder menselijke inbreng. Het zijn serieuze zaken die een tweede blik waard zijn, maar ook context waardig. De waarheid is dat robots nooit echt zo goed zijn in het doden van mensen. Zelfs in onze geautomatiseerde leeftijd zijn de dodelijkste machines eigenlijk gewoon ongevalsgevoelig.

Een paar kanttekeningen: Dit zijn ruwe cijfers, geen risico's. Dat geautomatiseerde processen echt veiliger zijn dan het alternatief, wordt fel bestreden. Elk ongeval met een auto zonder bestuurder tot dusver (en er zijn nog geen doden gevallen) is de schuld van de mens gebleken. Echt automatische auto's zouden volgens de meeste schattingen crashes moeten verminderen. In de huidige medische arena is de rol van bots echter niet zo scherp en droog. Robot-geassisteerde chirurgie maakt operaties veiliger, beweren de voorstanders, bijvoorbeeld door de trilling in menselijke handen weg te filteren. Een paar chirurgen zijn koeler over de technologie, wat wijst op hogere kosten en een iets hogere kans op complicaties (een toename van 6 procent tot 7 procent van de gevallen voor verwijdering van ovariumcyste, een evaluatie uit 2014). Dat brengt ons naar:

Nummer één: medische robots:

144 in 14 jaar

Een recente studie in het tijdschrift arXiv.org, waarin 14 jaar gegevens uit FDA-incidentmeldingen werden beoordeeld, 144 doden, meer dan duizend gewonden en meer dan 8.000 storingen werden aangetroffen. De meeste rapporten waren volgens de auteurs het gevolg van brandende of gebroken stukken die op patiënten vielen, elektrische problemen of onbedoelde operaties die de robotapparatuur misbruikten.

Nummer twee: Factory Robots

33 in 30 jaar

Een Michigan-man met de naam Robert Williams had het ongelukkige onderscheid dat hij de eerste persoon was die door een robot werd gedood toen hij in 1979 werd vermorzeld bij een Ford Motor-fabriek. In de drie decennia sindsdien zijn industriële robotsterfgevallen zeldzaam geweest - in de VS, slechts 33 tussen 1984 en 2014 - maar zoals het ongeval bij een Volkswagen-fabriek eerder in juli aantoont, zijn ze niet opgeheven. De toekomst ziet er volgens de Britse roboticist Alan Winfield minder dodelijk uit, nu we robots gaan ontwikkelen die niet alleen veiliger, maar ook ethisch zijn: dat wil zeggen, wees voorzichtig wanneer mensen zichzelf in gevaar brengen.

Nummer drie problemen met militaire autocannons

9 sterfgevallen in 2007

Tijdens een live-oefening wordt verondersteld dat de software die een luchtafweerkanon van de Zuidafrikaanse Defensiekracht beheert defect is, waarbij de 35mm-kanonnen worden gelost en negen mensen worden gedood. Het is echter ook mogelijk dat de storing mechanisch was in plaats van digitaal, zoals de Nieuwe wetenschapper gewezen. Hoe dan ook, dergelijke incidenten zijn ongelooflijk zeldzaam, ondanks wat je in videogames zou kunnen tegenkomen.

Nummer vier: één Zuid-Koreaanse drone

1 overlijden in 2012

De dodelijke olifanten in de kamer zijn natuurlijk Amerikaanse militaire drones, die meer dan 400 stakingen hebben uitgevoerd in Pakistan. (Exacte statistieken van geheime CIA-aanvallen zijn, zoals je zou verwachten, moeilijk te verkrijgen.) In tegenstelling tot de robotarmen in fabrieken, zijn deze drones niet echt autonoom en moet iemand op een militaire basis op afstand de trekker overhalen. In een van de weinige voorbeelden van een autonome commerciële drone die de dood veroorzaakte, zorgde een verlies van GPS ervoor dat een Zuid-Koreaans apparaat tegen een vrachtwagen botste en daarbij de 50-jarige luchtvaartingenieur doodde.