Een mens nam het stuurwiel van een computer en crashte de auto. Wat nu?

Toen een computer de controle over een Nissan Leaf aan een mens overhandigde, haperde de levende bestuurder en verpletterde de Leaf in een onbezette Prius, meldt de Wall Street Journal. Het rapport van het ongeval op 8 januari, dat plaatsvond in San Francisco, is licht over de details van waarom de fenders zich bogen. Maar de WSJ werpt het schrikbeeld op van het idee dat de overdracht - die ongemakkelijke ruimte waar voor een paar seconden wie kan zeggen, echt, als mens of machine het lot van de auto bepaalt - zou hebben bijgedragen aan de botsing.

Als dit het geval is, wordt hiermee een kernprobleem belicht van systemen die schakelen tussen automatische piloot en menselijke begeleiding. Google-technici, die zich ervan bewust zijn dat het meest beladen moment van een estafette het stokje is, hebben geprobeerd het probleem te omzeilen door naar een volwaardige computer te gaan (behalve een paniekknop die kan worden ingezet in tijden van grote bezorgdheid). Maar de technologie die volledig autonome auto's mogelijk maakt, zal de ideeën die we hebben over menselijke aansprakelijkheid en verkeersregels waarschijnlijk overtreffen. Zullen we in de tussentijd meer botsingen zien wanneer stuurautomaten hun bestuurders verlaten en mensen en / of Jezus dwingen het stuur te nemen?

Eén antwoord op die vraag is het herkennen van een derde pad: in plaats van volledige autonomie of een binair systeem van vlees en bloed, creëert het een dynamiek waarbij de besturing in een bepaald scenario van of naar de bestuurder stroomt. Het is wat David Mindell van het Massachusetts Institute of Technology een 'perfecte 5' noemt.

Als je je kunt voorstellen dat een computergestuurde auto kan variëren van 0 (je Model Ts, zeg) tot 10 (alle autonomie, baby, de hele tijd), dan staat de perfecte 5 zijn vlag precies in het midden. Wat het systeem "perfect" maakt, is dat het niet inflexibel is. Het is niet eens half mens, half niet. Het is dat de bestuurder de controle neemt of ophoudt terwijl de verkeersomstandigheden dit toelaten. Je zou kunnen denken, hypothetisch, dat dit eruit zou kunnen zien als dat je de computer je door een donkere woestijnweg laat leiden, zodat je je kunt concentreren op de koele wind in je haar, maar je zou dicteren waar je wilde dat de auto parkeerde toen je de hotel.

Hoe ziet een perfecte 5 overdracht eruit? Iets dat geen schakelaar is, maar een wijzerplaat. Misschien werkt de dienst op zo'n manier dat de mens denkt dat hij de eerste momenten de touwtjes in handen heeft, maar net als een knop voor het sluiten van een lift, die er eigenlijk alleen is om je reptielenhersenen te sussen. De computer kon de remmen aanpassen met de zachte aanraking van een algoritmische rij-instructeur, grijnzende neerbuigende optie.