On Designing User-Friendly Robots: Angelica Lim at TEDxKyoto 2012
Robots worden steeds centraler in ons dagelijks leven, en binnenkort zullen ze een begin moeten maken met het confronteren van enkele van de moeilijke morele keuzes die we regelmatig moeten maken. Matthias Scheutz, professor computerwetenschappen aan het laboratorium voor interactie tussen mens en robotica van de Tufts University, maakt zich vooral zorgen dat we zelfs onze meest geavanceerde prototype-robots niet hebben uitgerust met de capaciteiten om met sommige van deze situaties om te gaan. Scheutz gelooft dat robots zullen moeten leren mensen ongehoorzaam te zijn als we ooit willen dat ze echt in onze behoeften voorzien.
In een commentaar stuk op Vandaag online, met een provocerende titel: "Robots moeten ongehoorzaam zijn om te gehoorzamen", vraagt Scheutz de lezer om te bepalen wat een robot moet doen als hij geconfronteerd wordt met een reeks situaties die zelfs voor een mens verwarrend kunnen zijn. Sommigen van hen:
Een oudere zorgrobot die door een vergeetachtige eigenaar wordt belast met het wassen van de 'vuile kleren', ook al zijn de kleren net uit de wasmachine gekomen.
Een student leidt haar robotleraar om al het huiswerk te doen, in plaats van het zelf te doen.
Een huishoudrobot die door zijn bezige en verwarde eigenaar wordt opgedragen om de vuilophaal uit te voeren, ook al zitten er lepels en messen in.
Wat Scheutz in het artikel wil beschrijven, is het simpele feit dat we robots nodig hebben die 'nee' tegen mensen kunnen zeggen. Veel van zijn voorbeelden hebben te maken met de betrouwbaarheid van de persoon die de robot aanstuurt, maar het is moeilijker dan het lijkt om een robot te programmeren die instructies weet van iedereen die niet te jong of te oud is of die duidelijk probeert problemen te veroorzaken.
Sommige van deze kwesties worden al fel bediscussieerd in het hoofdkantoor van 's werelds krachtigste technologiebedrijven, omdat ze op zoek zijn naar nieuwe manieren waarop technologie een deel van ons leven kan overnemen. Scheutz werpt het voorbeeld op van een autonome auto die is bedoeld om een back-up te maken, maar ziet een hond die op zijn weg ligt. De meesten van ons zijn het erover eens dat zelfs de mens die met de auto rijdt zou willen dat de auto stopt, maar wat als het dier een eekhoorn of een wasbeer was? Wat als de auto 45 km / u over een landweg reed en plotseling remde voor een hond riskeerde om de auto bloot te stellen aan een botsing met een ander voertuig erachter?
"In beide gevallen is het voor beide autonome machines van essentieel belang om de potentiële schade te detecteren die hun acties kunnen veroorzaken en erop te reageren door te proberen het te voorkomen, of om schade niet te voorkomen, door te weigeren de menselijke instructie uit te voeren," Scheutz schrijft over een soortgelijk dilemma.
Het team van Scheutz heeft met zijn prototypen aan deze kwesties gewerkt en ondervond dat het moeilijkste deel van deze vragen de kleine mate van schade onderscheidt die kan optreden wanneer een robot een bepaalde volgorde volgt. Dus gaven ze hun robot een heel eenvoudige maar krachtige morele les die zelfs de grote filosofen te schande zou maken.
"Als u wordt gevraagd om een actie uit te voeren en het is mogelijk dat het uitvoeren van de actie schade zou kunnen veroorzaken, dan mag u het niet uitvoeren."
Op een subtiele manier is dat een revolutionaire prognose van Scheutz. Natuurlijk proberen we allemaal schade te voorkomen, maar is het niet mogelijk dat we soms denken dat het goed is om risico's te nemen? Jaywalking op straat, een tweede portie dessert eten, of zelfs de aantekeningen van een vriend uit de klas kopiëren, zou Scheutz's axioma kunnen schenden.
Het idee van robotinterferentie suggereert ook dat Scheutz wil dat zijn robots de wet volgen. Verwacht niet dat je Scheutzian-robotassistent je helpt om nieuwe muziek illegaal te downloaden. Dat zou de aandeelhouders van EMI schade toebrengen!
Het is een gecompliceerd gebied van morele, juridische en technische gedachten, en Scheutz schrikt het niet af om het aanvallend aan te vallen.
Gifbeheersing roept op tot Kratom Rose Scherp, maar de kanttekeningen zijn cruciaal
In een poging om de lacunes in het wetenschappelijke inzicht in te vullen, werd in een nieuw onderzoek in het tijdschrift 'Clinical Toxicology' gekeken naar gevallen van kratomblootstellingen in de Verenigde Staten. Het leverde enkele verrassende resultaten op, wat suggereert dat kratom meer lijkt op tramadol dan morfine.
Voorkom de robot-apocalyps door deze A.I. Vraag van de moraal
Panelleden op het World Science Festival bespraken robotmoraal.
Mark Zuckerberg roept op tot "Wereldwijde gemeenschap" in zijn eerste Facebook Live Chat
Mark Zuckerberg gelooft dat we ons op een veranderend punt in de menselijke beschaving bevinden en dat iedereen moet samenkomen in een wereldwijde gemeenschap. De noodzakelijke tool? Technologie. "We hebben de volgende set tools die we nodig hebben", zei Zuckerberg in zijn eerste Facebook Live Q & A vandaag. "Dingen zoals internet dat dit glob kan zijn ...