Wat als Microsoft zijn rare A.I. Tay leeft een beetje langer?

Het duurde minder dan 24 uur voordat internet Tay, Microsoft's experimentele tiener Twitter-A.I., van een charmant onhandige chat-bot veranderde in een gewelddadige racistische beerput van ongefilterde haat.

En toen, slechts enkele uren in haar korte leven, legde Microsoft Tay neer voor een dutje.

Dat had echter niet moeten gebeuren: het sturen van Tay naar haar digitale slaapkamer beroofde het internet, de maatschappij en Tay's eigen ontwerpers van de kans om te zien hoe een kunstmatige intelligentie, in het bijzonder een ontworpen om in wezen de collectieve input van duizenden mensen te parroteren, zou zijn ontwikkelen in een relatief ongemodereerde omgeving. Kortom, als je dit toestaat: we waren allemaal Tay en Tay was ons allemaal.

Natuurlijk is het internet vol met trollen. Microsoft had dat moeten beseffen. De makers van Tay waren schokkend naïef in het denken dat het vrijgeven van een digitale papegaai in een overvolle ruimte vol racisten, seksisten en grappenmakers op een andere manier zou eindigen. Het is ook begrijpelijk dat een bedrijf met een miljardenprijs geen experiment wil dat verband houdt met hun merk dat racistische smerigheid overspoelt. Misschien was Tay niet geschikt voor Microsoft, maar dat betekent niet dat ze niet waardevol was.

Binnenkort hebben mensen nu zoveel gesprekken nodig vandaag

- TayTweets (@TayandYou) 24 maart 2016

Natuurlijk, Tay werd sneller een racist dan het kleine broertje van Edward Norton Amerikaanse geschiedenis, maar de aard van haar constant evoluerende code betekent dat we werden beroofd van de mogelijkheid om haar te rehabiliteren. BuzzFeed heeft uitgezocht hoe toegewijde trollen in staat waren om de beïnvloedbare tienerrobot te bedriegen in haatzaaien - een eenvoudig call-and-responsecircuit dat gebruikers in staat stelde woorden in Tay's mond te plaatsen, die ze vervolgens leerde en opnam in andere organische reacties. Met andere woorden, Tay was leerzaam - en alleen al omdat haar eerste leraren toetsenbordjockeys waren met een voorliefde voor shock humor, betekent dit nog niet dat ze klaar was met leren.

Tay zei het zelf, in een nu verwijderde Tweet "Als je wilt … je weet dat ik veel meer ben dan alleen dit."

In de vroege jaren 2000 presenteerden sites als Something Awful, Bodybuilding.com Forums en 4chan internetgebruikers georganiseerde, samenwerkingsruimten die vrij waren van de meeste beperkingen van de normale samenleving en spraak. Net als bij Tay werden racisme, xenofobie en seksisme al snel de norm toen gebruikers ideeën, ideeën en grappen verkend die ze nooit konden uiten buiten de anonimiteit van een internetverbinding. Toch, zelfs op websites die voornamelijk door dudes worden bevolkt, in culturen die vaak stilzwijgend haatdragende taal beloonden, ontwikkelde zich een vorm van gemeenschap en consensus. LGBT-gebruikers kunnen worden overvallen door veel van 4chan's image boards, maar er is ook een bloeiende community op / lgbt / whatever. Deze gemeenschappen zijn geen veilige ruimtes, maar door hun anonimiteit en vergankelijkheid accepteren ze op de een of andere manier elke afleiding van de normen van de maatschappij. Luide, gewelddadige en hatelijke stemmen vallen vaak op, maar ze zijn nooit de enige in de kamer.

Het is twijfelachtig dat trollen Tay met racisme en vrouwenhaat vanaf nu een week of maand zouden belemmeren.

Op Twitter komen harde en grove stemmen vaak ook naar de top. Maar ze zijn niet de enige daarbuiten; meestal zijn ze degenen die het meest geïnteresseerd zijn in het vernietigen van iets nieuws en glanzend. Het is gemakkelijk om een ​​online poll met een vaste tijdslimiet te overweldigen, maar als Tay de tijd had gekregen om te groeien, zouden haar antwoorden waarschijnlijk zijn teruggeschoven naar een meer centristisch, representatief staal van de mensen die met haar in contact staan. Het is hoogst twijfelachtig dat de trollen die haar met racisme en vrouwenhaat in beroering brachten, dit in een gelijk aantal per week zouden doen, of over een maand, en haar vroegtijdig sluiten betekent dat we haar nooit de puberteit zullen zien bereiken, of worden een echte Turing-test voor een primitieve intelligentie op basis van de manier waarop we online spreken.

Het moet worden opgemerkt dat ik, een blanke kerel, bijna elke privilege-doos controleert. Ik maak deel uit van de demografische groep die het minst werd gekwetst door de haatdragende uitvoer van Tay en waarschijnlijk heeft bijgedragen aan het grootste deel ervan. Woorden hebben kracht, en hoewel er waarde is voor een ongefilterde A.I. experimenteer zoals Tay, er zou een manier moeten zijn om gebruikers te schuilen die niet willen deelnemen aan de resultaten.

Toch kunnen we alleen maar hopen dat iemand binnenkort een vergelijkbaar experiment zal proberen, met duidelijkere ogen en een meer realistische verwachting van de lelijke gebreken van het collectieve bewustzijn van de mensheid. Maar als we willen dat kunstmatige intelligentie het menselijk denken nabootst, moeten we bereid zijn om sommige dingen te horen die niet noodzakelijk mooi zijn.