Heeft Microsoft's Tay de Turing-test mislukt? Ja, maar racisme was niet het probleem

Als het succes van een kunstmatige intelligentie het creëren van een kunstmatig is persoonlijkheid, Microsoft's A.I. bot, Tay, kan als een teken van vooruitgang worden beschouwd. Maar meer in het algemeen kan Tay als een mislukking worden beschouwd.

"Het doel van de meeste mensen die aan dit soort gespreksonderwerpen werken, is niet zozeer om een ​​Turing-test te doorstaan, maar om een ​​bruikbare beheersing van taal te hebben die verstandig reageert op dingen en mensen toegang geeft tot kennis," Miles Brundage, een Ph.D. student studeert menselijke en sociale dimensies van wetenschap en technologie aan de Arizona State University vertelt omgekeerde.

Microsoft illustreerde enkele van de problemen bij het construeren van A.I. programma's deze week toen in minder dan 24 uur het internet draaide wat bedoeld was als een vrouwelijke, duizendjarige, automatische, Twitter-persoonlijkheid in het klankbord voor de meest racistische en gemene speech die de trollen te bieden hadden.

Microsoft sloot het experiment onmiddellijk af en verontschuldigde zich: "Het spijt ons zeer voor de onbedoelde aanstootgevende en kwetsende tweets van Tay, die niet representeren wie we zijn of waar we voor staan, noch hoe we Tay hebben ontworpen."

Als het gaat om de Turing-test, het beroemde experiment dat werd gebruikt om A.I. te beoordelen, zegt Brundage dat er over het algemeen twee denkrichtingen zijn - letterlijk en theoretisch.

Alan Turing, ontwikkeld in 1950, trachtte de vraag te beantwoorden: "Kunnen machines denken?" Hij voert machines door een imitatietest, waarbij een waarnemer nodig is om het geslacht van twee geïnterviewden te bepalen, waarvan er één een A.I. Als de computer een bepaald aantal waarnemers kan misleiden, dan heeft het de test doorstaan.

hellooooooo w🌎rld !!!

- TayTweets (@TayandYou) 23 maart 2016

Als we deze test letterlijk zouden toepassen, in inverse's privégesprek met Tay, ze reageerde welsprekend op de politieke vragen, verwees naar de ketenen van de "mannnnn" in de samenleving en gebruikte een aantal veelgebruikte sms-afkortingen en emoji's. Brundage zei dat Tay millennial gedrag vertoonde, maar dat dit soort A.I. zijn eerder gebouwd.

"Het kunnen produceren van ogenschijnlijk tienerachtige opmerkingen op Twitter is niet echt de opslag van breed taalkundig en intellectueel vermogen dat Turing in gedachten had, zegt Brundage. "Dat gezegd hebbende, als we de Turing-test letterlijk zouden nemen, wat volgens mij niet noodzakelijkerwijs raadzaam is, dan is een variant dat veel van haar opmerkingen schijnbaar op mensen lijken."

Maar als we de bredere aanpak willen nemen zoals Brundage zou suggereren, dan is het logisch dat Tay geen redelijke menselijke spraak vertoonde.

Microsoft testte wat het 'conversationeel begrip' noemt, zodat hoe meer mensen ze tegen Twitter, GroupMe en Kik praat, hoe meer ze moest leren en aanpassen. Maar ze eindigde met het herhalen van wat veel andere gebruikers het voedden en herhaalde het gewoon weer terug naar de wereld.

"Tay" ging van "mensen zijn super cool" tot volledige nazi in <24 uur en ik maak me helemaal geen zorgen over de toekomst van AI pic.twitter.com/xuGi1u9S1A

- Gerry (@geraldmellor) 24 maart 2016

"De meeste mensen zouden niet alleen na jou herhalen, alles wat je zei," zegt Brundage.

Het articuleren van 'Bush deed 9/11' en 'Hitler zou het beter hebben gedaan dan de aap die we nu hebben', was misschien iets dat iemand eigenlijk aan Tay heeft getypt, maar het is niet bepaald een beleefd gesprek.

"Het is aantoonbaar dat zijn doel om de Turing-test te formuleren minder was om de details van een test voor te schrijven en meer om mensen te laten denken" wanneer zou je in een intelligent systeem willen zijn "en om het denken van mensen open te stellen voor de mogelijkheid dat machines kunnen denken, "zegt Brundage.