Dit is wat er gebeurt wanneer Donald Trump kunstmatige intelligentie ontmoet

Bradley Hayes, een postdoctoraal medewerker bij MIT die onderzoek doet naar robotica, veranderde Donald "Drumpf" Trump in een robot. Hij programmeerde een terugkerend neuraal netwerk - een kunstmatige intelligentie - om de toespraken van de republikeinse kandidaat te bestuderen en na te streven.

Hayes "dagtaak", zegt hij, is "onderzoek gericht op mens-robot-samenwerking: het ontwerpen van algoritmen die robots laten samenwerken met en leren van mensen, zodat mensen veiliger, efficiënter en effectiever in hun werk kunnen zijn." @DeepDrumpf is een "zijproject". Hij putte deels de inspiratie uit de "fantastische schets" van John Oliver. ("Hopelijk zal hij dit zien - hopelijk zal hij dit zien en het op prijs stellen.")

omgekeerde sprak met Hayes over deze patriottische onderneming.

Wat heeft je nog meer geïnspireerd om @DeepDrumpf te maken?

Het kwam tot stand tijdens een lunchgesprek met een aantal collega's van mij die ook roboticaonderzoek doen en omgaan met machine learning. We hadden het over enkele verschillende statistische modelleertechnieken die eigenlijk relevant waren voor ons onderzoek.Het blijkt dat dezelfde techniek achter DeepDrumpf in veel robotica-domeinen werkt, omdat het een modelleringstechniek is die probeert de structuur van opeenvolgende informatie of opeenvolgende gegevens te leren. Natuurlijke taal is een goed voorbeeld van sequentiële gegevens, waarbij de structuur van de zin redelijk consistent is: er zijn regels en er is een onderliggende structuur voor alle gegevens die u krijgt.

Erf 100 miljoen? En nu ben ik aan het bouwen over de hele wereld. En ik ben een beetje cool.

- DeepDrumpf (@DeepDrumpf) 4 maart, 2016

Een andere onderzoeker bij Stanford schreef een cursus over neurale netwerken en publiceerde in het bijzonder een artikel met de titel "De onredelijke effectiviteit van terugkerende neurale netwerken." Dus schreef hij deze fantastische inleiding tot deze statistische modelleringstechniek en een stel mensen hebben laten zien dat het deze onredelijke macht heeft om structuur te vertegenwoordigen in dit soort vrije-tekstgegevens.

Ik zag een artikel waarin de spraakcomplexiteit van de verschillende politieke koplopers werd vergeleken. In het artikel stond te lezen hoe Trump meer simplistische taal gebruikt, en het is een enorme hit met zijn demografische stemming en zijn fans. Vanuit een politiek perspectief, dat is echt geweldig, omdat het je boodschap duidelijk maakt en binnen het bereik van een zo breed mogelijk publiek; vanuit een machine-learning standpunt, betekent dit dat dit misschien wel het meest traceerbare model is dat we kunnen maken.

Had je ooit gehoord van een codeertaal met de naam "Make Python Great Again"?

Weet je, ik zag het gisteren. TrumpPython of zoiets? Ik heb dat wel gezien. Ik heb er een artikel over gelezen, ik ging naar hun GitHub-pagina, maar ik heb nog geen tijd gehad om ermee te spelen. Maar het ziet er geweldig uit.

Kunnen we iets te weten komen over de taalkundige neigingen van Trump, of iets dergelijks, vanuit uw A.I.?

Ja, het is mogelijk in die zin dat het, als je kijkt naar de uitvoer van het model, indicatief is voor de structuur die het model heeft geleerd van de gegevens. Dus het soort herhaling, het soort dingen dat uit het model komt, zal je - mogelijk - vertellen over bepaalde dingen die inherent zijn aan zijn spreekpatronen en zijn boodschap.

Kansas Ze zeiden allemaal: "Ik heb niets nodig. Ze hadden een vreselijk land en hebben de speciale infrastructuur, ons land heeft een rijk nodig.

- DeepDrumpf (@DeepDrumpf) 4 maart, 2016

Je zou dat niet per se van het Twitter-account zelf kunnen halen, vooral omdat Twitter je slechts 140 tekens geeft om mee te werken. En omdat er niet heel veel gegevens in het model zijn opgenomen, en ook omdat de transcripties afkomstig zijn uit debatten - waarbij de kandidaten (en vooral Trump) de neiging hebben om zichzelf te onderbreken - zorgt dit voor deze discontinuïteiten in de uitvoer.

Er is nog steeds een klein beetje handmatig werk nodig om in feite een tekstmuur uit dit model te samplen en er vervolgens doorheen te gaan en de beste opeenvolgende 140-karakter nugget te kiezen en die vervolgens te plaatsen.

Dit is het. Onze president is Obamacare. nu, in dit is wat het niet is. Dank u zeer. We zijn geen cheerleader, we zijn interessant

- DeepDrumpf (@DeepDrumpf) 4 maart, 2016

Dus het is op dit moment niet erg handig?

Het leert effectief als kansverdeling, en je kunt er uit proeven. Wat dat betekent is - je hebt je model en je kunt het om een ​​brief vragen. En als je het genoeg letters op een rij vraagt, krijg je dingen die op Engels lijken. Of, beter nog, sommige lijken op dingen die Trump misschien wel heeft gezegd - omdat het op hem is getraind. Het algemene proces dat ik heb gevolgd, is dus: ik zou er bijvoorbeeld 500 of 1.000 tekens uitproberen. Het zou me gewoon een tekstmuur geven met 500 of 1.000 karakters, denk ik, ramblings, en dan, van binnenuit, kies ik gewoon het beste blok van 140 tekens dat logisch is. Of de beste zin die eruit komt die relevant lijkt.

Gisteravond gebruikte ik het bijvoorbeeld om het debat live te tweeten. En dus, een van de dingen die je met een model als dit kunt doen, is dat je het kunt gebruiken. Omdat het model je dus maar één karakter per keer geeft, is het afhankelijk van de personages die ervoor staan ​​- de letters die eerder zijn uitgevoerd. Dat is hoe het woorden leert, zo vat het de zinsstructuur en bepaalde elementen van de grammatica in.

Stel dat ik mijn zin begin met 'Romney is' en vraag het dan om de volgende duizend tekens. We noemen dat priming. Het geeft elke uitvoer die het wil, maar het zal het eerste deel van de reeks instellen op 'Romney is …'

Verwijst dat naar die tweets met haakjes?

Precies goed.

Romney is een hulpmiddel. Ik wil je dit vertellen. Ze zijn waarschijnlijk het laatste dat we nodig hebben bij een leider. Dat kunnen we niet doen.

- DeepDrumpf (@DeepDrumpf) 3 maart 2016

Een van de dingen die ik hoop te doen, als het proces een beetje schoner is - en dat komt gewoon met meer gegevens - is om het te laten communiceren met de andere kandidaten. Als je naar het Twitter-account kijkt, volgt het de andere primaire kandidaten. Uiteindelijk zal het hopelijk beginnen met reageren en misschien uitdagen. Maar dat is meer een soort weekendproject.

@realDonaldTrump Ze betalen nu en absoluut. Ik ben echt rijk. Oh ik wil ze ondersteunen en hebben.

- DeepDrumpf (@DeepDrumpf) 3 maart 2016

Kun je uitleggen wat een terugkerend neuraal netwerk is in een simplistische, ongespecialiseerde taal?

Zeker, we zullen het proberen. Een neuraal net neemt over het algemeen wat invoer op, dan doet het wat wiskunde in het midden, en het geeft je een uitvoer. Over het algemeen is het gewoon een classifier. Dus, gegeven wat invoer, zal het je vertellen met welke klasse die invoer correspondeert. Een populair voorbeeld zou zijn - een basis neuraal net - je geeft het een foto van een kat, en je wilt dat het je vertelt dat - als het een kat, een hond, een vliegtuig of een auto is - je wilt het om te zeggen dat "Oké - met een hoog zelfvertrouwen - dit is een kat die je me net hebt gegeven."

Dus dat is de klassificatietaak op hoog niveau. Dit is een soortgelijk concept, maar in plaats van kat, hond, auto, zijn de klassen de individuele letters van het alfabet en de interpunctie. Dus het neemt een input, en dan doet het wiskunde op basis van wat het geleerd heeft - dus al het leren gebeurt 'in het midden', we zullen het noemen - en het geeft je een classificatie aan het einde. Dus, zoals, deze brief.

Het ding dat het een maakt terugkerend neuraal net is dat de uitvoer van voorgaande stappen als onderdeel van het model in de volgende stap wordt ingevoerd. Het feit dat het model me een 'M' gaf, zal bijdragen aan de volgende doorloop van het model. Dus dan kan het je een 'a' en dan een 'k' en dan een 'e' geven, omdat het probeert 'Make America great again' te maken, omdat dat veel in de data wordt weergegeven.

Ben je tot nu toe bijzonder trots op enige DeepDrumpf-tweets?

Ja, eigenlijk. Ik heb een paar dat ik nog niet heb gepost, maar -

exclusief.

Lacht Precies. Van degenen die zijn gepost, ben ik vooral blij met 'ik ben wat ISIS niet nodig heeft'.

Ik ben wat ISIS niet nodig heeft.

- DeepDrumpf (@DeepDrumpf) 3 maart 2016

Laten we eens kijken … Ik heb het verzonnen met 'Ik ben niet racistisch, maar …' en de voortzetting daarvan was '… geloof het', waarvan ik dacht dat het behoorlijk voortreffelijk was. Ik zou die bewaren voor wanneer het relevant werd, als het relevant werd.

Niets goeds komt ooit na die woorden.

Zou je liever op Donald Trump stemmen of op @DeepDrumpf stemmen?

Ik denk dat er afwegingen zijn met elk van die keuzes.