Social Media Trolling: Hoe A.I. Wordt steeds beter in het anticiperen op Shitposts

Het internet is een hellscape gerund door trollen en gedomineerd door vergeefse Facebook-argumenten of erger. En terwijl social-medianevenzen op het web eindelijk, met tegenzin, zijn begonnen met het uitrollen van krachtiger pogingen om de afwijkende dialoog te ontmoedigen, hebben deze oplossingen de neiging om reactief te zijn, met andere woorden wanneer de schade al is aangericht.

Het mag dan ook geen verrassing heten dat onderzoekers op het gebied van kunstmatige intelligentie graag systemen ontwikkelen die dat wel kunnen voorzien een online argument voordat het gebeurt. Maar zoals een team van onderzoekers van de Cornell University onlangs heeft uitgelegd inverse, deze dringend noodzakelijke innovatie is niet zo ver van proberen de toekomst te vertellen.

"In het verleden is er gewerkt aan het detecteren of een gegeven opmerking giftig is", zegt Ph.D. Jonathan Chang. "Ons doel is iets anders, we willen weten of het mogelijk is om te voorspellen of een momenteel civiel gesprek ergens in de toekomst uit de hand zal lopen. Om deze vraag te onderzoeken, kijken we naar gesprekken tussen Wikipedia-redacteurs, waarvan sommige burgerlijk blijven en andere uit de hand lopen."

Chang en zijn collega's analyseerden honderden berichten die werden verzonden tussen de soms gemakkelijk geïrriteerde curatoren van Wikipedia. Ze gebruikten vervolgens 1.270 gesprekken die een aanvallende wending namen om een ​​machine-leermodel te trainen in een poging om dit soort matiging te automatiseren. Hun resultaten werden gepubliceerd in een paper die werd gepresenteerd op de jaarlijkse vergadering van de Association for Computational Linguistics op 15 juli.

Dus hoe is het gedaan met "laten we kalmeren"? Gelukkig niet te sjofel. Uiteindelijk was het 65 procent accuraat, iets lager dan het succespercentage van 72 procent. De onderzoekers vonden deze statistiek door een online quiz te maken waarin mensen hun moderatievaardigheden voor commentaar konden testen. Blijkbaar is het behoorlijk moeilijk om erachter te komen of gebruikers van sociale media uit de problemen raken of burgerlijk blijven.

"Het idee is om te laten zien dat de taak moeilijk maar niet onmogelijk is - als mensen maar een nauwkeurigheid van 50 procent hebben, bijvoorbeeld, zou dit niet beter zijn dan willekeurig gissen en zou er geen reden zijn om te denken dat we een machine zouden kunnen trainen om te doen beter, "zegt Chang. "Het vergelijken van ons model met menselijke reacties heeft ons enig inzicht gegeven in hoe vergelijkbaar, of niet vergelijkbaar, onze computationele benadering is voor de menselijke intuïtie."

Chang gelooft niet dat dit het internet van de vuilnisbelt zal bevrijden, maar hij ziet het als een manier om sociale media-moderators te helpen. In plaats van aandacht te moeten schenken aan de miljoenen reacties die een dag kunnen worden gepost, kan hun algoritme de honderden identificeren die het risico lopen om een ​​argument te worden.

Hoewel je zou denken dat het doorzoeken van al deze mogelijk onvoorspelbare ruzies Chang een beetje verdriet zou bezorgen, zegt de wetenschapper dat de ervaring hem inderdaad hoop heeft gegeven voor de mensheid.

"Tegenwoordig bestaat er veel pessimisme rond online gesprekken, maar wat we hier zien is dat zelfs in gevallen waarin een gesprek op een onvriendelijke manier begint, er nog steeds een kans is voor de deelnemers om een ​​tweede gedachte te hebben, hun toon, en zet het gesprek op het goede spoor voor een betere uitkomst, "zegt hij. "De toekomst is niet in steen gebeiteld."

Misschien is er toch hoop voor internet.