Reddit Just Banned r / Deepfakes, Finally

Op woensdag verbood Reddit eindelijk r / deepfakes, de subreddit werd berucht voor het genereren van een genre pornografie waarin A.I. technologie om het gezicht van een beroemdheid op het lichaam van een pornoster te leggen.

De subreddit, die al maandenlang meer dan 50.000 abonnees had gehost, was een broeinest van x-rated content - evenals een schokkend aantal video's met Nicolas Cage's gezicht op andermans lichamen.

Veel van de griezel-vallei video's zijn gemaakt met behulp van een desktop-app genaamd FakeApp, een relatief eenvoudig diepgaand leerprogramma dat een algoritme uitvoert om gebruikers hun eigen video's te laten maken. Vorig om te verdwijnen uit Reddit hadden r / deepfakes een downloadlink en een tutorialpagina over het gebruik van FakeApp gehost.

Vanzelfsprekend brengt het genereren van pornografie met de gelijkenis van een persoon grote problemen met zich mee rond de toestemming. Bovendien is de technologie klaar om een ​​perfect voertuig te worden voor het maken van wraakporno. Terwijl Pornhub en Gfycat recent begonnen waren met het nemen van publieke voorzorgsmaatregelen om hun platformen van deepfakes kwijt te raken, was Reddit tot nu toe stil gebleven.

"Vanaf 7 februari 2018 hebben we twee updates doorgevoerd in ons beleid voor sites over onvrijwillige pornografie en seksuele of suggestieve inhoud met minderjarigen," zei het in een verklaring. "Dit beleid was eerder gecombineerd in één regel; ze zullen nu worden verdeeld in twee verschillende. Communities gericht op deze inhoud en gebruikers die dergelijke inhoud plaatsen, worden van de site verbannen."

Een soortgelijke proclamatie over de beleidswijziging is gepost in / r / announcements. Kort daarna was r / deepfakes nergens te bekennen.

Gebruikers reageerden snel op dit feit en vroegen in de comments-feed onder de mededeling of dit een directe actie was om r / deepfakes kwijt te raken.

"Dit is een uitgebreide beleidsupdate", reageerde admin landoflobsters. "Hoewel het van invloed is op r / deepfakes is het bedoeld om content aan te pakken en verder te verduidelijken die niet is toegestaan ​​op Reddit. Het vorige beleid behandelde al deze inhoud in één regel; daarom behandelt deze update ook beide soorten inhoud. We wilden het splitsen in twee om meer specificiteit toe te staan.

"Goddank dat het griezelig is," schreef gebruiker Ghost652 onder de aankondiging.

De nieuwe regel tegen het plaatsen van "onvrijwillige pornografie" luidt nu als volgt:

Reddit verbiedt de verspreiding van afbeeldingen of video's van personen in een staat van naaktheid of die zich bezighouden met enige vorm van seksueel gedrag dat blijkbaar is gemaakt of gepost zonder hun toestemming, inclusief afbeeldingen die zijn vervalst.

Afbeeldingen of video's van intieme delen van het lichaam van een persoon, zelfs als de persoon gekleed of in het openbaar is, zijn ook niet toegestaan ​​als ze blijkbaar zijn gemaakt of gepost zonder hun toestemming en contextualistisch zijn opgesteld op een wijze (bijvoorbeeld "creepshots" of "upskirt" -beelden). Plaats ook geen afbeeldingen of video van een andere persoon met het specifieke doel om expliciete inhoud te vervalsen of "lookalike" pornografie aan te roepen.

Op het moment van schrijven waren ook andere met r / deepfakes geassocieerde subredits verbannen, waaronder r / deepfakesnsfw, r / nsfwdeepfakes en r / facesets; een subreddit die gebruikers aanmoedigde meerdere gezichtsopnamen te plaatsen die vervolgens in deepfakes konden worden omgezet.

R / fakeapp, echter, leek de subreddit met als taak de desktop app-technologie te hosten, evenals tutorials en vragen, nog steeds online te zijn.