OpenAI: het voormalige kantoor van Elon Musk staat aan de vooravond van een nieuwe A.I. Tijdperk

OpenAI, de non-profitorganisatie die kunstmatige intelligentie onderzoekt, mede opgericht door Elon Musk in 2016, heeft grote vorderingen gemaakt - zelfs nadat Musk zijn weg verliet te midden van meningsverschillen over zijn richting. Onderzoekers hebben systemen ontwikkeld die games kunnen spelen, nieuwsartikelen kunnen schrijven en fysieke objecten kunnen verplaatsen met baanbrekende niveaus van behendigheid.

OpenAI heeft controverse veroorzaakt met zijn onderzoek. Vorige week kondigde het de ontwikkeling aan van een taalmodel, GTP2, dat teksten met beperkte prompts kan genereren. Gezien de door de mens geschreven boodschap "Miley Cyrus werd vandaag betrapt op winkeldiefstallen van Abercrombie and Fitch op Hollywood Boulevard", produceerde het systeem een ​​geloofwaardig compleet verhaal dat verder ging met "de 19-jarige zanger werd betrapt op een camera die uit de winkel werd geëscorteerd door bewakers. '

Het creëerde ook dit originele verhaal over het praten over eenhoorns op basis van een korte prompt:

"Ik ben al meer dan een jaar niet nauw betrokken bij OpenAI en heb geen management of board-overzicht", zei Musk tijdens het weekend op Twitter. "Ik moest me concentreren op het oplossen van een pijnlijk groot aantal engineering- en productieproblemen bij Tesla (met name) en SpaceX. Tesla vocht ook voor een aantal van dezelfde mensen als OpenAI en ik was het niet eens met wat OpenAI-team wilde doen. Tel dat allemaal op en het was gewoon beter om op goede voorwaarden van elkaar te scheiden."

Het bedrijf leek oorspronkelijk een ideale manier voor Musk om zijn doelen van het gebruik van A.I. te bereiken. voor het welzijn van de mensheid. De ondernemer heeft eerder gewaarschuwd voor het 'fundamentele risico' voor de beschaving van super slimme machines, en spoorde overheden aan om te reguleren 'zoals we eten, drugs, vliegtuigen en auto's'.

Musk heeft $ 10 miljoen toegezegd om het bedrijf in eerste instantie te starten en de missie richt zich op 'het ontdekken en uitvoeren van het pad naar veilige kunstmatige algemene intelligentie'.

Het is niet moeilijk om te zien hoe programma's die verhalen maken zoals die van OpenAI-topman Greg Brockman, door een relatief klein aantal mensen kunnen worden gebruikt om de meningen van een minder bekend publiek te beïnvloeden.

Een medewerker van OpenAI printte deze AI-geschreven sample en plaatste deze bij de prullenbak: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14 februari 2019

"Vanwege onze bezorgdheid over kwaadaardige toepassingen van de technologie, geven we het getrainde model niet vrij", verklaarde het bedrijf in een blogpost. "Als een experiment in verantwoorde openbaarmaking, laten we in plaats daarvan een veel kleiner model vrij voor onderzoekers om mee te experimenteren, evenals een technisch artikel."

De aankondiging leidde tot zorgen dat de technologie kan worden gebruikt om nepnieuws te genereren. Analytics India waarschuwde dat, met de aanstaande Indiase verkiezingen later dit jaar, de A.I. zou het democratische proces kunnen schaden. De onderzoekers van OpenAI stellen zelf dat, in combinatie met onderzoek naar het produceren van synthetische audio en video, "het grote publiek meer sceptisch moet worden over de tekst die ze online vinden."

Ryan Lowe, een A.I. wetenschapper en voormalig stagiair van OpenAI, vatte de dreiging samen van een programma zoals dit dat wordt gebruikt om vals nieuws kort samen te vatten in deze gepasseerde Medium-post:

… Een geautomatiseerd systeem zou: (1) slechte actoren, die niet over de middelen beschikken om duizenden mensen aan te werven, in staat te stellen grootschalige desinformatiecampagnes te voeren; en (2) de schaal van desinformatiecampagnes die al worden uitgevoerd door statelijke actoren drastisch te vergroten.

Niet al het onderzoek van OpenAI is zo controversieel gebleken. Dactyl, onthuld in juli 2018, kan zich aanpassen aan real-world physics om objecten in de echte wereld te manipuleren. De robothand is zeer complex, met 24 vrijheidsgraden, maar het systeem kan de objecten eenvoudig verplaatsen door alleen drie RGB-camera's en de coördinaten van de robothand te gebruiken.

De robothand maakt gebruik van de universele algoritmen voor versterking van het wapen waarmee mensen bij videogames worden verslagen. Het team "OpenAI Five" stond tegenover een professioneel team Dota 2 spelers in 2018. Het systeem werd getraind in 180 jaar aan games en profiteerde van maar liefst 128.000 processorkernen en 256 grafische processors. Hoewel het een menselijk team van ex-professionals en Twitch-streamers versloeg, faalde het tegen professionele spelers.

Musk gebruikte de Dota 2 wedstrijden om de aandacht te vestigen op Neuralink, zijn plan om een ​​symbiotische relatie te creëren met A.I. door menselijke hersenen te verbinden en een robotovername te vermijden:

Fantastisch werk van @OpenAI. Binnenkort de neurale interface nodig hebben om de symbiose van mens / AI mogelijk te maken.

- Elon Musk (@elonmusk) 6 augustus 2018

In de aankondiging van de tekstgenerator zei OpenAI dat het over zes maanden zijn bredere strategie wil bespreken. Het bedrijf hoopt een genuanceerde discussie op gang te brengen over de gevaren van kunstmatige intelligentie, een stap die enkele van de rampscenario's zou kunnen voorkomen die door Musk werden beoogd. Maar zelfs het bedrijf geeft toe dat het "niet zeker is dat" het achterhouden van de tekstgenerator "vandaag de juiste beslissing is." Met een schisma dat al is gevormd tussen twee grote entiteiten die waarschuwen voor de gevaren van AI, is het onwaarschijnlijk dat wetgevers een gemakkelijke beslissing zullen nemen. tijd in het ontwikkelen van oplossingen.