Elon Musk's OpenAI kan een spier zijn voor veilig onderzoek op het gebied van kunstmatige intelligentie

In het weekend kondigden Elon Musk, Sam Altman en andere Silicon Valley-toppers onverwacht de lancering aan van OpenAI, een non-profitorganisatie die zijn doel beschrijft als: "digitale intelligentie bevorderen op de manier die de mensheid als geheel ten goede zal komen, niet beperkt door de noodzaak om financieel rendement te genereren."

"Omdat ons onderzoek geen financiële verplichtingen kent, kunnen we ons beter concentreren op een positieve menselijke impact. Wij geloven dat A.I. moet een verlengstuk zijn van individuele menselijke wil en, in de geest van vrijheid, zo breed en gelijkmatig verdeeld als mogelijk."

Er zijn twee belangrijke afhaalrestaurants uit deze aankondiging. De eerste is dat Musk en het bedrijf A.I. onderzoek op dit moment als te strikt gericht op het bereiken van praktische waarde voor de korte termijn, en zij willen helpen bij het bevorderen van inspanningen die een meer brede, alomvattende benadering van de ontwikkeling van A.I. systemen. De tweede, meer versluierde afhaalmaaltijd is dat Musk nog steeds bezorgd is over het potentieel van A.I. om kwaad te doen als we halfbakken systemen ontwikkelen en introduceren. Musk heeft eerder A.I. "Onze grootste existentiële bedreiging" en suggereerde dat regulerend toezicht noodzakelijk zou kunnen zijn om potentiële gevaren te voorkomen. OpenAI zou een manier kunnen zijn om dat overzicht te bieden zonder de noodzaak van een federale waakhond.

Wat zijn Musk en zijn collega's doen dat is anders dan wat anderen hebben gedaan. Open source A.I. is niets nieuws. Google heeft zijn eigen A.I. software open source vorige maand en dit is een vrij standaard procedure geworden. Maar met een schenking van $ 1 miljard is OpenAI al een van de grootste organisaties die werken aan A.I. onderzoek, en vrij gemakkelijk de grootste non-profitorganisatie. Het doel is om de resultaten openbaar te maken en alle patenten royaltyvrij te maken. Ze hebben een wortel en een stok en ze zijn van plan om het te gebruiken om een ​​industrie te sturen.

Het idee is om OpenAI te gebruiken als een soort tegengewicht voor grotere bedrijven, privéonderzoekslaboratoria en zelfs wereldregeringen die ongelooflijke hoeveelheden geld en middelen hebben om in hun eigen A.I. onderzoek dat niet is toegewijd aan vriendschappelijke doeleinden en dat in plaats daarvan kan leiden tot technologieën met kwalijke toepassingen. Onderzoekers die werken met OpenAI zullen in principe streven naar 'vriendelijke' A.I., zonder de druk om onmiddellijke resultaten te tonen. Er kan een grotere aandacht worden besteed aan veiligheids- en ontwerpkenmerken die particuliere bedrijven mogelijk negeren. Er zal geen witte toren zijn waar slechts enkele mensen het pad van A.I. ontwikkeling. Het wordt een welkome wereld voor iedereen.

In een interview met backchannel, Musk benadrukt ook de wens om een ​​grote verscheidenheid aan A.I. systemen. "We willen A.I. om wijdverspreid te zijn, "zegt hij. "We denken dat waarschijnlijk veel goed is."

Dat is belangrijk, want het gaat over misschien wel de belangrijkste reden waarom Musk en Altman A.I. willen democratiseren. Ze geloven dat de beste soort A.I. - het soort dat de mensheid op een positieve manier ten goede zal komen zonder robotoverlords te creëren - is het soort dat fungeert als "een verlengstuk van de individuele menselijke wil", zoals Musk het uitdrukt. Hij zegt verder:

"Zoals in een A.I. uitbreiding van jezelf, zodat elke persoon in essentie symbiotisch is met AI, in tegenstelling tot de AI die een grote centrale intelligentie is die een soort andere is. Als je bedenkt hoe je bijvoorbeeld toepassingen op internet gebruikt, heb je je e-mail en heb je de sociale media en met apps op je telefoon - ze maken je bovenmenselijk effectief en je beschouwt ze niet als als je een ander bent, beschouw je ze als een verlengstuk van jezelf. Dus in de mate dat we AI in die richting kunnen begeleiden, willen we dat doen. En we hebben een aantal gelijkgestemde ingenieurs en onderzoekers gevonden in het AI-veld die hetzelfde voelen."

Kortom, de OpenAI-visie voor A.I. onderzoek is een gedecentraliseerde gemeenschap die mensen helpt te verbinden met elkaar en met de wereld zelf.

Musk heeft nog niet geschetst hoe ze zouden voorkomen dat onderzoek binnen OpenAI zelf - of herbestemming door externe groepen - in een gevaarlijke richting zou gaan. En er is nog iets anders dat opvalt: Open source-systemen zijn alleen zinvol als de gegevens die worden gebruikt om algoritmen voor computerleren te ontwikkelen, vrij worden gedeeld. Een intelligent systeem moet leren hoe intelligent te zijn, en daarvoor moet het leren van data en ervaring. Het is net als het bouwen van een dam - je hebt zowel de blauwdrukken (het algoritme) als de bouwmaterialen (de gegevens) nodig om daadwerkelijk iets te maken dat water tegenhoudt.

Dat is de reden waarom mensen nog steeds beperkt zijn in wat ze kunnen doen met Google's TensorFlow - ze hebben nog niet de gegevens die Google heeft. En tenzij de samenwerkingsverbanden die uit OpenAI zijn opgebouwd, vrije toegang geven tot dezelfde gegevens waar de interne onderzoekers mee samenwerken, zal de visie van Musk niet noodzakelijk worden gerealiseerd - of althans niet op de manier waarop hij het promoot.

Musk, Altman en de andere oprichters van OpenAI zijn iets begonnen dat een enorme invloed op de groei van A.I. van nu af aan. Tegelijkertijd moeten ze openhartig zijn in hun toewijding om een ​​open source onderzoeksgemeenschap te bevorderen, wat inhoudt dat ze openhartig zijn over hun plannen voor het non-profitorganisatie en bereid zijn om gegevens te delen. Anders zal OpenAI niet veel verschillen van de kuddebedrijven die het kudde heeft ontworpen.