Hoe UC Berkeley's New Center een A.I. Apocalypse

University of California Berkeley heeft zojuist haar naam toegevoegd aan een groeiende lijst van gerenommeerde instituten die werken om te voorkomen dat kwaadwillende kunstmatige intelligentie de mensheid vernietigt. Het nieuwe centrum voor mens-compatibele kunstmatige intelligentie, dat maandag is aangekondigd, moet ervoor zorgen dat A.I. blijft gunstig, en ook om een ​​A.I. uit te sluiten. Apocalypse.

Berkeley's eigen A.I. expert, professor Stuart Russell, leidt de onderneming. Het Open Philanthropy Project zorgde voor een subsidie ​​van $ 5,5 miljoen aan het centrum en anderen haalden het ook in. Verschillende andere experts van Berkeley, Cornell University en de University of Michigan zullen als co-principal-onderzoekers dienen.

Cornell Professor Bart Selman verteld omgekeerde over het Centrum, A.I.s dat wij moeten angst, en waarom de wereld waarschijnlijk niet in een handkast naar de hel gaat - toch.

Wat hoop je te bereiken met het Centrum voor Mens-Compatibele A.I.?

Deze centra zijn een relatief nieuwe ontwikkeling. Mensen doen investeringen - het Future of Life Institute, bijvoorbeeld, heeft een investering van Elon Musk, uit Tesla - om de vragen over de toekomst van het leven en mogelijke bedreigingen voor de toekomst van het leven en de maatschappij aan te pakken. Het nieuwe centrum in Berkeley is een ander voorbeeld van een dergelijk instituut.

Het is geïnspireerd door de veranderende rol van kunstmatige intelligentie en computergebruik in onze samenleving. Deze technologieën gaan naar onze samenleving en zullen een effect op ons hebben. Deze instituten zijn er om onderzoekers samen te brengen om mogelijke negatieve effecten te bestuderen, of hoe ervoor te zorgen dat er geen negatieve effecten zijn.

De titel van het Centrum suggereert dat A.I. en de mensheid is inherent onverenigbaar. Is dat jouw mening?

Dat is de eerste reactie die mensen hebben, dat deze dingen onverenigbaar kunnen zijn. We zijn van mening dat we met de juiste voorzorgsmaatregelen en de juiste richtlijnen en onderzoeken echt de belangen op één lijn kunnen brengen en ervoor kunnen zorgen dat deze technologieën nuttig zijn. A.I. technologie heeft enorme positieve kanten en het doel van de samenleving is ervoor te zorgen dat we aan de positieve kant blijven. De onderzoekers die bij het instituut betrokken zijn, zijn van mening dat dit haalbaar is.

Als je een doemdenkend perspectief zou kunnen aannemen, wat zou dan het meest waarschijnlijke A.I.-geïnduceerde doemscenario-scenario zijn?

Een duidelijk risico zou een militaire ontwikkeling van kunstmatige intelligentie zijn, een die zou kunnen leiden tot een A.I.-wapens wapenwedloop tussen landen: autonome wapens, autonome drones die hun eigen commando's volgen, ontwikkeld door verschillende landen die vijandig tegenover elkaar staan. Dat is het meest concrete risico dat ik zie. Ik denk dat A.I. ontwikkeld voor zelfrijdende auto's, bijvoorbeeld - voor reguliere rollen in de samenleving - zal zeer nuttig zijn. Maar het militaire aspect is een zorgwekkende component.

Is dat al een zware strijd?

Landen overwegen dit probleem eigenlijk. In zekere zin is het een zware strijd: het leger drijft vooruit om A.I. te ontwikkelen. technologie. Maar er zijn overeenkomsten - bijvoorbeeld, biologische wapens is waarschijnlijk het meest bekende geval - waarbij landen op een bepaald moment besloten dat het alle landen ten goede zou komen niet om op grote schaal biologische wapens te ontwikkelen. We hopen dat landen zullen beseffen dat het nadeel, voor iedereen, te groot is om in te gaan op een alomvattende A.I. wapenwedloop.

Als beide partijen deze technologie ontwikkelen, staat niemand voorop.

Is er nog iets anders dat ik over het centrum zou moeten weten, of over kwaadwillende A.I. in het algemeen?

Het is belangrijk om de positieve kant te geven. Het is gemakkelijk om de risico's te benadrukken - en, natuurlijk, dat is gedeeltelijk waarom deze centra zijn gevestigd - maar het is ook belangrijk om erop te wijzen dat veel onderzoekers denken dat dit risico beheersbaar is en dat de upsides enorm zullen zijn.

Je hebt het doemscenario al gegeven. Wat zijn enkele potentieel positieve toepassingen van A.I. waar je erg enthousiast over bent?

De positieve kanten zullen een maatschappij zijn waar we worden bijgestaan ​​door deze technologie. Gelijktijdige spraakvertalingen - bijvoorbeeld tussen Chinees en Engels - waar mensen gewoon kunnen converseren, alsof ze een moedertaal spreken, met elkaar over de hele wereld. Ouderenzorg: Mensen kunnen zo lang blijven als ze willen in hun huis, omdat ze een huishoudhulprobot hebben die hen helpt zelfstandig te leven.

Dat zal waarschijnlijk een behoorlijk dramatische impact hebben op het leven in het algemeen - op het vlak van werkgelegenheid en wat we prioriteren.

Ja. Het werkgelegenheidsdebat is een soort apart debat. Er zullen voldoende middelen zijn om iedereen te ondersteunen, dus er is de kwestie hoe we ervoor zorgen dat iedereen van deze ontwikkelingen profiteert. Er zal een re-realisatie zijn van wat het betekent om te werken, wat voor soort werk mensen zullen doen. Maar in principe zullen mensen meer vrijheid hebben en meer tijd hebben om activiteiten te doen die ze graag doen, omdat machines zullen helpen met vele andere meer alledaagse, werk -type dingen. Het zal enige tijd duren, maar we geloven dat de maatschappij zich zal aanpassen en zal deze veranderingen langzaam opnemen.

Dit interview is bewerkt voor duidelijkheid en beknoptheid.