De Amerikaanse regering neemt iemand in dienst om het een brein te laten bouwen

Aandacht voor gekke wetenschappers: de overheid wil een brein bouwen.

Volgens een recente vacature is het Bureau van de Directeur Nationale Inlichtingen (ODNI) op zoek naar een postdoctoraal onderzoeker naar de mechanismen van biologische neurale netwerken (lees: hersenen) en bepaal de meest efficiënte manieren om deze te misleiden.

De taal van de posting is klinisch en vrijstaand. Maar vergis je niet - dit kunnen sommige sinistere dingen zijn.

In principe wil ODNI dat een onderzoeker een biologisch analoog creëert voor een beeldclassificerend adversariaal neuraal netwerk (ANN). Een ANN "is getraind om afbeeldingen (of andere gegevens) met een hoge mate van nauwkeurigheid te classificeren. Een aanval door tegenspelen manipuleert het beeld heel subtiel en zorgt ervoor dat de ANN het beeld met een hoge mate van vertrouwen verkeerd classificeert ", aldus de vacature.

Soortgelijke experimenten zijn uitgevoerd door Google-wetenschappers met AI. Een kunstmatig neuraal netwerk werd getraind om portretten van gezichten te maken en een ander netwerk werd getraind om ze als echt of verzonnen te identificeren. Het eerste netwerk had als doel het tweede netwerk voor de gek te houden. Dus elke keer dat het generatieve netwerk niet succesvol was, maakt het enkele kleine aanpassingen aan het gemaakte portret. Telkens als het classificatienetwerk niet succesvol was, paste het de criteria aan die het aan het onderzoeken was om het oordeel te vellen. Terwijl ze tegen elkaar werkten, werden beide netwerken steeds geavanceerder en bekwamer in hun taken.

De ODNI wil iemand die kan achterhalen of biologische neurale netwerken vatbaar zijn voor soortgelijke misleidingen, de manier waarop een kunstmatig classificerend neuraal netwerk door een generatief bedrogen kan worden.

Het is mogelijk dat de hersenen afbeeldingen op ongepaste wijze indelen. Bepaalde visuele prikkels kunnen bijvoorbeeld de hersenen misleiden tot het waarnemen van iets dat er niet is, zoals een optische illusie of een geval van pareidolia, waarbij mensen herkenbare patronen in willekeurige dingen zien. Bestudering van de mechanismen die verantwoordelijk zijn voor deze verschijnselen op neuronaal niveau kan onderzoekers helpen bepalen of er manieren zijn om het brein veerkrachtiger te maken tegen dit soort stimuli. Of, misschien, als er manieren zijn om een ​​brein vatbaarder te maken voor perceptueel gekkigheid.

Een manier om erachter te komen is om zelf een brein te bouwen, het te trainen om afbeeldingen te herkennen en classificeren en vervolgens aan het werk te gaan om het te manipuleren. Dat zijn tenminste de voorgestelde eerste stappen van de ODNI. Volgens de posting is de ODNI echter "open voor alle benaderingen".

Andere posities bij de ODNI zijn onder andere het maken van kleine robots die in krappe ruimtes en over ruwe oppervlakken kunnen manoeuvreren en objecten manipuleren met 'behendigheid en hoge krachten' en een andere taak die is gericht op het modelleren van 'insider threat' (dubbelagent) gedrag met neurale netten.

Alles is in orde.