Onderzoekers bootsen het menselijk brein na om een ​​neuraal netwerk met laag vermogen te maken

Neurale netwerken - of kunstmatige replica's van het menselijk brein - laten wetenschappers en ingenieurs een analyse uitvoeren die de mensheid eeuwen zou duren.Ze kunnen door eindeloze tabellen met gegevens glijden en wijzen op verschillen in afbeeldingen die mensen niet zouden zien.

Ze hebben echter één nadeel: de beste neurale netten in het spel gebruiken ongelofelijk veel energie om hun werk te doen.

"Enkele jaren geleden probeerde IBM de hersenactiviteit van een kat in een supercomputer te simuleren en ze verbruikten uiteindelijk megawatts aan vermogen", vertelt Purdue University-onderzoeker Abhronil Sengupta. omgekeerde. "Het biologische menselijke brein verbruikt nergens zo dichtbij. Dit is geen directe één-op-één vergelijking met een neuraal netwerk, maar het zou je een schatting moeten geven van hoe macht-hongerige computersystemen zijn."

Sengupta en een team van computerwetenschappers van de Purdue University en het Institute of Electrical and Electronics Engineers (IEEE) bedachten een manier om neurale netwerken veel minder energie te laten verbruiken terwijl ze nog steeds een kick-ass job deden. Een paper dat ze op de preprint-site hebben geplaatst, arXiv legt uit hoe ze zich hebben laten inspireren door het menselijk brein en hun idee hebben geïmplementeerd om hun neurale net ongeveer 11 keer minder energie te laten verbruiken dan traditionele systemen.

Hun aanpak maakt gebruik van spiking neurale netwerken, of SNN. In tegenstelling tot hun tegenhangers, emuleren deze computationele systemen veel nauwkeuriger de biologische neuronen.

Standaard neurale netten bestaan ​​uit duizenden knooppunten die worden gebruikt om beslissingen te nemen en te oordelen over de gegevens die aan hen worden gepresenteerd. De uitvoer hiervan hangt alleen af ​​van wat momenteel wordt gepresenteerd, terwijl de SNN-uitvoer ook afhangt van eerdere stimuli. Knopen in een SNN werken alleen als een bepaald niveau van stimulatie wordt bereikt. Dus in plaats van voortdurend gegevens doorgeven aan andere knooppunten, SNN-knooppunten geven alleen informatie door als ze dat doen moet.

Normaal gesproken kost dit gigantische energiekosten, omdat de meeste van deze systemen worden gemaakt met behulp van de zogenaamde complementaire metaal-oxide-halfgeleiders technologie of CMOS. Die technologie maakt alle chips in je laptop en is gebruikt als de bouwstenen voor neurale netwerken. Voor hun onderzoek heeft de groep onderzoekers CMOS-technologie gedumpt en een SNN gebouwd die volledig uit memristors is gemaakt.

Afkorting voor 'geheugenweerstanden', de elektrische weerstand van memristors hangt af van hoeveel elektrische lading er in het verleden doorheen stroomde. In tegenstelling tot CMOS-technologie kan het zich 'herinneren' wat er eerder doorheen is gegaan, en dat is precies wat de knooppunten in SNN's moeten doen.

De resultaten van de studie toonden aan dat memristors de biologische neuron vrij goed nabootsen. Ze communiceren met elkaar met behulp van spikes, of korte uitbarstingen van energie, in tegenstelling tot een constante stroom van kracht. Deze memristor-SNN vertoonde een kleine afname in nauwkeurigheid wanneer deze werd gebruikt voor beeldclassificatie in vergelijking met zijn CMOS-tegenhangers, maar het duurde een fractie van de standaardkracht die neurale netten zouden hebben.

Vóór deze studie kwamen SNN's het dichtst in de buurt van kunstmatige menselijke hersenen die we hadden, maar de enorme hoeveelheid kracht die ze gebruikten, maakte een aantal van hun voordelen teniet. Als andere wetenschappers in staat zijn om deze energiebesparende neurale netwerken te repliceren, zou het hen in staat kunnen stellen om meer te doen met minder energie en hen dichterbij te brengen om te begrijpen hoe ze de biologische hersenen kunnen repliceren.