Imec lanserar nu en ny väg för att minska energiförbrukningen i AI-system. Genom att göra de nödvändiga beräkningarna analogt i stället för digitalt har institutet lyckats nå upp till 2 900 TOPS/W, alltså 2 900 biljoner operationer per W med svenskt språkbruk. Det är flera tusen gånger bättre än dagens GPU-baserade acceleratorer. Imec använder ett egenutvecklat analogt minneselement implementerat i en FD-SOI-process från Global Foundries.

Intresset för Imecs lösning är mycket stort. Redan idag står molnbaserade AI-tjänster för en signifikant del av jordens energiförbrukning samtidigt som behoven av AI-prestanda exploderar. Men ännu viktigare är att AI-tillämpningar i bärbara och batteridrivna apparater kräver dramatiskt sänkt energiförbrukning. Det är varken önskvärt eller praktiskt möjligt att skicka all information till molnet i varje ögonblick.

Varierande upplösning
Den grundläggande mekanismen i ett nervnät är en multiplikator/accelerator (MAC) och specialutvecklade AI-komponenter brukar innehålla massor av MAC-ar.

Det vanligaste sättet att hålla ner energiförbrukningen är att begränsa upplösningen i MAC-enheterna. Upplösningen kan vara allt från högupplösande flyttal till lågupplösande heltal eller till och med rent binär beräkning. Olika användningsområden kräver olika upplösning och i extrema lågenergiapplikationer har man hittills försökt klara sig med mycket låg upplösning.

Här ger de analoga elementen en möjlighet att kombinera hyfsad upplösning med höga prestanda och låg energiförbrukning. Imecs teknik beräknas om några år kunna ge uppåt 10 000 TOPS/W och det innebär att man kan göra avancerade operationer i till exempel mobiltelefoner.

Imecs analoga minnesceller implementeras i en FD-SOI-process från Global Foundries. Testkomponenter kommer att finnas tillgängliga senare i år och kompletta lösningar beräknas vara tillgängliga 2022.

Filed under: Utländsk Teknik