Inom medicinsk bildbearbetning efterfrågar man ständigt högre beräkningskraft för att kunna få ut visuell information med högre kvalitet, allt för att ge klinikerna möjlighet att ställa snabbare och mer noggranna diagnoser och utföra mer skonsam kirurgi. Genom att utnyttja artificiell intelligens (AI) kan dessa möjligheter i hög grad förbättras i framtiden. Vilken roll spelar embedded-datorteknologi i dessa sammanhang idag, frågar Zeljko Loncaric, marknadsingenjör hos congatec.

Området medicinsk bildbearbetning har utvecklats enormt under de senaste åren. Orsaken är framför allt digitaliseringen av diagnostisk bildbearbetningsteknik och de därav följande förbättringarna av data- och bildkvaliteten, och därtill det faktum att bilderna kan bli tillgängliga snabbare. Med det snabbt ökande användandet av artificiell intelligens (AI) med förmåga till djup inlärning (deep learning) tar vi nu steget in i nästa evolutionära skede. Jämfört med traditionella, datorstödda diagnostiksystem ger AI större autonomi, vilket gör diagnoserna snabbare, säkrare och mer tillförlitliga. Orsaken är att självlärande system fångar upp nya situationer bättre än statiska system.

Vilka fördelar ger AI?
Forskningsresultat från ett antal olika områden visar hur noggrant och snabbt AI-baserade medicinska bildbearbetningssystem arbetar redan idag. Forskare från Department of Systems Medicine and Bioengineering på Houston Methodist Research Institute har utvecklat en AI-mjukvara som detekterade bröstcancer 30 gånger snabbare än läkare vid ett fältförsök på 500 mammogram. Noggrannheten var 99 procent.

Ett sådant system skulle inte bara göra det enklare att upptäcka bröstcancer, utan det skulle också vara bättre på att detektera falska positiva resultat och därmed undvika onödiga vävnadsprov – allt till patienternas fördel (Ref I).

Ett annat forskningsteam fokuserade på diagnostik av hudcancer. Med utgångspunkt från fotografier kunde systemet upptäcka hudcancer lika tillförlitligt som dermatologerna kunde (Ref. II).

Ett tredje projekt från Icahn School of Medicine vid Mount Sinai Hospital i New York City visade sig kunna upptäcka levercancer med samma noggrannhet som hos specialister inom onkologi. Under forskningsprojektets gång upptäckte vetenskapsmännen att systemet även skulle kunna användas i framtiden för att indikera om patienten har anlag för schizofreni och andra mentala sjukdomar (Ref. III).

En bred uppslutning är en nödvändighet
AI och djup inlärning har redan visat sig vara ytterst värdefulla verktyg för att förbättra möjligheterna till snabb upptäckt, diagnostik och behandlig vid ett antal svåra sjukdomar. Om denna intelligens skulle kunna göras direkt tillgänglig för alla läkare med hjälp av medicinsk bildbearbetningsteknik skulle inte bara många liv kunna sparas, utan även felaktiga behandlingar och icke nödvändig kirurgi kunna undvikas.

På så vis skulle t o m de minsta och ovanligaste indikatorerna – som en läkare kanske aldrig skulle stöta på under många decenniers professionell praktik – kunna upptäckas tillförlitligt. Detta skulle ge stora fördelar åt alla intressenter: patienterna, läkarna och hälsovårdssystemet. En rapport från konsultfirman PWC visar att ett brett användande av artificiell intelligens enbart i Europa skulle minska kostnaderna för diagnos och eftervård med nästan 200 miljarder euro på tio år (Ref. IV). Detta väcker frågan: Vilka teknologiplattformar kommer att möjliggöra en bred uppslutning?

Klar för AI
Låt oss börja med de goda nyheterna: De senaste embedded-plattformarna uppfyller alla nödvändiga krav avseende beräkningskraft, energieffektivitet och programmerbarhet för att integrera högpresterande artificiell intelligens i varenda ultraljudsapparat, varenda station för radiologidiagnostik och varenda medicinsk PC i läkarnas kontor.

Fig 1. Moduler med bärarkort. Att migrera till AI är en enkel uppgift om man använder AMD-baserade COM Express Computer-on-Modules från congatec, eftersom befintliga COM Express-konstruktioner med annan processorteknologi enkelt kan modifieras.

Nu kanske ni undrar över hur all den artificiella intelligens som finns i hela datacentraler skall kunna inrymmas i lågeffekts embedded-plattformar? Sanningen är: Det gör den inte. Och den behöver inte heller göra det, eftersom djup inlärning – en resursintensiv typ av maskinell inlärning – fortfarande sker i servrar, åtminstone för tillfället. De medicinska enheterna använder helt enkelt den intelligens som samlats in i datacentralerna. Denna process kallas för inferens.

Djup inlärning i datacentralen
Processen är nästan alltid densamma för alla olika typer av uppgifter. Ett nät med ett antal beräkningsenheter – vanligen GPGPU:er (General Purpose Graphics Units) byggs samman till ett DNN (Deep Neural Network). Detta inlärningsnätverk måste sedan läras upp. När det gäller diagnostisk bildbearbetning kan det handla om röntgenbilder för tidig upptäckt av bröst- eller levercancer, eller kanske rent av vanliga fotografier av hud för att lära upp systemet att upptäcka hudcancer.

Den mängd bilddata som krävs för detta är enorm. Verkliga forskningsprojekt talar om 130 000 till 700 000 bilder av positiva och negativa diagnoser. Utgående från denna information utvecklar de neurala nätverken parametrar och rutiner baserade på fallspecifika algoritmer med en noggrannhet som inte på något vis är sämre än vad som erfarna specialister uppnår.

Att integrera intelligens i embedded-datorer
Denna intelligens finns dock idag i molnet eller i centrala datacentraler, men ännu inte i de medicinska utrustningarna. Det är här som inferensen kommer in. Detta är den process som används för att integrera det som har inlärts in i den lokala enheten. För att den neurala nätverksintelligens som lagras i datacentralen skall kunna få plats på en enda processor krävs det att mjukvaran är mindre. Därför brukar varje del av det neurala nätverket som inte längre behövs efter en framgångsrik inlärning vanligen försummas. Eftersom de inte är aktiva i beslutsfattandeprocessen kan de utan problem utelämnas. Dessutom kan ett antal beslutslager i det ursprungliga neuralnätverket nu kombineras i en och samma operation.

Fig 2. Bilden illustrerar djup inlärning i datacentralen / intelligens i den lokala medicinska enheten.

Återigen medför detta inga nackdelar eftersom det lokala systemet inte behöver vara självlärande, även om detta är fullt möjligt. Det är naturligtvis effektivare att fortsätta att lära upp det stora systemet med alla nya data, och sedan uppdatera de lokala enheterna till den aktuella kunskapsnivån med vanliga mjukvaruuppdateringar. Det är just detta som är orsaken till att medicinska IoT-gränssnitt för anslutning av enheter till teknologileverantörernas moln och servrar har avgörande betydelse för den framtida utvecklingen av dessa teknologier.

Rätt processorteknologi
De nämnda åtgärderna minskar visserligen i avsevärd grad behoven av datorprestanda i de medicinska apparaterna, men den bearbetningskraft som krävs är fortfarande mycket hög för en ensam processor. Dessutom bör arkitekturen hos de lokala enheterna och den hos datacentralerna vara anpassade för att ge minsta möjliga merarbete vid portering av mjukvara och algoritmer.

De senaste accelererade processorenheterna för embeddedbruk ger exakt den rätta nivån av flexibel beräkningskraft, med klassiska x86-processorer och kraftfulla GPGPU:er för AI och maskinell inlärning. Energikraven är så låga att dessa funktioner redan kan integreras i nästan alla applikationer inom området bildbearbetning idag – från mobila, fläktfria röntgenapparater till rand-lagringsenheter för RIS (Radiology Information Systems) och PACS (Picture Archiving and Communication Systems).

AMD Ryzen Embedded V1000 för medicinsk utrustning
Tack vare sina avsevärt förbättrade beräknings- och grafikprestanda är den nya AMD Ryzen Embedded V-Series speciellt väl lämpad för detta ändamål. Med totalt 3,6 TFLOP från den universella CPU:n och kraftfulla GPGPU:n ger den flexibla beräkningsprestanda som man för bara några år sedan ansåg endast kunna uppnås med system med en förbrukning på flera hundra watt. Idag finns denna datorkraft tillgänglig ända ner till 15 W. Härigenom blir det möjligt att integrera den i fläktfria, hermetiskt slutna, och därigenom hygieniska och tåliga, medicinska apparater för patientcentrerad och mobil vård.

Fig 3. Den senaste, ledande COM Express Type 6-modulen för lokal medicinsk AI: conga-TR4 med AMD Embedded Ryzen-processor

Djup inlärning och AI är inte trolldom
Dessa embedded-processorer från AMD erbjuder också den omfattande mjukvarusupport samt sådana ramverk som TensorFlow, Caffe och Keras som behövs för att snabbt kunna införa AI och djup inlärning i full skala. På https://gpuopen.com/professional-compute/ kan utvecklarna också hitta ett brett sortiment av mjukvaruverktyg och programmeringsmiljöer för applikationer inom djup inlärning och AI, t ex den populära open-source-plattformen ROCm för GPGPU-applikationer.

Open-source-konceptet har avgörande betydelse för att garantera att tillverkarna inte blir beroende av några företagsspecifika lösningar. Här ingår verktyget HIPfy, som gör att företagsspecifika, CUDA-baserade applikationer kan konverteras till portabla applikationer i HIP C++, vilket gör dem hårdvaruoberoende. Med tillgång till ett sådant ekosystem blir det relativt enkelt för var och en att implementera djup inlärning och AI, och inte något som är förbehållet IT-jättar som Google, Apple, Microsoft och Facebook.

Till och med utvecklare av mobilappar har börjat implementera djup inlärning och lokal inferens i verkliga applikationer. Ett exempel är appen Not Hotdog, som kan känna igen olika typer av varmkorv i mobila fotografier med hög tillförlitlighet. Detta är ett tydligt exempel på att AI nu har nått den privata sektorn.

Snabb design-in med Computer-on-Modules
Den enda fråga som nu kvarstår är hur tillverkarna av medicinsk utrustning skall kunna konstruera in dessa ”AI-enablers” i sina avbildningsenheter så snabbt och effektivt som möjligt. En av de mest effektiva vägarna är att använda standardiserade Computer-on-Modules. Den modulära uppbyggnaden frikopplar den medicinska enheten från processorteknologin, vilket gör att tillverkarna kan sätta upp stabila utvecklingsplaner (roadmaps) för sina produkter. Genom detta garanteras de långsiktig tillgänglighet och effektivt återanvändande av de egna utvecklingsinsatserna.

Genom att helt enkelt byta ut moduler kan konstruktörerna integrera nya prestandaklasser in i befintliga konstruktioner och därigenom utöka funktionaliteten hos dessa med nya, innovativa funktioner. Den ledande formfaktorn COM Express används redan i ett stort antal medicinska apparater idag. Detta ger tillverkarna möjlighet att använda en ”plug-and-play”-ansats för att göra sin medicinska hårdvara AI-kompatibel, bara genom att byta ut ett antal moduler.

Fig 4. Standardmodul på standardkort: congatecs mini-ITX-moderkort conga-IT6 kan utrustas med de nya modulerna och sedan stoppas in i vilken medicinsk enhet som helst som använder ATX-standarden.

congatec har redan testat hur snabbt detta jobb kan utföras i ett antal olika systemkonstruktioner baserade på den nya modulen conga-TR4 med AMD Ryzen Embedded V1000-processorer. För att migrera modulen till ett befintligt system baserat på en annan COM Express Type 6-modul behövde utvecklarna vid ett partnerföretag lika lång tid som behövdes för att utrusta systemet med hårdvara som redan hade utvärderats. Inte heller anpassningen av mjukvaran krävde mer än de vanliga installationsrutinerna.

Tack vare det standardiserade API:et, som är identiskt för alla congatec-moduler, krävdes inte heller några extra insatser i form av hårdvaruprogrammering. En följd av detta är att GPIO-styrningen blir densamma för alla moduler. Systemkonstruktörerna behöver detta, t ex för att mäta styrkan hos det omgivande ljuset för att automatiskt kunna reglera displayens ljusstyrka. Att migrera till AMD-processorteknologi är inte någon stor utmaning med congatec-moduler, utan en stor bonus för system om man vill implementera AI någon gång i framtiden.

Valmöjligheter för avancerade embedded-servrar
För avancerade system, som medicinska backend-servrar som kräver ännu mer kraft än vad AMD Ryzen Embedded V1000-processorer kan ge, kan man som alternativ utvärdera de nya AMD EPYC Embedded 3000-processorerna. De erbjuder en långsiktig tillgänglighet på upp till 10 år, upp till 16 kärnor, 10 Gigabit Ethernet och upp till 64 PCIe-banor för anslutning av ett antal enheter för parallell bearbetning och maskinell inlärning av bildbearbetning, vilket gör dem till en idealisk och tillförlitlig plattform för användning i medicinska miljöer. Om en kundefterfrågan uppstår planerar congatec att tillhandahålla dessa processorer även på COM Express-moduler, med det slutgiltiga målet att utveckla en ny COM Express-pinout för avancerade embedded-servrar. Helt kundanpassade embedded-kort kommer att vara en alternativ möjlighet.
Zeljko Loncaric, marknadsingenjör, congatec

I:
https://www.sciencedaily.com/releases/2016/08/160829122106.htm

II:
https://news.stanford.edu/2017/01/25/artificial-intelligence-used-identify-skin-cancer/

III:

https://www.mountsinai.org/about/newsroom/2017/university-herald-deep-learning-the-most-advanced-artificial-intelligence-chris-brandt

IV:

https://www.pwc.de/de/gesundheitswesen-und-pharma/studie-sherlock-in-health.pdf

Filed under: Embedded