COM-HPC Server för modulära kantservrar
PICMG kommer inom kort att officiellt fastställa Computer-on-Module-standarden COM-HPC. En del av den nya standarden är specifikationen COM-HPC Server. Denna har utvecklats för avancerade kantservrar (edge servers), som har stort behov av nya höghastighetsgränssnitt som PCI Express 4.0 och 5.0, liksom 25 Gbit Ethernet. Christian Eder, marknadsdirektör på congatec AG och ordförande för PICMG COM-HPC Subcommittee beskriver här standarden och några viktiga användningsområden.
Jämfört med etablerade, COM Express Type 7-baserade Server-on-Modules ger den nya specifikationen nästan dubbla gränssnittsbandbredden med sina 800 signallinjer, och erbjuder därför ett avsevärt bredare urval av funktioner utöver prestandaökningen. Vilka är de viktigaste marknaderna och applikationerna för de nya, avancerade servermodulerna, och vilka begränsningar finns?
COM-HPC Server berör alla slags kantservrar eftersom de nya servermodulerna har en maximal effektförbrukning på 300 W och därför kan använda de kraftfulla serverprocessorerna Intel Xeon och AMD EPYC. Men de första modulerna väntas inte bli tillgängliga förrän nästa generation av Intel Embedded-servrar har introducerats.
COM-HPC-moduler stöder idag upp till 1 Terabyte RAM på upp till 8 SO-DIMM-socklar. Ytterst är detta den begränsande faktorn. Det minne som finns på modulerna kan inte direkt göras tillgängligt för andra parallella processorer via Intel Ultra Path Interconnect eller AMD Infinity Fabric InterSocket. Istället finns de exklusivt tillgängliga för varje individuell COM-HPC-modul. Dual-die/Single-socket Cascade Lake processorteknologi med RAM i upp till 12 socklar passar inte heller ihop med COM-HPC.
Fig 1. COM-HPC Server-konstruktioner ger möjligheter till lastbalansering på kanten, inte bara genom virtualisering utan också tack vare möjligheten att skala antalet kärnor vid behov.
Master/slav-funktion för artificiell intelligens
Ändå har utvecklingsplanerna tagit med även flermodulsinstallationer på bärarkort eftersom COM-HPC ger möjlighet till master/slav-konfigurationer. Men denna möjlighet är inte främst avsedd för bärarkort med dubbla processorer, där två eller flera COM-HPC Server-moduler skulle kunna arbeta i master/slav-mod. Syftet är snarare att möjliggöra kommunikation mellan moduler för COM-HPC Server och moduler för COM-HPC FPGA och/eller COM-HPC GPGPU – ett tredje applikationsområde för COM-HPC-standarden vid sidan av moduler med COM-HPC Server och COM-HPC Client.
Master/slav-funktionen, som nu blir tillgänglig för första gången tillsammans med Computer-on-Modules, implementerades främst för att göra platta GPGPU- och FPGA-moduler tillgängliga i en formfaktor som är avsevärt mer kraftfull än MXM. Därför står COM-HPC-standarden också för integrationen av funktioner som artificiell intelligens, djup inlärning och digital signalbehandling, som är mycket viktiga inom telekommunikation.
Med COM-HPC kan alla dessa funktioner göras tillgängliga på ett tåligt, platsbesparande och skalbart vis. Eftersom COM-HPC Server-on-Modules vanligen inte implementeras på kort med dubbla processorer positionerar standarden sig i segmentet medelhöga prestanda inom serverteknologi, vilket är ett krav i många olika konfigurationer på kanten.
5G-infrastrukturservrar och uppkopplade kantsystem
En stor del av efterfrågan på robusta prestanda av serverklass kommer från kantapplikationer som återfinns direkt i nätverk och kommunikationsinfrastrukturer. Exempel härpå är små celler utomhus på 5G-radiomaster för taktilt, bredbandigt Internet, och carrier-grade kantservrar med 500 mm installationsdjup som idag finns i 3G/4G kantserverrum där installationsutrymmet i rackarna är just 600 mm.
Fig 2. COM-HPC Server erbjuder fler gränssnitt än COM Express Type 7.
I båda fallen har systemen ofta kompletterats med GPU- eller FPGA-kort för framtida 5G-konstruktioner, t.ex. för att möjliggöra styrning i realtid av dataöverföringar i mikrosekund-området, vilket åter igen understryker behovet av master/slav-funktionen i COM-HPC. COM-HPC-servermoduler är naturligtvis också attraktiva för den relaterade 5G-mätteknologin.
OCCERA-server med fullt stöd för NFV och SDN
Ett annat applikationsområde för COM-HPC-servermoduler är tåliga kantservrar som baseras på OCCERA (Open Compute Carrier-grade Edge Reference Architecture) och som byggs upp med rackdjup på 1 000 eller 1 200 mm. På grund av ökad virtualisering och stöd för NFV och SDN implementeras dedicerad utrustning för infrastrukturer i allt högre grad på sådana öppna standardplattformar. Här hittar vi brandväggar, system för inbrottsskydd, trafikstyrning, filtrering av innehåll, djup paketinspektion, enhetlig hantering av hotbilder samt antivirusapplikationer. Även här får användarna fördelarna med skalbarhet vid behov och kostnadseffektiva prestandauppgraderingar för nästa generation av servrar.
Fig 3. Det finns två olika formfaktorer för COM-HPC Server, som har plats för antingen 4 eller 8 SO-DIMM-socklar.
Från Industry 4.0 till konsolidering av arbetsbelastning
Slutligen, i kantutrustningen ingår också alla ”dim”-datorer (fog computers) som finns nära applikationerna, t.ex. redundanta moln vid kanten. I tuffa industriella miljöer behövs de för Industry 4.0-kommunikation och/eller för implementering av nya affärsmodeller och omfattande förebyggande underhåll med hjälp av ”big data”-analys vid kanten. Ett annat applikationsområde öppnas upp från möjligheten att samla ihop beräkningskraften på en enda kantserver istället för på distribuerade datorer – t.ex. för att styra en tillverkningscell med flera robotar.
Energinät, självkörande fordon och spårbunden transport
Liknande kantservrar behövs också i smarta energinät för att samordna generering och konsumtion av energi i mikronät och virtuella energinät i realtid. I sådana distribuerade applikationer kommer realtids 5G också ha betydelse eftersom de nödvändiga höga bandbredderna i infrastrukturen kan erhållas relativt enkelt. Även självkörande fordon kommer att ha nytta av 5G. De behöver också COM-HPC Server-prestanda i cockpiten eftersom de måste kunna bearbeta stora datamängder ombord för att analysera data från hundratals sensorer under bråkdelen av en sekund.
Fler applikationer återfinns inom transportområdet, bl.a. inom järnvägssektorn för att kunna tillhandahålla ett fullständigt sortiment av tjänster – både ombord på tågen och inom infrastrukturen – från säkerhetsteknologi till strömmande tjänster för infotainment. Mobila rundradiosystem och strömmande servrar, liksom utrustning för icke-publika mobila markradionät att användas för säkerhetsmyndigheter och -organisationer (BOS Digital Radio Network), är ytterligare applikationsområden för COM-HPC Server-moduler.
Fig 4. En kantserver kan förses med ytterst kundanpassade I/O mer kostnadseffektivt med Server-on-Modules, eftersom individuella bärarkort medför väsentligt lägra NRE-kostnader.
Smarta visionsystem
Ett avsevärt antal COM-HPC Server-tillämpningar återfinns inom medicinska stödsystem, industriella inspektionssystem och lösningar för videoövervakning för ökad säkerhet, där – i likhet med självkörande fordon – enorma mängder video- och bilddata måste bearbetas parallellt. Men en betydande andel av dessa applikationer kommer inte att använda COM-HPC GPGPU, utan istället söka efter än mer kraftfulla FPGA-tillägg eller PEG-grafik.
Modulära moderkort
Förutom i de ofta specialutvecklade systemen för dessa applikationsområden kommer COM-HPC-moduler också att användas på tåliga standardmoderkort med långsiktig tillgänglighet, som blir idealiska för mindre servrar. Dessa kort, som vanligen används rackmonterade eller i fristående apparatlådor, finns i format från µ-ATX (244 × 244 mm) till extended-ATX (305 × 244 mm). Även EEB-moderkort (305 × 330 mm) kommer att kunna använda COM-HPC. Eftersom några av de senare har två processorer kommer modulerna bara att kunna konkurrera med delar av denna formfaktors marknad.
Men de kommer att ge en tidigare otänkbar skalbarhet till denna marknad, och därtill ge möjligheten att kundanpassa I/O-gränssnitten ytterst kostnadsbesparande och effektivt. Detta ger enorma fördelar för kantapplikationer eftersom området industriell kommunikation är extremt heterogent på process- och fältnivå. Så sammanfattningsvis är COM-HPC Server-moduler väl lämpade för ett extremt brett omfång av kant- och dim-serverapplikationer i tuffa miljöer, varvid fokus tydligt tenderar att ligga på processorn.
Varför använda COM-HPC Server-moduler?
COM-HPC Server-specifikationen ger kantservrar alla fördelarna hos standardiserade Server-on-Modules, som vi känner väl till från Computer-on-Module-marknaden. Prestanda kan t.ex. anpassas efter de specifika behoven hos applikationen. I ett rack med identiskt lika serverkortplatser är det därför möjligt att anpassa serverns totala prestanda genom utformningen av varje enskild modul och därigenom optimera pris/prestanda-förhållandet för applikationen. Detta är en extra viktig fördel för realtidsapplikationer, där det inte är går att enkelt skala lastbalanseringen utan hänsyn till de verkliga fysiska resurserna. Istället måste det gå att allokera reella resurser på ett anpassat sätt.
Fig 5. Specifikationen av en ny, avancerad standard för embedded-datorer blev nödvändig eftersom COM Express lanserades 2005 och är idag 15 år gammal (klicka för större bild)
När prestandauppgraderingar implementeras utgående från en befintlig systemkonstruktion kan kostnaderna för att ta steget till nästa generation reduceras till omkring 50 procent av den ursprungliga investeringen. I de flesta fall räcker det ju att helt enkelt byta ut processormodulen. Detta minskar totalkostnaderna avsevärt och ger snabbare återvinning av investeringen. Tillverkaroberoende standardisering ger också goda second-source-möjligheter, konkurrenskraftiga priser och långsiktig tillgänglighet.
Slutligen är Server-on-Modules mer miljömässigt hållbara och leder därför på sikt till lägre CO2-utsläpp vid tillverkningen. Därigenom uppstår – trots all energi som konsumeras under kontinuerlig drift – väsentligt mindre miljöpåverkan.
Avancerade managementgränssnitt
En annan fördel med den nya specifikationen är att det nu finns ett dedicerat gränssnitt för fjärrmanagement. Detta gränssnitt definieras idag av PICMG Remote Management Subcommittee. Syftet är att göra delar av den funktionsuppsättning som specificeras i IPMI (Intelligent Platform Management Interface) tillgängliga för fjärrmanagement av kantservermoduler. Liksom med slavfunktionen kommer COM-HPC därför också att erbjuda utökade funktioner för fjärrmanagement för kommunikation med modulerna.
Denna funktionsuppsättning garanterar tillverkare och användare samma tillförlitlighet, tillgänglighet, hanterbarhet och säkerhet som brukar finnas i servrar. För individuella behov kan denna funktion expanderas via kortets managementstyrkrets för att kunna implementeras på bärarkortet. Detta ger tillverkarna en enhetlig bas för fjärrhantering som kan anpassas för specifika krav.
Kundanpassning av gränssnitt och uppgradering av prestanda
Som helhet ger COM-HPC Server många fördelar. Vid alla tillfällen när kantservrar behöver en mycket specifik uppsättning av gränssnitt som dessutom måste få plats på begränsat utrymme – då är Server-on-Modules helt enkelt oslagbara. I sådana fall kan bärarkort implementeras mycket snabbare och mer kostnadseffektivt jämfört med en helt kundanpassad konstruktion. Upp till 80 procent av NRE-kostnaderna, och ibland ännu mer, kan sparas in på detta vis.
Härtill kommer att COM-HPC Server-moduler med ytterst stor sannolikhet kommer att få en bred spridning i vanliga industriella servrar eftersom kostnadsfördelarna vid uppskalning till nästa generation är oöverträffade. Användandet av moduler kommer att ytterligare förstärkas av det faktum att serverprestanda i allt högre grad kommer att tillhandahållas ”as-a-service”, så investeringarna kommer att bäras av tjänstleverantörerna snarare än av användarna.
Christian Eder, marknadsdirektör på congatec AG och ordförande för PICMG COM-HPC Subcommittee
Fakta om COM-HPC
COM-HPC: En standard, tre applikationsfält
Standarden PICMG COM-HPC specificerar övergripande tre varianter av moduler. Först så kallade COM-HPC Server-moduler, som är positionerade ovanför specifikationen COM Express Type 7. För det andra COM-HPC Client-moduler, som marknadsförs som efterföljare till COM Express Type 6. Ett tredje applikationsfält för specifikationen är FPGA/GPGPU-moduler, för vilka tillämpliga master/slav-funktioner har reserverats i standarden.
COM-HPC Server- och FPGA/GPGPU-moduler uppfattas huvudsakligen som innovationer. COM-HPC Client-moduler skapar däremot oro över att de kan ha en omstörtande effekt på den populära COM Express Type 6. De som använder dessa moduler är därför något mer skeptiska till COM-HPC-standarden. De vill skydda sina befintliga investeringar i COM Express och frågar sig därför: Hur länge kommer COM Express att finnas tillgänglig, och måste jag gå över till COM-HPC nu? Vilka fördelar ger detta för mina kunder? De vill framför allt veta vad COM-HPC Client-moduler har att erbjuda och hur de skiljer sig från COM Express.
Men om vi talar om Computer-on-Modules istället för om Client-moduler, då förstår användarna snabbt det nya konceptet. De känner väl till fördelarna hos dessa produkter alltsedan ETX Computer-on-Module-standarden publicerades i början av 2000-talet. Och det är just detta kunnande som ger svaret på nästan alla frågorna.
En ledande COM-standard har alltid varit en garanti för massivt långsiktig tillgänglighet, och detta gäller även för alla befintliga COM Express-konstruktioner. COM Express Computer-on-Modules kommer aldrig att snabbt bara försvinna eftersom tusentals tillverkare använder dem i sina industriella applikationer och sätter sin tillit till löftena om långsiktig tillgänglighet till embedded-processorer och -formfaktorer. Och det gör de rätt i! Så du kan tryggt fortsätta med dina COM Express-konstruktioner. Det finns verkligen ingen anledning att göra några ändringar så länge som den befintliga gränssnittspecifikationen uppfyller dina krav.
Å andra sidan, att flytta över från COM Express- till COM-HPC-konstruktioner kan verkligen rekommenderas för de utvecklare som vill kunna dra nytta av dessa nya möjligheter: PCIe Gen 4.0, fler än 32 PCIe-banor för omfattande I/O, 4 videogränssnitt, USB 4.0, 25 Gbit Ethernet samt avancerad fjärrmanagement. Men om du inte tillhör denna grupp finns det ingen anledning att rusa mot en förändring, utan koppla av och fortsätt att lita på de etablerade öppna standarderna.
Filed under: Embedded