– Det är inget fel med att köra runt i trafiken med AI-baserade bilar, men det räcker inte, säger Philipp Slusallek, från det tyska forskningscentret DFKI. Vi måste också ha en simulerad virtuell miljö där ovanliga risker kan testas ur alla möjliga synvinklar. Man kan inte acceptera att en autonom bil ser en person som leder en cykel, men klassar personen som irrelevant.

Philipp Slusallek, från det tyska forskningscentret DFKI

Det mesta tyder nu på att den Uber-bil som för en tid sedan dödade en cyklist hade utmärkt väl fungerande sensorer som skickade all nödvändig information till bilens dator. Problemet låg i stället i inlärningen, där datorn inte tolkade situationen som en risk. Den valde i stället att bortse från informationen och köra på cyklisten utan att varken väja eller sänka farten.

Det här är naturligtvis fullständigt oacceptabelt, men inte så svårt att förstå. Att köra runt med ett självlärande fordon innebär att systemet efter en tid blir mycket bra på att hantera alla vanliga problem. Däremot kommer systemet inte att utsättas för särskilt många ovanliga och livsfarliga situationer.

– Det är en stor skillnad mellan ett autonomt fordonssystem och till exempel ett AI-system för att spela spel, säger Philipp Slusallek. När Qualcomm byggde ett självlärande AI-system för att spela Go blev resultatet över all förväntan och datorn kunde ganska snabbt slå alla motspelare. Det berodde på att det självlärande systemet kunde testa alla tänkbara drag och förutse alla tänkbara möjligheter.

– Men i trafiken går det inte att testa alla möjligheter i verkliga livet. De farligaste situationerna inträffar alldeles för sällan för att den typen av inlärning skall fungera.

Det gäller därför att skapa virtuella verkligheter som är tillräckligt realistiska och där man kan testa och validera olika typer av risker med en uppsjö av variationer. Det här är naturligtvis något som biltillverkarna gör, men Uber-olyckan visar att det fortfarande är långt till målet. Det kommer att krävas massor av forskning och utveckling.

Philipp Slusallek är involverad i Genesis-projektet, där man skapar en öppen plattform för träning och validering av AI. Projektet baseras på OpenDS, en öppen körsimulering som utvecklats hos DFKI.

– Det är viktigt att ha en gemensam öppen plattform och inte bara biltillverkarnas egna plattformar. Forskning och utbildning måste ske på öppna plattformar.

AI innebär en fundamental förändring inom en mängd områden, inte bara fordonsindustrin. Därför hoppas Philipp Slusallek att EU skall lyckas göra samma sak för AI som man gjorde när man byggde CERN. Genom att länka samman Europas fragmenterade AI-landskap vore det möjligt att nå samma framsteg som CERN-projektet har inneburit.

– Vi talar här om ett mycket stort EU-projekt, med ett tidsspann på 10 år och en budget runt 100 miljoner euro per år. Tanken är att hälften av pengarna skall komma från EU och hälften från de medverkande företagen. Förslaget finns på plats och kallas Humane AI Flagship. Jag hoppas att det blir verklighet.

Philipp Slusallek var i morse keynotetalare på den europeiska versionen av användarkonferensen CDNLive. Konferensen anordnas varje år av Cadence och hålls i olika delar av världen. Den europeiska konferensen hålls i München.

Filed under: Utländsk Teknik