Ljudet av en covid-19-smittad utan symptom
I november presenterades en studie där en AI-algoritm har lärt sig att identifiera covid-19-smittade personer baserat på hur de låter när de hostar. Utifrån ett stort material, 70 000 inspelade hostningar, kunde algoritmen med en träffsäkerhet på 98,5 % avgöra vem som var smittad av covid-19. För smittade utan symptom var siffran 100 %.
Exakt vad algoritmen ”hör” i hostningarna har man inte kunnat ringa in ännu, men tydligt är att till och med smittade som inte har några symptom hostar på ett speciellt sätt. Imponerande resultat, men vi hade gärna velat förstå vad det är den uppfattar som människor missar. Vi vill kunna tolka och förstå AI:n för att öka vår egen kunskap.
Förklaringsbar och tolkningsbar AI
Ett viktigt forskningsområde inom artificiell intelligens är tolkningsbar AI (interpretable AI). AI-modellerna lär sig från de data de matas med. Ingen människa har talat om för AI:n vilka regler den ska följa, utan den hittar själv statistiska samband i de data den blivit tränad med.
I många branscher finns krav på att kunna motivera ett beslut eller regelverk som måste följas. Då är det vara en utmaning att AI:n är som en svart låda. Det krävs att den artificiella intelligensen är tolkningsbar eller förklaringsbar. Eller helst både och.
Att tänka utanför den svarta lådan
Det finns flera sätt att försöka förstå varför en AI ger ett visst svar. Vi kan bygga en surrogatmodell som är lättare att förstå och som efterliknar AI:ns beslut. Vi kan göra små förändringar i indata för att se hur det påverkar resultatet. Och vi kan ta reda på vilka parametrar som påverkar varandra.
Tolkningsbar AI ger oss svaret på hur olika indata påverkar resultatet, men inte varför resultatet blir som det blir. För att få reda på det behövs en förklaringsbar AI, en AI som så att säga kan motivera varför den har kommit fram till ett visst resultat.
Ett annat sätt att se på data
Savantics doktorand Miroslav Valan skapade en modell för att känna igen fåglar, baserat på deras läten. För att analysera fågelsången omvandlades den först till bilder, avbildningar av lätets olika ljudspektrum, deras fördelning över frekvens och tid. Bilderna användes som grund för att avgöra fågelarten.
Det är förstås möjligt att göra samma sorts analys av de inspelade covid-19-hostningarna. Genom att låta AI:n analysera bilder av ljuden, i stället för att ”lyssna” på dem, så går det att få fram annan information ur dem. AI:n måste inte alls efterlikna det mänskliga örat, utan har en egen metod för att bearbeta ljud.
Om AI och människor ska lyckas tillsammans ska vi dra nytta av våra respektive styrkor, som att AI kan bearbeta sinnesintryck på andra sätt än vi gör.
När AI lärde forskarna se skillnad på skalbaggar
Miroslav Valan har vunnit flera stora internationella tävlingar i bildanalys. Han har själv och utan hjälp av några superdatorer besegrat team från bland annat Facebook.
Miroslav byggde en AI-modell som tittar på en bild av en skalbagge och kan avgöra vilken skalbaggsart den tillhör. Modellen blev bättre på det än de mänskliga experter som brukar göra samma jobb. Den kunde också könsbestämma skalbaggarna, vilket experterna inte kunnat göra utan att först dissekera dem.
När vi undersökte vad modellen tittade på, visade det sig att särskilda små skåror på undersidan av magen och frambenens olika utformning var skillnaden, vilket bara var tydligt i ett visst ljus. AI:n hade studerat skalbaggarna på ett sätt som var nytt för experterna. Experterna, som studerat skalbaggar hela sina yrkesliv, lärde sig något nytt från AI:n och kan nu göra samma analys.
AI kan hjälpa oss att förstå världen på nya sätt. Det kan tyckas spöklikt att en AI med 100 % träffsäkerhet identifierar små ljudvariationer som medicinska experter inte överhuvudtaget uppfattar. Vi får vänja oss vid tanken på att en AI fattar sina beslut på andra sätt än vi. Däremot måste vi i många sammanhang kunna fortsätta kräva att människorna som utvecklar och använder AI-modeller också kan hållas ansvariga för besluten. Möjligheterna oändliga när alla yrken, från läkare till entomologer, med AI till hjälp får hörsel och syn som superhjältar!
