Forskning: AI-apps om hudsygdomme kan være risikable for almene borgere

Forskning viser, at apps til diagnostik af sygdomme, der bruger kunstig intelligens på telefoner og tablets, kan være så usikre, at de kan udgøre en fare for almindelige brugere.

Selvom der i årevis har været tale om, at kunstig intelligens en dag vil gøre det muligt for almindelige mennesker at opdage for eksempel modermærkekræft via en mobilapp, så er teknologien fortsat ikke god nok. Det konkluderer forskerne bag et nyt amerikanske studie, publiceret i Jama Dermatology.

Forskerne, der ønskede at vurdere kvaliteten af det stigende udbud af dermatologi-apps, identificerede i alt 41 forskellige engelsksprogede AI-baserede applikationer, der havde som primære formål at opdage og diagnosticere hudkræft og andre hud- eller hårsygdomme. 32 af de 41 apps henvendte sig udelukkende til patienter, mens de resterende var målrettet læger eller begge dele.

”Fundene afslørede adskillige bekymrende aspekter ved det nuværende udbud af AI-apps inden for dermatologi,” skriver forfatterne, der generelt fandt, at applikationerne manglede både videnskabelig evidens for deres påståede egenskaber, involvering af dermatologer og transparens i forhold til databeskyttelse og de bagvedliggende algoritmer

Kalder på mere regulering

Hele 10 af de 41 apps hævdede at kunne stille en diagnose til trods for, at ingen af dem kunne dokumentere denne påstand med videnskabelige undersøgelser. Kun 2 af de 14 apps, der kom fra Europa, havde en EU-godkendelse, mens ingen af de 14 amerikanske apps var godkendt af FDA.

Applikationerne manglede generelt også relevante informationer til brugerne: De fleste apps manglede information om test- og træningsdatasæt og havde ingen information om algoritmen bag app’en, og kun 16 apps skrev, at de gjorde brug af dermatologer.    

I studiet undersøgte man også, hvordan de forskellige applikationer informerede om lagring af brugernes uploadede billeder. 39 procent skrev, at de beholdt billederne, men i knap halvdelen af disse tilfælde blev det ikke oplyst, hvad billederne efterfølgende blev anvendt til. 

Forskerne konkluderer i studiet, at til trods for AI-dermatologi-applikationers lovende potentiale, kan de i deres nuværende tilstand potentielt udgøre en risiko for brugerne på grund af applikationernes mangler og vildledende information. 

“Det er nødvendigt at håndtere udfordringerne i forhold til effekt, sikkerhed og transparens gennem effektiv regulering, validering og standardiserede evalueringskriterier, hvis man vil høste fordelene ved disse apps samtidig med, at risici minimeres,” siger de.