FDA skal se Watson efter i sømmene

Samtidigt med, at it-virksomheden IBM på kongresser og i reklamemateriale udråber sin supercomputer Watson for Oncology til at være kræftpatienters bedste rådgiver, er der udbrudt uro i kulisserne, hvor man frygter, at Watson for Oncology i stedet kan skade patienterne.

Amerikanske læger, eksperter og forbrugergrupper kræver nemlig nu, at lovgiverne i kongressen sørger for, at computersystemer, der arbejder med sygdom og sundhed, og som i øvrigt baserer sig på kunstig intelligens som Dr. Watson, hurtigst muligt fremover skal monitoreres af de nationale sundhedsmyndigheder, FDA, som i dag ikke har ret til indsigt i Dr. Watsons kvalitet og patientsikkerhed.

Kritikken kommer blandt andet efter, at det amerikanske sundhedssite, STAT, som ejes af den respekterede avis Boston Globe, i en kulegravende rapport har kritiseret Dr. Watson for Oncology for ikke at leve op til IBM’s teknologiske og medicinske løfter. Rapporten sætter desuden et stort spørgsmålstegn ved supercomputerens sikkerhed for patienterne, da der ifølge STAT hverken foreligger tredjeparts undersøgelse af Watsons kvalitet eller nogen former for eksterne reviews eller evidens for, at Dr Watson for Oncology’s behandlingsforslag er korrekte.

“Indtil vi forstår brugen af den kunstige intelligens, og hvordan algoritmerne fungerer, er der virkelig behov for transparens og kontrol udført af tredje part. Vi ønsker at sikre, at der ikke udføres skader i den sidste del af processerne, siger Dr. Reshma Ramachandran, som er en af to formænd for FDA’s task force i lægernes faglige selskab, National Physicians Alliance.

Ifølge IBM kan Watson for Oncology ellers ved hjælp af blandt andet kunstig intelligens, kognitiv databehandling, adgang til alle relevante internationale forsknings- og behandlingsdata sammenkoble al information om den enkelte patient med henblik på i løbet af sekunder at finde de bedst mulige og særligt skræddersyede behandlingsforlag til hver enkelt patient.

Men på onkologisk afdeling på Rigshospitalet, hvor en række af Danmarks mest anerkendte kræftlæger fra hele landet i efteråret testede Watsons kompetencer overfor lungekræft, brystkræft og mave-tarm kræft, er centerleder Leif Panduro Jensen ikke uddelt begejstret for kvaliteten i behandlingsforslagene efter, at testen viste, at en tredjedel af Watsons behandlingsforslag var behæftede med fejl, at en tredjedel ikke var præcise nok, og at kun den resterende tredjedel var ok.