Kunstig intelligens i helsevesenet
Vi har jobbet med kunstig intelligens (KI) i helsevesenet siden 2019, og har ved hjelp av KI behandlet over 200 000 pasienter. Da de store språkmodellene (som ChatGPT) kom for fullt i 2022, la vi alt vårt fokus i å forstå disse, og bruke disse til å bygge verktøy som skal hjelpe klinikere til å ta bedre og mer effektive beslutninger.
MaiaMD baserer seg på KI, særlig i form av store språkmodeller. KI byr på noen åpenbare fordeler innen helse, men er også knyttet til stor potensiell risiko.
Etter å ha jobbet med dette i noen år, ser vi på språkmodeller og MaiaMD litt som en skalpell. Det er bruken som avgjør om den er lindrende eller skadelig.
Vi mener KI har et enormt positivt potensiale innen helse, men også stort potensiale til å gjøre skade. Derfor er forståelse, begrensning og rammeverk nøkkelen for trygg bruk av KI i helse.
Hva skjer inne i MaiaMD?
MaiaMD, og all annen KI, består både av komponenter vi kan se, forstå, og forklare; og komponenter vi ikke kan se, forstå og forklare. MaiaMD er ikke deterministisk altså svaret kan variere selv om spørsmålet er likt. Som lege kan dette oppleves frustrerende, selv om også leger må anses å være ikke-deterministiske. Vi kan endre våre svar basert på dagsform, vår erfaring og vår tilegnede kunnskap.
Determinisme er ikke et mål i seg selv, så lenge svaret er riktig og så nære det optimale svaret som mulig. For å oppnå dette, kan vi justere mange parametre i MaiaMD. Alt fra prompt, RAG-funksjonalitet, referansebruk, antall prosesseringer, tokenmengde og så videre.
Det som betyr noe er kvaliteten i outputen fra MaiaMD, og den kvaliteten jobber vi med kontinuerlig.
Medisinsk kvalitetsarbeid
Nettopp fordi MaiaMD ikke er deterministisk, velger vi å gjøre kontinuerlige tester av den medisinske kvaliteten på svarene som MaiaMD gir. Vi har faste ukentlige møter hvor leger systematisk tester blant annet følgende parametre på svar fra MaiaMD:
- Kildebruk
- Medisinsk kvalitet
- Hastighet
- Bruk av fotnoter i svar
- Svarstruktur
- Svarlengde
I tillegg setter vi opp ekstra møter for testing og vurdering når vi føler det er nødvendig. Det kan være fordi vi har fått tilbakemelding om at MaiaMD har kommet med et uriktig svar, eller dersom vi har fått en fiks idé til hvordan vi kan gjøre MaiaMD bedre.
Personvern
Å anonymisere helsedata er svært vanskelig, og i en del tilfeller umulig. Derfor har vi bygget en teknologi som opprettholder personvernet uten å anonymisere data.
MaiaMD sin chat og tale-til-notat kan håndtere sensitiv data, og du trenger ikke å forsøke å anonymisere det du skriver eller forteller. Data slettes fra MaiaMD etter 24 timer, og er ikke mulig å gjenopprette på noen måte etter dette.
All data du putter inn i MaiaMD, både tekst og tale, brukes ikke til å trene algoritmer eller kunstig intelligens.
Kort fortalt kan du se på MaiaMD som et journalsystem når det kommer til grad av sikkerhet og personvern.
Tilbakemelding fra leger
Under hvert svar fra MaiaMD kan du som bruker gi tilbakemelding på svaret. Vi er helt avhengige av tilbakemelding fra brukere, og setter enormt pris på at du tar deg tid til å fortelle oss om eventuelle feil MaiaMD gjør. Du skal vite at samtlige tilbakemeldinger gjennomgås av helsepersonell hos oss.
Vi ber deg bruke MaiaMD med måte. Vi gjør så godt vi kan for å informere deg om både styrker og svakheter ved MaiaMD, men husk at MaiaMD alltid vil være overbevisende - selv om MaiaMD tar feil.
Vi ser på MaiaMD som kollegaen som gir oss utmerkede svar i 98% av gangene vi spør, men som bommer i 2% av sine svar. En slik kollega vil stort sett være et veldig positivt bidrag, men må behandles med stor grad av omhu.
