Vad krävs för säker AI inom vården?

Efter ett besök återstår ofta en stund vid datorn. Journaltexten ska skrivas, kanske en remiss eller ett intyg. Det är nödvändigt arbete, men det tar tid från nästa patient. Här kan AI göra verklig skillnad. Läkaren dikterar sina anteckningar och får ett första utkast att granska, i stället för att börja med en tom sida.

Samtidigt finns det få miljöer där kraven är högre. Patientuppgifter omfattas av sträng lagstiftning, och patienten ska kunna räkna med att journalen bara läses av dem som behöver den i vården. Frågan är därför inte om AI kan hjälpa till i vården. Frågan är vad som måste vara på plats för att det ska vara säkert.

Patientuppgifterna stannar där de hör hemma

Allt börjar med var uppgifterna behandlas. När en AI-tjänst skickar journaltext till en extern leverantör uppstår frågor om personuppgiftsbiträden, överföringar och sekretess som kan ta månader att utreda. Ibland finns det inget bra svar alls.

Det enklaste svaret är att låta hela kedjan köras i vårdgivarens egen miljö, språkmodellen inräknad. Då lämnar patientuppgifterna aldrig verksamheten, och ingen extern part behöver ta del av dem. Det gör bedömningen enklare för både jurister och säkerhetsansvariga, och det gör det lättare att förklara för patienterna hur deras uppgifter hanteras.

Lika viktigt är att uppgifterna inte används till något annat. En säker lösning använder journaltexten för att ta fram utkastet, och till ingenting mer. Den tränar inga modeller på patienternas uppgifter.

Människan granskar och ansvarar

AI i vården är ett stöd, aldrig en ersättning för klinisk bedömning. Ett utkast till journaltext är just ett utkast. Den som har träffat patienten läser, justerar och tar ställning, och ansvaret ligger kvar där det alltid har legat.

Det behöver märkas i arbetsflödet. Ett bra verktyg gör det lätt att granska och ger aldrig sken av att ett utkast är färdigt. Samma sak gäller när personalen frågar efter en rutin. Svaret ska bygga på verksamhetens egna, gällande dokument och visa vilka dokument det kommer från. En sjuksköterska som undrar hur ett visst prov ska tas ska kunna öppna rutinen och se själv. Ett svar utan källa måste tas på tro, och det räcker inte i vården.

Det har också en annan fördel. När alla får svar ur samma rutiner får den som är ny samma besked som den som har arbetat i tjugo år.

Hur det kan se ut i en vanlig arbetsdag beskriver vi i artikeln om AI för vårdcentraler.

Rätt person ser rätt uppgifter

I vården har inte alla tillgång till allt, och en AI-lösning måste följa samma princip som övriga system. Personalen loggar in med det konto de redan har, med tvåstegsverifiering. Rollen avgör vad var och en kan se och göra. Ändringar av till exempel roller eller lagringstider bör kräva godkännande av ytterligare en person, så att ingen ensam kan öppna upp mer än tänkt.

Det måste också gå att i efterhand se vem som gjorde vad. En revisionslogg som inte kan ändras utan att det syns, och som kan kopplas till den säkerhetsövervakning som redan finns, gör att AI-stödet blir en del av den vanliga uppföljningen i stället för en ny blind fläck. Kryptering under överföring och i vila är en självklar grund.

Så fungerar det i iSearch

iSearch används i dag inom vården. Läkaren dikterar efter besöket, och assistenten tar fram utkast till journaltext och remiss utifrån verksamhetens egna mallar. Läkaren granskar och ansvarar för texten. Personalen kan också få svar i det dagliga arbetet, direkt ur verksamhetens rutiner.

Hela kedjan i iSearch kan köras i er egen miljö, så att patientuppgifter inte lämnar den, och även helt avskild med air-gap när det krävs. Varje kund får en egen, separat installation. SSO, MFA, rollbaserad åtkomst, fyraögonsprincip och en manipulationssäker revisionslogg ingår. Varje svar visar vilka dokument som lästes, och era uppgifter används aldrig för att träna modeller.

Se hur iSearch används i vården, läs mer om säkerheten eller boka en genomgång.