Vad är lokal AI?
Lokal AI är AI som körs på organisationens egna datorer eller servrar, så att frågor och dokument inte behöver skickas till en extern tjänst.
Med en publik AI-tjänst reser varje fråga till en server någon annanstans. Med lokal AI finns modellen där ni är. Frågan, dokumenten och svaret stannar i er miljö.
Lokal AI kan vara uppkopplad mot internet eller helt avskild. Det som skiljer den från en molntjänst är var beräkningen sker.
Det ger kontroll över uppgifterna men kräver att någon sköter driften. iSearch kan köras helt offline hos er eller i en egen miljö hos oss.
Så fungerar det
Lokal AI kräver att modellen finns i den egna miljön, oftast en öppen modell, och att det finns servrar som kan köra den. Dokumenten läses in och indexeras på samma plats. När en medarbetare frågar sker sökning, beräkning och svar utan att något skickas till en extern tjänst.
Därför spelar det roll
Lokal AI gör det möjligt att använda AI på uppgifter som annars inte får lämna organisationen, som patientuppgifter, sekretessbelagda handlingar eller affärshemligheter. Det förenklar också frågor om tredjelandsöverföring, eftersom ingen sådan överföring sker.
Ett exempel. En kommun vill att socialtjänsten ska kunna fråga i sina riktlinjer och mallar. Med lokal AI kan materialet användas utan att någon uppgift lämnar kommunens nät.
Att tänka på
Lokal AI flyttar ansvaret för drift, uppdateringar och kapacitet till er eller er partner. Planera för hur många som ska använda tjänsten samtidigt.
En lokal modell kan vara mindre än de största tjänsterna. För frågor ur egna dokument spelar det ofta mindre roll, men testa med era vanligaste uppgifter.
Vad det betyder för er
Lokal AI är ofta det kortaste svaret på frågor om sekretess och dataskydd. Väg det mot vem som ska sköta driften.
Vanliga frågor
Räcker lokal AI för våra behov?
För frågor ur era egna dokument är underlaget ofta viktigare än modellens storlek. Prova med era egna frågor och jämför.
Vad krävs för att köra AI lokalt?
Servrar med tillräcklig beräkningskraft, ofta med grafikprocessorer, och någon som ansvarar för drift och uppdateringar.
Är lokal AI samma sak som egen installation?
Begreppen ligger nära varandra. Egen installation gäller hela programvaran. Lokal AI betonar att själva AI-modellen körs hos er.
Relaterade begrepp
Läs mer
Alla begrepp Uppdaterad