HENSIKT
Dokumentet skal sikre ansvarlig bruk av generativ kunstig intelligens (KI) ved Sørlandet sykehus HF (SSHF) og gjelder for alle ansatte som bruker generativ KI i jobbsammenheng.
oppsummering
- Hva er generativ KI?: Generativ KI er teknologi som kan lage nytt innhold som tekst, bilder og musikk basert på mønstre og data den har lært fra tidligere eksempler. Tenk på det som en smart assistent som hjelper med å skape ting på en kreativ måte.
- Bruk av generativ KI: Det er tillatt å bruke generativ KI for å effektivisere og forbedre arbeidsprosesser, men det må gjøres under visse vilkår for å sikre personvern og pasientsikkerhet.
- Microsoft Copilot: For ansatte i SSHF er Microsoft Copilot den primære generative KI-tjenesten. Generative KI-tjenester (Microsoft CoPilot/Bing Chat, ChatGPT, DeepSeek, Claude, ol) skal ikke benyttes til å bearbeide personopplysninger, helseopplysninger eller andre taushetsbelagte data. Generativ KI skal heller ikke benyttes til medisinsk formål eller klinisk beslutningsstøtte da det stilles krav om særskilt godkjenning for dette.
- Eksempler på bruk: Copilot kan brukes til å generere utkast til dokumenter, omorganisere tekst, lage sammendrag, forklare komplisert tekst, oversette mellom språk, og gi tilbakemelding på klarhet og lesbarhet.
MÅLGRUPPE
Alle medarbeideres ved SSHF som bruker generativ KI ifm. arbeidsrelatert aktivitet.
Ansvar
Alle ansatte:
- Følge denne prosedyren
- Kvalitetssjekke innholdet som skapes med generativ KI
- Holde seg oppdatert på endringer i denne prosedyren
Dette dokumentet beskriver ikke bruk av KI for klinisk støtte. Se dokumentet Kunstig Intelligens - Overordnet Instruks for informasjon om roller, ansvarsforhold, definisjoner samt føringer for innføring, bruk og utvikling av KI for klinisk støtte ved SSHF.
FREMGANGSMÅTE
Generativ KI er en type teknologi som kan lage nytt innhold, som tekst, bilder, musikk og mer, basert på mønstre og data den har lært fra tidligere eksempler. Tenk på det som en veldig smart assistent som kan hjelpe med å skape ting på en kreativ måte.
Teksten ovenfor er skapt av Microsoft Copilot ved å stille spørsmålet (en «prompt»): «kan du på et folkelig språk gi meg en kort beskrivelse om hva generativ KI er?»
Bruk av generativ KI kan utfordre personvernet og utfordre spørsmål om pålitelighet, troverdighet og ansvarsforhold. I helsevesenet er det spesielt utfordrende å sikre at bruk oppfyller strenge krav til pasientsikkerhet, etikk og nøyaktighet, samtidig som sensitive pasientopplysninger beskyttes. Det kreves derfor aktsomhet rundt bruk av generativ KI.
Det er tillatt å bruke generativ KI for å effektivisere og forbedre arbeidsprosesser, men under vilkår som er beskrevet i den overordnede instruksen og føringer gitt i dette dokumentet.
For ansatte i SSHF er Microsoft Copilot den primære generative KI-tjenesten. Ved bruk av andre åpne generative KI-tjenester som ChatGPT, Gemini, Claude, Grok, DeepSeek, Bing Chat m.fl. er ikke informasjon beskyttet slik de er ved bruk av Copilot gjennom avtale inngått mellom HSØ og Microsoft.
Du skal likevel ikke under noen omstendigheter laste opp intern tekst eller dokumenter til KI-tjenester når innholdet er underlagt taushetsplikt eller har et beskyttelsesbehov. Bakgrunnen for dette er at KI-tjenester lagrer informasjonen for læring og gjenbruk, og dermed kan informasjon fra SSHF komme på avveie gjennom slik bruk.
Om generativ KI og det norske språket
Copilot og andre tilsvarende løsninger benytter normalt engelsk som sitt basis-språk, men oversetter dine spørsmål fra norsk til engelsk, og tilbake til norsk når resultatet presenteres. Dette kan i seg selv gi utfordringer og føre til misforståelser. Språkrådet har testet bruk av ChatGPT både på bokmål og nynorsk, og har i en artikkel[1] beskrevet KI-språkets fallgruver. Konklusjonen er at ChatGPT ikke skriver så godt norsk, og at det er stor forskjell på bokmål og nynorsk. Språkmodellene er under stadig utvikling, men testen viser viktigheten av å kontrollere resultatene.
Copilot[2] inngår som del av tjenestetilbudet fra Sykehuspartner. Tjenesten finnes i 2 varianter, en «på nettet» som er basert på informasjon i det offentlige internett (tilsvarende ChatGPT), og en «på arbeid» hvor Copilot også har tilgang til din interne informasjon i HSØ og som er lagret i Microsoft sin 365-sky. Copilot «på arbeid» krever en ekstra (og relativt kostbar) lisens som foreløpig ikke er gjort allment tilgjengelig for ansatte i HSØ. Pr første kvartal 2025 pågår det arbeid i regi av Sykehuspartner for å evaluere bruk av Copilot «på arbeid». Foreløpig er det dermed kun «på nettet» som er tilgjengelig for ansatte i SSHF.
Microsoft Copilot på nett
Copilot er en del av Microsoft 365 og inngår i nettleseren Edge. Denne utgaven baserer seg på data som er gjort tilgjengelig på internett.
- Alle ansatte har via sin SSHF brukerkonto for PC også en brukerkonto hos Microsoft, og med det også tilgang til Copilot på nett.
- Copilot er beskyttet under avtalevilkår Helse Sør-Øst har med Microsoft, og alle data i tjenesten er kryptert og beskyttet. Microsoft eller andre har ikke tilgang til samtalehistorikken, og data vil ikke bli brukt av Microsoft til å trene KI-modellen videre.
- Copilot på nett skal ikke benyttes til å bearbeide foretakets data eller dokumenter når disse inneholder helse- og personopplysninger, informasjonen er taushetsbelagt eller underlagt et beskyttelsesbehov.
For å bruke Copilot:
- Åpne Edge nettleseren og gå til Copilot ved å åpne nettsiden m365.cloud.microsoft
- Alternativ kan du klikke på Copilot-ikonet eller Copilot i menyen i Microsofts søkeside bing.com.
- Sjekk at brukernavnet ditt vises opp i øvre høyre hjørnet. Dette skal normalt skje automatisk, men hvis ikke må du logge deg på før du kan bruke tjenesten i beskyttet modus.
NB: Vanlig søkefelt i Bing bruker også KI, men data her er ikke beskyttet.
Copilot til administrativt bruk:
- Generering av utkast til brev/dokumenter, prosedyrer, e-post og presentasjoner
- Omorganisering av tekst i eksisterende dokumenter og presentasjoner
- Generere sammendrag av tekst
- Forklare betydningen av komplisert tekst
- Oversettelse mellom ulike språk
- Gi tilbakemelding om klarhet og lesbarhet i dokumenter for å forbedre innhold
- Identifiser og rett opp feil i grammatikk og syntaks
Copilot til forskningsformål:
- Generer innsikt (trender, mønstre og korrelasjoner) i anonymiserte datasett for å
identifisere og forstå komplekse konsepter mer effektivt - Identifisere relevante forskningsartikler, ekstraher nøkkelinformasjon og
oppsummere funn - Generer diagrammer og andre visuelle hjelpemidler
- Automatiser rutinemessige oppgaver som formatering av dokument og referanser
- Analyser stilen til eksisterende dokumenter, identifiser mønstre og generere
forslag til forbedringer - Identifiser og rett opp feil i grammatikk og syntaks
- Dersom du bruker Copilot for å identifisere referanser må du alltid sjekke at disse faktisk eksisterer og at innholdet stemmer
Behandling av tekst i Copilot:
Nedenfor får du råd om bruk av generativ KI til tekstbehandling, utarbeide sammendrag, korte ned tekster mm.
- Fremfor alt: Ikke bruk KI for å behandle personopplysninger eller opplysninger underlagt taushetsplikt, for eksempel journalnotater, pasientopplysninger mm.
- Bruk av KI på annen eksisterende tekst kan være fordelaktig: Bruk gjerne KI til å forbedre, korte ned, utarbeide sammendrag, kulepunkter eller lignende av eksisterende tekst.
- Ta ikke beslutninger som angår enkeltpersoner basert på KI, jf også AI-lovens[3] artikkel 5.
- Vær varsom ved bruk av generativ KI som oppslagsverk: Språkmodeller er optimalisert for å “gi et svar” uten nødvendigvis å gi riktig svar. Ikke alle språkmodeller er trent på tilstrekkelige mengder med data om emnet du spør om eller er oppdatert med den siste informasjonen. Dette i motsetning til Google og andre søkemotorer. Du må alltid anta at informasjon og referansene du får kan være feilaktig, og du må verifisere informasjonen før du videreformidler den.
- Husk at svarene ikke nødvendigvis er tilpasset sykehusets verdier: Vær kritisk til svar du får fra språkmodeller. Du vet ikke hva modellen er trent på.
- Kvalitetssikre alltid innhold: Du må regne med at KI-genererte tekster kan inneholde både faktafeil og feilaktige gjengivelser, selv om de fremstår som overbevisende, nøyaktige, pålitelige og har referanser. Verifiser alltid at opplysninger, påstander, sitater eller andre fakta stemmer. Du som avsender er alltid ansvarlig for innholdet.
- Pass på opphavsretten: Vitenskapelige artikler, online-bøker osv. som ligger bak en betalingsmur, kan ikke brukes som input i et KI-verktøy dersom de er beskyttet av opphavsretten.
- Merk all KI-generert tekst: Dersom teksten er produsert av KI må teksten merkes. Årsaken er at det kan være usikkerhet knyttet til opphavsrett, både i innholdet modellene er trent på og i tekstene i svarene. Det må derfor være mulig å fjerne innhold produsert av KI. Det kan være nyttig og tillitsvekkende for leseren å vite at teksten er produsert av eller ved hjelp av KI. Du som avsender er alltid ansvarlig for innholdet. Vis også til hvilken språkmodell du har brukt.
Eksempel på KI-merking fra NRK: "Oppsummeringa er laga av ei KI-teneste fra OpenAi. Innhaldet er kvalitetssikra av NRKs journalister før publisering."
Dersom teksten din er bearbeidet ved hjelp av KI (f.eks. organisering av innhold eller oversettelse av tekst) bør du vurdere merking. Merking vil avhenge av hvor mye KI har vært i bruk til å utforme selve teksten.
Behandling av lyd og bilder
Her får du råd om bruk av KI til å generere bilder, illustrasjoner, video og lyd:
- Rettighetene til det du legger inn i KI (inputen): Du må ha tilstrekkelige rettigheter til informasjonen (bilde, lyd og video) du bruker som input til en KI-modell. Bilder som identifiserer personer er også personopplysninger, og omfattes av personopplysningsregelverket[4].
- Rettighetene til det genererte bildet: Det er usikkerhet om rettighetene til KI-generert innhold. Du må ha rettigheter til det genererte innholdet (mediet), og kan derfor ikke generere bilder som er underlagt opphavsrett (copyright). Generering av bilder av spesifikke personer er heller ikke tillatt.
Tips: Gjør gjerne et omvendt bildesøk for å se etter lignende bilder. - Opplys om at bildene er KI-generert: Merk alle bilder, video og lyd som er KI-genererte og krediter tjenesten. For eksempel: «Dette bildet er laget av KI ved bruk av Copilot». Unngå å generere bilder, lyd eller video som kan oppfattes som virkelige mennesker, fordi det kan føre til at bildet blir oppfattet som en virkelig hendelse. Bruk heller helseforetakets egne illustrasjonsbilder.
- Husk universell utforming: Dersom KI-genererte bilder benyttes på en nettside, skal du bruke alternativ bildetekst, eller alt-tekst, som beskriver hva bildet inneholder. Dersom et bilde er generert basert på et tekstprompt, vil promptet gi et godt utgangspunkt for alt-tekst (dvs. tekst som beskriver bildet, som del av krav om universell utforming). Dersom lyd er KI-generert, skal du tydelig opplyse om det.
Bruk av generativ KI til programmering
Dette avsnittet er spesielt ment for deg som ønsker å bruke generativ KI til IT-verktøy, som f.eks. koding og programutvikling. Dette gjelder i tillegg til kapittelet om behandling av tekst ovenfor.
Det er viktig å ha et bevisst forhold til hvilken språkmodell som benyttes ved kodegenerering, fordi språkmodeller er trent på ulikt grunnlag og har varierende kvalitet på kodene/tekstene de genererer. Du er selv ansvarlig for kvalitetssikring. Vær bevisst på sikkerhet i forbindelse med generering av kode. Koden som blir generert kan inneholde sårbarheter som kan skade Helse Sør-Østs infrastruktur.
Som for generativ KI generelt, skal ikke sensitiv informasjon brukes i «prompt» (input til modellen). For utviklere vil sensitiv informasjon også omfatte ting som API-nøkler og annen sikkerhetsrelatert informasjon.
Kryssreferanser
Eksterne referanser