Lovverk, retningslinjer og etikk

En liten advarsel: Det vanskelig å være helt eksakt på rett og galt med KI. Men nettopp fordi mange undervisere og fagansvarlige synes det er vanskelig å orientere seg, forsøker vi å være pragmatiske og komme med noen enkle tommelfingerregler:

Opphavsrett

Det vil normalt ikke regnes som brudd på opphavsretten å laste inn eller dele innhold andre har opphavsrett til, hvis dette allerede er publisert og en kun skal bruke resultatet for egen del (for eksempel et sammendrag eller en kunstig generert podkast). Hvis slike sammendrag eller podkaster skal deles, bør det opprinnelige verket ha en brukslisens som tillater omarbeidelser, se kapittelet om opphavsrett: Opphavsrett – Fleksibel utdanning Norge.

En faktor som påvirker hvorvidt det er greit å laste opphavsrettslig materiale opp til samtaleroboten, er om språkmodellen bruker materialet til videre trening. Vår beste anbefaling er derfor å holde seg til de løsningene utdanningsinstitusjonen har databehandleravtaler med.

Når det gjelder opphavsrett til det som blir generert av tekst og bilder, har de ulike selskapene ulike regler. Noen leverandører sier at teksten eller bildet tilhører den som bruker den generative modellen, mens andre har ulike rettighetspolicyer for brukere som betaler og brukere av gratisversjonene. Etisk sett er også dette et gråsoneområde siden en vet at disse modellene er trent på opphavsrettslig beskyttet materiale, som benyttes som byggesteiner for de nye produktene.

Personvern

Personvernforordningen (GDPR) er et sett regler som gjelder for alle EU- og EØS-land, og sammen med nasjonale regler utgjør den personopplysningsloven. Den gjelder også for bruk av kunstig intelligens. Det betyr at hvilke KI-verktøy som kan brukes i undervisning eller pålegges de lærende å bruke, er underlagt de samme strenge regler som andre digitale verktøy. I tillegg stilles det strenge krav til hvilke personopplysninger som kan deles med KI-verktøy.

Deling av personopplysninger

Normalt skal det ikke deles personopplysninger med KI-tjenester som ikke er godkjent av institusjonen. Personopplysninger er alle opplysninger om en identifisert eller identifiserbar fysisk person. De kan dermed også inkludere bilder og tekst fra innleveringsoppgaver, selv om ikke den lærendes navn er oppgitt.

 KI i summativ vurdering

Personvernforordningen gir mennesker rett til å få informasjon om – og motsette seg – helt automatisk behandling dersom denne får rettslig innvirkning på dem, noe for eksempel en karakter kan sies å utgjøre. Å bruke KI i summativ vurdering krever derfor åpenhet overfor de lærende i tillegg til full kontroll over hvor persondata havner.

Etikk og kritisk tenkning

Det finnes noen etiske betraktninger som det er vanskelig å gi noen gode råd om. Vi anbefaler at underviserne selv tenker over hvordan de skal forholde seg til følgende:

Språkmodellene krever stor beregningskraft, noe som fører til betydelig bruk av både energi og vann. Det finnes lite presis informasjon om omfanget. Likevel vet vi at samtaler med slike språkmodeller krever langt mer energi og vann til kjøling enn for eksempel et vanlig Google-søk eller bruk av stavekontroll.

Språkmodellene blir justert av mennesker etter den automatiserte treningen for å redusere risikoen for at de produserer ulovlig eller uetisk innhold. Dette arbeidet innebærer at mennesker vurderer og merker opplæringsmateriale for å filtrere ut skadelig eller støtende innhold, blant annet vold og overgrep. Det har blitt avdekket at slike oppgaver i noen tilfeller er utført av mennesker i økonomisk utsatte situasjoner, uten tilstrekkelig støtte eller oppfølging i etterkant.

Språkmodellene er trent på innhold som allerede finnes på nettet, og som er preget av de fordommer og skjevheter som preger oss mennesker og våre samfunn. Fordi maskinene jobber ut fra statistisk sannsynlighet av hva som hører sammen, reproduserer de slike skjevheter og fordommer.

En annen etisk betraktning handler om eierskap til eget arbeid og egne utviklingsprosesser. Når KI kan brukes både til å generere ideer og å produsere og bearbeide digitale produkter med svært liten grad av menneskelig input, og når den opererer etter prinsipper og vurderinger en selv har liten innsikt i, hvor går da grensene for hva en kan gjøre krav på som eget arbeid? Det er viktig for en underviser å se potensielle gråsoner og tenke over hva som ligger i å kunne innestå for sitt eget arbeid.