KI i opplæring og utdanning

Kunstig intelligens har lenge vært del av skolenes verktøykasse for å fremme elevenes læring. Adaptive læringsressurser og læremidler som tilpasser seg elevenes nivå i fag, eller kartleggingsverktøy som klassifiserer kjennetegn på elevens skriftspråk eller muntlig språk for å tilpasse språkopplæring. Dette gir nye muligheter for læring, men det følger samtidig også betydelig ansvar når de tas i bruk.

Med ny KI-lov følger ytterligere forpliktelser for bruken av kunstig intelligens i opplæring og utdanning. Læringsressurser og fagsystem har utviklet seg betydelig i takt med at den underliggende KI-teknologien har blitt kraftigere. Kunstig intelligens kan bidra med støtte til å løse oppgaver på bedre måter og mer effektivt enn tidligere, men det krever nødvendig kompetanse og rutiner for å påse at rettighetene og frihetene til de som omfattes, ikke forringes.

Ett av arbeidsområdene i AI LEARN er regulatoriske og etiske rammer for KI i læring, og herunder rutiner og verktøy for styring- og ledelse der KI-systemer tas i bruk i opplæring og utdanning. Slike KI-systemer anses i flere tilfeller å ha høy risiko for retten til utdanning og videre arbeid, til tanke- og ytringsfrihet, til vern av personopplysninger og mot diskriminering. For at samfunnet skal ha nødvendig tillit til offentlig myndigheters bruk av kunstig intelligens, er det viktig med åpenhet og medvirkning i forskning og utvikling. Det er samtidig viktig at KI-teknologien som tas i bruk, og hvordan det gjøres, er lovmessig og representativ for samfunnets verdier og forventninger. Demokratiske prinsipper og nordiske verdier står sentralt i senterets arbeid med forskning og utvikling på kunstig intelligens.

"Hva vil det si å røkte en fisk?"

Om du instruerer en stor språkmodell i å svare deg på dette spørsmålet, så er det en viss sannsynlighet for at responsen du får handler om tilberedning av fisk, ved å røyke den. Å røkte derimot, er å stelle – en nødvendig prosess i fiskeoppdrett. Grunnet til denne feilen ligger i både utvalg og forberedelse av treningsdata, i ettertrening og justering av KI-modellen, og i det som kalles "tokenisering" – prosessen med å omgjøre ord eller biter av ord til data som KI-modellen kan behandle. Om du skal få den riktige responsen her, så er det viktig at KI-teknologien du tar i bruk er utviklet på en måte som øker sannsynligheten for nettopp riktig respons.

Om treningsdata

Fylkeskommuner spiller en særlig viktig rolle i utviklingen og behandlingen av språk som gjør det mulig å utvikle norsk språkteknologi (en KI-teknologi). MÅLFRID-korpuset er en samling tekster fra norsk offentlig forvaltning, og en del av "Norwegian Colossal Corpus". Språkbanken til Nasjonalbiblioteket samler norsk språkkorpus som benyttes i maskinlæring.

Det er et stort behov innen opplæring, utdanning og kultur for særlig språkteknologi som bedre representerer norsk fagspråk. For å kunne behandle treningsdata på en ansvarlig måte, utvikler Vestfold fylkeskommune, som del av AI LEARN, verktøyet Vektor. Her samles og behandles treningsdata for ulike KI-teknologier, på måter som ivaretar høy personopplysningssikkerhet.