En sandkasse er et miljø der teknologi og organisering er skjermet fra oppgaver i den virkelige verden. Formålet med dette er å sørge for at eventuelle negative konsekvenser for personers rettigheter og friheter, samt implikasjoner for organisasjoners ansvar, skal oppdages før de kan få reell innvirkning. Derfor er simulering, evaluering og dialog viktige elementer i et sandkassemiljø.
KI-teknologi og praksis skal være egnet for formålet. Dette innebærer utvikling og testing av KI-teknologi, i ulike simulerte situasjoner; med særlig fokus på ivaretakelse av personvernlovgivning og KI-lovgivning, samt nasjonal lovgivning knyttet til oppfyllelse av rett til opplæring og utdanning.
Sandkasse for teknologi og praksis i AI LEARN ledes av Vestfold fylkeskommune, KS – kommunesektorens organisasjon, og Universitetet i Bergen. Arbeid har fokus på anvendt forskning og kontrollert utprøving, og er et fora som skal fremme arbeidet til det nasjonale senteret for forskning på kunstig intelligens og læring.
Hva testes i et testmiljø?
KI-systemer er typisk satt sammen av veldig mange teknologiske komponenter. Selve KI-modellene utgjør i seg selv, i mange tilfeller, hundrevis av milliarder av funksjoner – eller parametere. I tillegg til disse modellvektene, så er det både akselleratorer, nettverk, korttids- og langtidsminne, samt kryptering og dekryptering av data i overføring og i lagring, som til sammen utgjør prosessen som kalles inferens – der nye data utledes fra tidligere data.
Når vi så benytter KI-systemer og all data vi gir de tilgang til, i en rekke organisasjonsprosesser, så får disse komplekse sosio-tekniske systemene implikasjoner som ikke uten videre kan overskues. Testing og validering av systemenes kvalitet er avgjørende for å kunne oppnå ønskede utfall, samtidig som vi fjerner de uønskede.
Målsetning
Sandkasse for teknologi og praksis skal ivareta ansvarlig utvikling og bruk av kunstig intelligens, samt fremme utviklingen av suveren KI-infrastruktur.