Kluster 03
Forvaltning, etikk og styring
Vi utvikler kunnskap om ansvarlig styring, etiske rammer og regulering av KI i læring.

Kunstig intelligens (KI) skaper stadig nye muligheter for læring, arbeid og samarbeid mellom mennesker og teknologi. Samtidig reiser denne utviklingen spørsmål om ansvar, etikk, regulering og styring. Når KI får en stadig større rolle i hvordan vi lærer, arbeider og tar beslutninger, blir det avgjørende å sikre at teknologien utvikles og brukes på en måte som ivaretar menneskers rettigheter, handlefrihet og tillit.
Forskningen vår skal bidra til å gjøre samspillet mellom mennesker og KI både ansvarlig og samfunnsnyttig. Klynge 3: Forvaltning, etikk og styring undersøker hvordan vi kan utvikle gode rammer for styring, regulering og etisk bruk av KI i forskjellige lærings- og arbeidssammenhenger. Gjennom forskningen ønsker vi å gi beslutningstakere, organisasjoner og enkeltpersoner bedre grunnlag for å forstå og håndtere mulighetene og utfordringene som følger med økt bruk av KI.
For å oppnå dette jobber klyngen med sentrale spørsmål knyttet til menneske-KI-interaksjon og hybrid intelligens. Vi undersøker hvordan KI påvirker menneskelig handlingsrom og læring, utvikler etiske retningslinjer for ansvarlig teknologidesign, og analyserer hvordan eksisterende og kommende regelverk påvirker utvikling og bruk av KI. Et særlig fokus er å gjøre komplekse juridiske og etiske spørsmål mer forståelige og tilgjengelige for ulike grupper, som folk under opplæring, lærere, ledere, arbeidstakere, foreldre og beslutningstakere.
Klyngen arbeider også med å utvikle styrings- og ledelsesrammeverk for KI-systemer for situasjoner der teknologi kan innebære høy risiko for individers rettigheter og friheter. Gjennom analyser, case-studier og utvikling av digitale veikart undersøker vi hvordan organisasjoner kan identifisere og redusere risiko ved bruk av KI. Dette inkluderer blant annet spørsmål knyttet til syntetiske data, personvern, adaptive vurderingssystemer og etterlevelse av nasjonale og europeiske regelverk. Målet er å hjelpe ulike aktører med å forstå hvordan KI-systemer fungerer, vurdere konsekvensene av dem og delta aktivt i utformingen av politikk og regulering på området. På denne måten ønsker vi å bidra til at fremtidens KI utvikles og forvaltes på en måte som styrker både individet og samfunnet.
Klyngen er ledet av Barbara Wasson og Malgorzata Cyndecka.
