Forordningens formål er at skabe et klart fælles regulatorisk grundlag for systemer i EU med kunstig intelligens. Anvendelsen af forordningen rejser dog en lang række spørgsmål fra brug af træningsdata til sikkerhed, transparens og dokumentation af kunstig intelligens.
Denne artikel forsøger kort at afdække et væsentligt element i anvendelsesområdet; definitionen af et AI-system.
AI-modeller og AI-systemer
Forordningen sondrer mellem AI-modeller og AI-systemer, hvor AI-modeller skal forstås som den egentlige AI-funktionalitet, som sammen med andre komponenter, fx en brugergrænseflade, udgør et AI-system. AI-modeller er (typisk) integreret i og udgør del af et AI-system.
Sondringen mellem AI-modeller og AI-systemer er særligt relevant i forhold til såkaldte AI-modeller til almen brug. Dette omfatter modeller, som er trænet på store mængder data og kan anvendes, ændres og tilpasses til brug for en lang række forskellige opgaver. AI-modeller til almen brug er underlagt særlige krav i forordningen.
AI-modeller til almen brug – og såkaldte AI-systemer til almen brug, der benytter disse modeller - og den særlige regulering heraf i forordningen adresseres ikke yderligere i denne artikel. Det følgende vedrører AI-systemer og definitionen heraf.
Forordningens anvendelsesområde i forhold til AI-systemer
Forordningen omfatter og regulerer udvikling, distribution og brug af AI-systemer. AI-systemer omfatter it-systemer, der anvendes selvstændigt eller sammen med et produkt eller en løsning, uanset om systemet er integreret i produktet eller på anden måde indgår i produktets funktionalitet.
Forordningen anerkender i præamblen, at det kan være vanskeligt at definere kunstig intelligens, men anfører i præamblen, betragtning 12, at:
”Begrebet »AI-system« i denne forordning bør defineres klart og bør nøje afstemmes med det arbejde, der udføres af internationale organisationer, som arbejder med AI, for at sikre retssikkerhed, lette international konvergens og bred accept, og samtidig være fleksibelt nok til at tage højde for den hurtige teknologiske udvikling på dette område. Desuden bør definitionen baseres på centrale egenskaber ved AI-systemer, der adskiller det fra enklere traditionelle softwaresystemer eller programmeringstilgange, og bør ikke omfatte systemer, der er baseret på de regler, der udelukkende er defineret af fysiske personer til automatisk at udføre operationer. […]”
Forordningen definerer på den baggrund i artikel 3, pkt. 1, et AI-system som:
”et maskinbaseret system, som er udformet med henblik på at fungere med en varierende grad af autonomi, og som efter idriftsættelsen kan udvise en tilpasningsevne, og som til eksplicitte eller implicitte mål af det input, det modtager, udleder, hvordan det kan generere output såsom forudsigelser, indhold, anbefalinger eller beslutninger, som kan påvirke fysiske eller virtuelle miljøer.”
Hvordan fastlægges det, om der er tale om et AI-system?
Uanset at forordningens intention i henhold til præamblen er at sikre en klar definition af et AI-system, indeholder definitionen en række kriterier, som kræver detaljeret vurdering, før det kan afgøres, om et konkret it-system er omfattet af forordningen. Der er naturligvis mange eksempler på systemer, som uden særlig analyse og vurdering kan kategoriseres som et AI-system omfattet af forordningen.
Der vil dog være en lang række løsninger, hvor der kan være berettiget tvivl, herunder særligt, hvor man ikke har tilstrækkelig indsigt i, hvilke komponenter der indgår i løsningen og dens funktionalitet. Vurderingen kompliceres desuden ofte af, at leverandører er tilbøjelige til – ofte mod bedre vidende - at markedsføre også simpel automatisering som kunstig intelligens.
Da det kan være vanskeligt at opnå fuld indsigt i opbygningen af og funktionaliteten i et it-system, kan man i stedet forsøge at afdække identifikatorer, der kan bidrage til vurderingen af, om der er tale om et AI-system. Disse indikatorer – som naturligt vedrører kriterierne i definitionen af et AI-system - kan afdækkes ved at undersøge en række aspekter. Dette kan illustreres ved følgende – ikke udtømmende - spørgsmål:
- Indgår kendte standard AI-modeller eller AI-baserede værktøjer i systemet, herunder komponenter licenseret under open source-licenser?
- Forudsætter brug af systemet, at det udvikles ved træning på konkret træningsdata forud for og/eller under driften af systemet?
- Hvad er variationen i de opgave(r), systemet løser?
- Hvilken type input bruger systemet?
- Er systemets ”svar” prædefineret, eller kan systemet selv tilpasse svaret til den konkrete situation?
- Hvilken type output genereres, og hvad bruges output til?
- Hvad er variationen i det output, der genereres?
Horten rådgiver vores klienter inden for alle fagområder af relevans for kunstig intelligens, herunder it-ret, persondataret, immaterialret, produktansvar og offentlig regulering, og kan bistå med implementering af kravene i forordningen.