Flowchart for AI-styring fra register til udfasning
Politikuafhængig skabelon til AI-styring med register, risikoniveau, kontrolvalg, uafhængigt review, udrulningsbeslutning, overvågning, revurdering og udfasning.
Hvad er flowchart for ai-styring fra register til udfasning?
AI-styring bliver operationel, når et system ikke kan skifte livscyklustilstand uden en ejet post og forholdsmæssig evidens. Denne skabelon begynder, når en foreslået, indkøbt eller væsentligt ændret AI-funktion registreres. Ejeren dokumenterer formål, brugere, beslutninger og version, mens reviewere af data og databeskyttelse identificerer input, output og berørte grupper. En styringsfunktion vurderer påvirkning, sandsynlighed og mulighed for at gøre virkningen om, tildeler et foreløbigt risikoniveau og indkalder til uafhængig udfordring, hvis niveauet er omstridt. Det aftalte niveau knyttes til organisationens eget sæt af kontroller. Evidens for data-, databeskyttelses-, menneske-, sikkerheds-, robustheds- og fallbackkontroller indsamles derefter, før en uafhængig reviewer vurderer begrænsninger og restrisiko. En særskilt styringsbeslutning tillader, returnerer eller stopper udrulning og bevarer uafhængigheden mellem evidensreview og releasebeslutning.
Dette er bevidst politikuafhængig livscyklusstyring, ikke en påstand om, at én niveaumodel eller ét kontrolsæt opfylder enhver lov, standard eller sektors krav. Gældende forpligtelser, risikovillighed og reviewets uafhængighed varierer efter organisation og anvendelse. Den tidligere tragt, der afgør, om en idé bør undersøges, hører hjemme på /da/templates/godkendelsesproces-for-ai-use-cases; dette diagram begynder, når en funktion kræver en registerpost, og fortsætter efter levering, hvor overvågning kan udløse revurdering, ændrede kontroller eller udfasning. Produktudvikling, modeludvikling og hændelseshåndtering forbliver deres egne detaljerede processer bag evidens- og overvågningstrinnene. Tilpas niveaukriterier, beslutningsmyndighed, kontrolbibliotek, reviewfrekvens og evidens for udfasning til jeres kontekst, og lad kvalificerede juridiske, risiko-, sikkerheds- og domænereviewere fortolke kravene til en bestemt udrulning.
Hvad dette flowchart dækker
I denne skabelon
- Seks rollebaner gennem syv faser, der forbinder systemejeren og AI-styringsfunktionen med roller for data, databeskyttelse, sikkerhed, uafhængigt review, udrulning og overvågning
- En versionsstyret registerpost med formål, brugere, beslutninger, data, output og berørte grupper, før risikoniveauet vurderes
- Forholdsmæssigt kontrolvalg fra et organisationsdefineret risikoniveau, herunder hensyn til data, databeskyttelse, menneskeligt review, sikkerhed, robusthed og fallback
- Uafhængigt evidensreview adskilt fra styringsbeslutningen om udrulning med åbne vilkår sendt tilbage til afhjælpning og opdateret evidens
- Udrulning med kontroller, løbende overvågning af ydeevne og drift samt revurderingsveje til at fortsætte, ændre kontroller eller udfase systemet med bevaret post
Hvornår du skal bruge skabelonen
- AI-funktioner bygges eller købes på tværs af teams uden ét register, der dokumenterer formål, version, ejerskab og livscyklusstatus
- Hvert system får samme review uanset mulig påvirkning, eller risikoniveauer findes uden at føre til konkrete kontroller og evidens
- Teamet har brug for uafhængig udfordring før udrulning uden at gøre revieweren til samme rolle, som ejer eller godkender releasen
- Udrullede systemer overvåges teknisk, men væsentlige ændringer, kontrolfejl og udfasningsbeslutninger går ikke tilbage til styringsreview
Sådan fungerer det
Definer registerets grænse
Angiv, hvilke byggede, købte og indlejrede funktioner der skal i registeret, og hvad der tæller som en ny version eller væsentlig ændring. Kræv formål, ejer, brugere, understøttede beslutninger, udrulningskontekst og relevante leverandør- eller komponentreferencer.
Skab kontekstafhængige risikoniveauer
Vælg niveaufaktorer, der afspejler jeres anvendelser, såsom omfang, følsomhed, mulighed for at gøre virkningen om, grad af automatisering, berørte grupper og tilgængelig menneskelig indgriben. Dokumenter begrundelsen og en eskaleringsvej til usikre eller omstridte klassifikationer.
Knyt niveauer til evidens
Angiv nødvendig test, dokumentation, tilsyn, overvågning, fallback og reviewroller for hvert niveau. Tillad begrundet tilpasning, men registrer, hvem der accepterede ændringen og hvorfor, så forholdsmæssig styring ikke bliver en udokumenteret undtagelse.
Beskyt reviewets uafhængighed
Navngiv den, der udfordrer evidensen, og den, der træffer udrulningsbeslutningen. Undgå at bede systemejeren om at levere det eneste review af sine egne påstande, og definer, hvordan åbne vilkår spores tilbage til opdateret evidens før godkendelse.
Fastlæg udløsere for revurdering og udfasning
Brug planlagte review sammen med hændelser som en ny model- eller leverandørversion, ændret formål eller data, væsentlig drift, en hændelse, kontrolfejl eller ejerskifte. Definer sikker nedlukning, downstreamunderretning og bevaring af poster ved udfasning.
Ofte stillede spørgsmål
Hvilke trin indgår i en AI-styringsproces?
Registrer systemets formål, brugere, beslutninger, version, data og berørte grupper; bekræft ejerskab; vurder påvirkning, sandsynlighed og mulighed for at gøre virkningen om; tildel og udfordr om nødvendigt et risikoniveau; knyt niveauet til organisationens kontrolsæt; indsaml test-, begrænsnings- og ejerevidens; indhent uafhængigt review; træf en særskilt udrulningsbeslutning; udrul den godkendte version med kontroller; overvåg ydeevne, drift, hændelser og kontroller; og revurder for at fortsætte, ændre kontroller eller udfase.
Har alle AI-systemer brug for de samme kontroller?
Ikke nødvendigvis. En forholdsmæssig proces bruger kontekst og mulig påvirkning til at afgøre, hvilke kontroller og hvilken evidens der er passende. Et internt hjælpemiddel med lav påvirkning og et system, der påvirker betydningsfulde beslutninger, kan begrunde forskellige niveauer af review, overvågning og myndighed. Niveaumodellen bør dokumenteres, kunne udfordres og være forbundet med et kontrolbibliotek; ellers bliver niveauet en mærkat uden operationel virkning. Gældende krav skal stadig vurderes i den konkrete kontekst.
Hvad gør et AI-review uafhængigt?
Uafhængighed betyder, at revieweren kan udfordre evidens, antagelser og restrisiko uden at eje leveringssuccesen eller have skrevet de påstande, der gennemgås. Det kræver ikke altid en ekstern part. Referencelinjer, ekspertise og håndtering af konflikter har betydning, og sammenhænge med større påvirkning kan begrunde stærkere adskillelse. Skabelonen holder også uafhængigt review adskilt fra godkendelsen, så revieweren oplyser beslutningen uden stiltiende at blive beslutningsmyndighed.
Hvornår bør et AI-system revurderes eller udfases?
Revurder med en fastlagt frekvens og ved væsentlige ændringer i konteksten: formål, model- eller leverandørversion, data, brugergruppe, påvirkning af beslutninger, observeret ydeevne, hændelser, kontroller eller ejerskab. Udfasning kan følge af uacceptabel restrisiko, et forældet formål, komponenter uden support eller en bedre erstatning. Organisationen bør definere sine egne udløsere, sikker nedlukning, downstreamkommunikation og opbevaring af beslutningsposter frem for at stole på én universel plan.
Hvor denne proces passer ind
I de fleste virksomheder følger denne proces efter Flowchart for godkendelse af AI-use-cases.
Kommer før
- Flowchart for godkendelse af AI-use-cases — Skabelon til godkendelse af én AI-use-case med vurdering af værdi, data, gennemførlighed og risiko, betinget godkendelse, dokumenteret beslutning og overdragelse.
Del af
- Datastyring og data governance
- AI-governance