Kort svar
Pausa användning med verkliga uppgifter tills syfte, riskklass, rättslig grund, dataskydd, säkerhet och mänsklig kontroll är dokumenterade. Testa att ansvarig personal faktiskt kan förstå och avvika från systemets resultat.
Gör detta först
De första åtgärderna
- Beskriv exakt vilket moment och vilka människor systemet påverkar.
- Utse verksamhetsägare och samla juridik, dataskydd, säkerhet, inköp och profession.
- Förhindra oreglerad pilotanvändning med verkliga person- eller sekretessuppgifter.
Kontroll före nästa steg
Chefens checklista
- 01Är systemet förbjudet, högrisk eller föremål för särskilda krav?
- 02Vilken roll har organisationen enligt AI-förordningen?
- 03Behövs grundrättighets- eller dataskyddskonsekvensbedömning?
- 04Kan resultat, fel och bias upptäckas och korrigeras av en människa?
- 05Är loggar, data, leverantör, incidenter och avveckling reglerade?
- 06Finns mätbar uppföljning efter införande?
Undvik detta
- Att kalla ett system pilot för att kringgå ordinarie kontroll.
- Att luta sig helt mot leverantörens klassificering.
- Att låta mänsklig kontroll bli en formalitet där AI-resultatet alltid följs.
När ska specialist kopplas in?
- Systemet påverkar vård, rekrytering, utbildning, sociala insatser eller myndighetsutövning.
- Biometri, barn eller känsliga personuppgifter berörs.
- Ansvarig personal kan inte förklara eller åsidosätta resultatet.
Vanliga frågor om situationen
Vad ska en chef göra först när ai ska användas i vård eller myndighetsbeslut?
Beskriv exakt vilket moment och vilka människor systemet påverkar. Utse verksamhetsägare och samla juridik, dataskydd, säkerhet, inköp och profession. Förhindra oreglerad pilotanvändning med verkliga person- eller sekretessuppgifter.
Vilka kontroller är viktigast före nästa beslut?
Är systemet förbjudet, högrisk eller föremål för särskilda krav? Vilken roll har organisationen enligt AI-förordningen? Behövs grundrättighets- eller dataskyddskonsekvensbedömning? Kan resultat, fel och bias upptäckas och korrigeras av en människa?
När ska specialist eller högre ledning kopplas in?
Systemet påverkar vård, rekrytering, utbildning, sociala insatser eller myndighetsutövning. Biometri, barn eller känsliga personuppgifter berörs. Ansvarig personal kan inte förklara eller åsidosätta resultatet.
Rättsliga utgångspunkter
Fördjupa bedömningen i de relaterade juridikguiderna och kontrollera alltid aktuell lydelse i primärkällan.
- EU:s AI-förordning 2024/1689Officiell källa
- Digg: AI-förordningenOfficiell källa
- IMY: AI-förordningenOfficiell källa
- IMY: Myndigheters behandling av personuppgifterOfficiell källa
- IMY: Myndigheter och känsliga personuppgifterOfficiell källa
- Förvaltningslag (2017:900)Officiell källa
- Regeringsformen (1974:152)Officiell källa
Avgränsning: Guiden är generell information och praktiskt beslutsstöd. Den ersätter inte bedömning av omständigheterna i det enskilda ärendet.
