Med den nye EU AI-forordning og den stigende implementering af AI i industrierne bliver det afgørende at forstå og implementere ansvarlighed i udviklingen af AI. Men hvordan skal organisationer i praksis implementere de nye krav, så det stemmer overens med de menneskelige etiske principper?
Den nye EU AI-forordning kan vise sig at blive en uventet udfordring for mange. For selvom mange organisationer er bevidste om behovet for de etiske overvejelser, betyder de manglende krav i dag, at flere ikke har systemer, processer og ressourcer på plads til at håndtere de nye etiske retningslinjer.
Fremover bliver det essentielt, at organisationer er i stand til at tænke etiske principper ind allerede fra start, når de beslutter, hvad en AI-løsning skal bruges til. Og det skal ikke kun ske oppefra.
”Det er ikke længere nok at fortælle medarbejdere, hvad AI er, og hvordan det gavner organisationen. For at sikre ansvarlig brug i hele organisationen er det vigtigt, at alle involverede – med forskellige perspektiver – bliver i stand til at vurdere, hvilke områder AI kan påvirke negativt, så de kan øge opmærksomheden og stille kritiske spørgsmål i udviklingsprocessen”. Gabriella Angela Morote Kierulff, Carve Consulting.
Integrer fairness i AI fra start
For at undgå bias i data og sikre, at AI’en ikke baseres på fejlagtige årsagssammenhænge er det vigtigt, at organisationer bliver helt skarpe på, hvem deres AI-løsninger gavner og evt. diskriminerer, og om de anvendte datasæt repræsenterer alle relevante grupper.
“Selvom det kan være fristende at gå direkte i gang med at anvende en ny AI-model, er det vigtigt at bruge mindst lige så meget tid på eksplorativ dataanalyse og dataklargøring som på selve modelleringen. Dette sikrer, at man opdager potentielle biases og får mulighed for at balancere træningsdatasættene, fx ved at indsamle data fra underrepræsenterede grupper”.
Kravene om fairness og bias gælder primært højrisikosystemer, som defineret i EU’s AI-forordning, men det bør være en naturlig praksis hver gang, vi udvikler AI-teknologi.
Gennemsigtighed i AI-processer styrker konkurrenceevnen
Der er ingen tvivl om, at AI vil transformere mange industrier, men kompleksiteten i AI-modellerne kan også skabe mistillid hos brugerne. Derfor er det vigtigt at indføre gennemsigtighed i AI-processer eksempelvis ved brug af mindre og mere simple modeller.
”For at sikre brugernes tillid til AI-løsninger kræver det, at både udviklere og slutbrugere har adgang og ret (GDPR) til at få forklaret, hvordan data er brugt til at træffe beslutninger. Samtidig er det vigtigt, at AI systemet er robust og sikret mod manipulation, så hackere og uvedkommende ikke kan påvirke modellen til at træffe forkerte beslutninger”.
”Derudover er gennemsigtighed med til at gøre dokumentationen nemmere, sikre pålidelige resultater og minimere omdømmemæssige risici, hvilket også er afgørende for at styrke virksomhedens konkurrenceevne”. Maarten Stolk, CEO hos Deeploy.
Selvom der er mange nye krav at forholde sig til i den nye EU AI-forordning, er det værd at huske, at den nye forordning ikke begrænser udvikling af gode, forretningsmæssige løsninger, men tværtimod tillader udvikling af mere kritiske løsninger.
EU AI Act trådte i kraft d 1. august 2024, og der vil være en overgangsperiode på to år, så organisationer kan nå at indstille sig på reglerne.
Tre gode råd, der sikrer ansvarlig AI
1. Anvend etiske retningslinjer i alle faser af AI-livscyklussen, fra vision og design til implementering.
2. Brug tilstrækkelig tid på dataanalyse som et vigtigt skridt mod at identificere og eliminere bias i AI-modeller.
3. Vælg mindre komplekse og mere forståelige AI-modeller, hvor det giver mening, for at øge forståelsen og gennemsigtigheden.
