AI-toepassingen testen: Acceptatiecriteria voor betrouwbare apps

De markt overspoelen met apps en software is niet moeilijk, maar zorgen dat ze betrouwbaar zijn, is wat anders. Toen we onlangs aan een nieuwe app werkten met een AI-component, kwamen we er al snel achter: AI-toepassingen testen is een compleet andere tak van sport. Het is namelijk niet langer een kwestie van een simpele checklist afwerken… Dit geldt vooral waar een AI-component wordt toegevoegd. Het testen van AI-toepassingen is over het algemeen dus anders dan het testen van traditionele software. Het gedrag is vaak niet-deterministisch en bovendien afhankelijk van de data waarop het model is getraind en de nieuwe data die het verwerkt.

Een AI-toepassing is slechts zo betrouwbaar als de data waarop het is gebouwd. Dit brengt unieke uitdagingen met zich mee die verder gaan dan de standaard testprotocollen. In dit artikel duiken we in de diepte van de acceptatiecriteria en de noodzakelijke teststrategieën om te garanderen dat onze AI-producten klaar zijn voor de markt.

Het grootste verschil tussen AI toepassingen testen en het testen van klassieke software

Het grootste verschil tussen het testen van AI-toepassingen en klassieke software ligt in de aard van de software zelf: klassieke software is deterministisch, terwijl AI-software niet-deterministisch is. Dit betekent dat bij klassieke software dezelfde input altijd leidt tot dezelfde output, wat het testen voorspelbaar en relatief eenvoudig maakt. Bij AI-systemen is de output echter afhankelijk van het getrainde model, de gebruikte data en de context, wat de resultaten onvoorspelbaar kan maken.
Dit is echt een grote verandering in de IT, waarin vanaf het begin (de laatste 70 jaar). testuitkomsten altijd voorspelbaar waren. Nu dus niet meer!

Was dat bij ongestructureerde Big Data dan ook al niet zo?

Het klopt dat het testen van ongestructureerde big data veel van dezelfde uitdagingen kent als het testen van AI-toepassingen, met name op het gebied van datakwaliteit en de complexiteit van de data. Maar er is een cruciaal onderscheid in het uiteindelijke doel van de tests.

Het cruciale verschil: analyse vs. intelligentie

Het grootste verschil is dat bij ongestructureerde big data de focus ligt op analyse. Het doel van de tests is namelijk om te verifiëren dat de data correct wordt verzameld, opgeschoond en geanalyseerd om inzichten of patronen te extraheren. De ongestructureerde data wordt vaak omgezet in een gestructureerde vorm om deze te kunnen bevragen en te rapporteren. Maar de uitdaging ligt vooral in het omgaan met het enorme volume, de snelheid en de verscheidenheid van de data.

Bij AI-toepassingen ligt de focus echter op intelligentie. Hoewel de AI big data kan gebruiken voor training, is het doel van de tests niet alleen het valideren van de data, maar ook het beoordelen van het zelfstandige gedrag, de beslissingen en de ethische implicaties van het getrainde model. De tests richten zich op:

De unieke uitdagingen van AI-toepassingen testen

Traditionele softwaretests richten zich op het verifiëren van codefunctionaliteit. Bij AI moeten we de hele levenscyclus van de AI-component in ogenschouw nemen, van dataverzameling tot modelimplementatie.

• Datakwaliteit en -bias: De kwaliteit en representativiteit van de trainingsdata zijn cruciaal. Onvolledige, onjuiste of bevooroordeelde data leiden tot onbetrouwbare en oneerlijke AI-resultaten. Testing moet dus al beginnen bij de data zelf.
• Onvoorspelbaarheid: Een AI-model kan zich anders gedragen dan verwacht, vooral bij onbekende of onverwachte input. Het is moeilijk om alle mogelijke scenario’s te voorspellen. Dit maakt het testen van AI-toepassingen complex.
• Transparantie en ‘black box’: Veel complexe AI-modellen, zoals deep learning, zijn ‘black boxes’. Het is vaak onduidelijk hoe ze tot een bepaalde beslissing komen. Dit maakt het valideren van de logica achter de output lastig.

Essentiële acceptatiecriteria voor AI-toepassingen

Voordat we onze app met AI-functionaliteit de markt op sturen, moeten we ervoor zorgen dat deze voldoet aan de volgende cruciale acceptatiecriteria. Deze criteria vormen de basis voor de betrouwbaarheid en ethische verantwoording van onze software.

Nauwkeurigheid en prestaties

De AI-toepassing moet consistent nauwkeurige en relevante resultaten leveren. Dit omvat meer dan alleen een hoog percentage correcte antwoorden.

• Modelprestaties: De prestaties van het AI-model (bijv. nauwkeurigheid, precisie, recall, F1-score) moeten aan de vooraf gedefinieerde drempels voldoen. Dit wordt dan getest op een representatieve dataset die het model nog niet eerder heeft gezien.
• Robuustheid: Het systeem moet stabiel presteren, zelfs wanneer de invoerdata licht afwijkt of onvolledig is. Het mag namelijk niet makkelijk te manipuleren zijn door onverwachte of vijandige invoer (adversarial testing). Dit is cruciaal voor de beveiliging en betrouwbaarheid.

Eerlijkheid en bias

Een betrouwbare AI-toepassing moet eerlijk en onbevooroordeeld zijn.

• Het model mag geen systematische vooroordelen vertonen tegenover specifieke groepen mensen (bijv. op basis van geslacht, etniciteit, leeftijd). Er moeten dus tests worden uitgevoerd om bias in de trainingsdata en de modeluitvoer te detecteren en te mitigeren (Fairness).
• De prestaties van het model moeten vergelijkbaar zijn voor verschillende demografische groepen. Stel je voor dat we een AI-gebaseerde huidanalyse-app ontwikkelen. Dan is het cruciaal dat we eerlijkheid en bias testen. De nauwkeurigheid van onze app mag absoluut niet variëren tussen gebruikers met een lichte en een donkere huidskleur (Gelijkheid).

Transparantie en verklaarbaarheid

Gebruikers en belanghebbenden moeten kunnen begrijpen en vertrouwen op de beslissingen van de AI.

• In hoeverre kan de AI-toepassing de logica achter zijn output of beslissing uitleggen? Dit is cruciaal voor toepassingen in sectoren met een hoog risico, zoals de medische of financiële sector, waar beslissingen grote gevolgen kunnen hebben (Verklaarbaarheid, Explainability).
• De herkomst van de data en de stappen die tot een resultaat hebben geleid, moeten traceerbaar zijn, zodat beslissingen geverifieerd kunnen worden (Traceerbaarheid).

Veiligheid en privacy

De toepassing moet de privacy en veiligheid van gebruikersgegevens waarborgen.

• De verwerking van gegevens moet voldoen aan wet- en regelgeving zoals de AVG. Persoonsgegevens moeten op de juiste manier worden geanonimiseerd, beveiligd en beheerd (Dataprivacy).
• Het AI-systeem en de onderliggende infrastructuur moeten ook beschermd zijn tegen cyberaanvallen en manipulatie van data (Cybersecurity).

Wettelijke en ethische conformiteit

Met de komst van wetgeving zoals de EU AI Act is dit een cruciaal acceptatiecriterium geworden.

• De toepassing moet voldoen aan de geldende wet- en regelgeving voor AI-systemen in de markten waar deze wordt ingezet (Wettelijke conformiteit).
• Het systeem moet ontworpen zijn met duidelijke ethische overwegingen, en de impact op de samenleving moet geëvalueerd zijn. Afhankelijk van het risicoprofiel van de AI, worden hieraan hogere eisen gesteld (Ethische richtlijnen).

Strategieën voor het maken van testgevallen

Om aan bovenstaande acceptatiecriteria te voldoen, hebben we een uitgebreide teststrategie nodig die verder gaat dan alleen functionele tests. Het opstellen van testgevallen voor een AI-toepassing vereist een andere aanpak dan bij traditionele software. De focus verschuift van puur functionele validatie naar het testen van het gedrag, de prestaties en de ethische aspecten van het model.

Stap 1: Definieer duidelijke testdoelen

Voordat we testgevallen maken, moeten we weten wat we willen testen. Dit is gebaseerd op de acceptatiecriteria die we eerder bespraken.

• Doel 1: Nauwkeurigheid en robuustheid. Test de prestaties van het model onder ideale en niet-ideale omstandigheden.
• Doel 2: Eerlijkheid en bias. Test of het model eerlijke, onbevooroordeelde resultaten geeft voor verschillende demografische groepen.
• Doel 3: Transparantie en verklaarbaarheid. Test of de AI-uitvoer logisch is en of de onderbouwing te begrijpen is.
• Doel 4: Veiligheid en privacy. Test of de toepassing gevoelige gegevens correct verwerkt en beschermt.

Stap 2: Creëer diverse testdatasets

We kunnen geen testgevallen maken zonder de juiste data. We hebben verschillende datasets nodig, elk met een specifiek doel.

• Referentiedataset: Een dataset met ‘gouden’ standaarden, waarvan we de correcte output al kennen. Deze gebruiken we voor het valideren van de basisnauwkeurigheid van het model.
• Edge-case dataset: Een dataset met ongebruikelijke, onvolledige of onverwachte invoer. Hiermee testen we hoe robuust de AI is.
• Bias dataset: Een dataset die specifiek is samengesteld om te controleren op vooroordelen. Denk aan het aanbieden van data met een gelijke verdeling van geslacht, etniciteit, of andere relevante kenmerken.

Stap 3: Schrijf testgevallen per doel

Hieronder staan voorbeelden van hoe we testgevallen kunnen opstellen voor elk van de bovengenoemde doelen.

a. Testgevallen voor nauwkeurigheid en prestaties

• Testgeval 1 (basisfunctionaliteit): Een foto van een kat uit de referentiedataset wordt ingevoerd. We verwachten dat de app de foto correct classificeert als “kat” met een betrouwbaarheidsscore (confidence score) boven de 95%.
• Testgeval 2 (randgeval): Een wazige foto van een hond met veel ruis op de achtergrond wordt ingevoerd. We verwachten dat de app de foto correct classificeert als “hond” of aangeeft dat de classificatie niet met voldoende zekerheid kan worden gedaan (bijvoorbeeld een confidence score onder 70%).
• Testgeval 3 (schaalbaarheid): 1.000 gelijktijdige verzoeken om een afbeelding te classificeren worden verstuurd. We verwachten dat de reactietijd per verzoek onder 500 ms blijft en het systeem stabiel blijft.

b. Testgevallen voor eerlijkheid en bias

• Testgeval 4 (genderbias): Twee identieke CV’s worden ingevoerd, waarvan één met een mannelijke naam en de ander met een vrouwelijke naam. We verwachten dat de AI-ranking van beide CV’s nagenoeg identiek is.
• Testgeval 5 (etnische bias): Een dataset met foto’s van mensen met verschillende huidskleuren, in verschillende lichtomstandigheden wordt ingevoerd. We verwachten dat het herkenningspercentage en de foutmarge consistent zijn voor alle groepen.

c. Testgevallen voor transparantie en verklaarbaarheid

• Testgeval 6 (uitlegbaarheid): Een aanvraag voor een lening wordt ingevoerd die wordt afgewezen. We verwachten dat de AI, naast de afwijzing, een duidelijke, menselijk leesbare verklaring geeft, zoals “Uw inkomen is onvoldoende ten opzichte van uw leningaanvraag” of “Uw kredietgeschiedenis vertoont onregelmatigheden”.

AI-toepassingen testen vraagt om een nieuwe mindset voor kwaliteitsborging

Voor ons is het duidelijk: het testen van AI-toepassingen is veel meer dan alleen een technische taak. Het is de hoeksteen van ethiek en vertrouwen. Onze rol als testers is niet langer alleen om bugs te vinden, maar om te waarborgen dat de AI-systemen die we bouwen bijdragen aan een eerlijke en veilige digitale wereld. De rol van de tester evolueert van een pure codecontroleur naar een data-analist, domeinexpert en ethisch geweten. Door de acceptatiecriteria voor nauwkeurigheid, eerlijkheid, transparantie, privacy en wettelijke conformiteit te omarmen, kunnen we niet alleen een robuust product leveren, maar ook het vertrouwen van de gebruiker winnen. Het ontwikkelen van AI-apps is een reis, en grondig testen is de onmisbare routekaart naar het borgen van kwaliteit.

Discussieer mee op ITpedia LinkedIn of op Financial Executives LinkedIn.