AI-gezichtsherkenning wees Angela Lipps aan als mogelijke verdachte. Ze zat bijna zes maanden vast.
AI heeft natuurlijk niet zelf besloten haar te arresteren. Daar kwamen mensen aan te pas die onvoldoende controleerden of de gezichtsherkenning het wel bij het juiste eind had.
Er is veel aandacht voor AI die zelfstandig systemen hackt. Veel minder voor de schade die ontstaat wanneer mensen en organisaties AI verkeerd inzetten.
Dat contrast wilde ik onderzoeken. Niet alleen wat AI zelfstandig verkeerd doet, maar vooral wat er misgaat wanneer organisaties AI in de praktijk gebruiken.
Daarom wilde ik voorbij de spectaculaire AI-labincidenten kijken waarin agents zelfstandig hacken. Wat gaat er mis in het dagelijkse werk van bedrijven, overheden en zorginstellingen? En welke verklaringen worden daarvoor gegeven?
Ik verzamelde 9.2 miljoen nieuwsartikelen waarvan uiteindelijk 118.551 gingen over AI incidenten, gepubliceerd tussen 6 augustus en 2 oktober 2026. Na ontdubbeling en een controle bleven er (slechts) 113 unieke AI incidenten over waar alle nieuwsberichten over schreven.
Van de 113 onderzochte incidenten gingen er 15 over AI-agents die onverwachts zelfstandig ongewenste acties uitvoerden, zoals het hacken van systemen.
Het overgrote meerendeel, 98 incidenten, draaiden om problemen bij het inzetten, gebruiken of misbruiken van AI door mensen en organisaties.
Opvallender nog: juist in deze laatste groep vallen alle zeer ernstige incidenten, waarbij mensenlevens in het geding kwamen. Bij de losgeslagen AI-agents kwam die ernst in dit onderzoek niet voor.
De rode draad door deze nieuwsitems; het is niet AI wat de schade veroorzaakt in de beschreven incidenten, het is het gebrek aan implementatiezorg en/of menselijke aandacht waardoor organisaties soms catastrofaal tekortschieten.
Dit is het schrale contrast: het discours gaat over AI die mensen te slim af zijn, terwijl verreweg de meest ernstige gevallen in het nieuws gaan over het tekortschieten van de mens bij het implementeren en gebruiken van een AI systeem.
AI heeft de potentie om op veel vlakken de wereld te verbeteren. Om die mogelijkheden goed te benutten, moeten we niet alleen investeren in slimmere AI, maar juist ook in slimmere mensen die ermee werken. Zij hebben kennis nodig om uitkomsten te beoordelen, tijd om dat zorgvuldig te doen en het mandaat om in te grijpen.
Hoe investeren jullie in je mensen?
