Ik lees graag in mijn spaarzame tijd een goed boek. Zo heb ik me de afgelopen weken vastgebeten in een Engelse klassieker: Jane Eyre van Charlotte Brontë.
tip: als je Engels goed is, kun je voor weinig geld tweedehands Engelse boeken krijgen - ze hoeven niet vertaald te worden en er is relatief weinig vraag naar, waardoor ze goedkoop zijn.
Het boek speelt zich af in de 19e eeuw. Jane is als jongedame op een kostschool gezet en is daar vervolgens blijven plakken als lerares, tot ze besluit weg te gaan. Ze zet een advertentie in een lokaal nieuwsblad en krijgt een reactie: je mag komen. Geen kennismakingsgesprek, geen contract. Maar wel: referenties. Blijkbaar geeft het woord van een ander (bekend) persoon genoeg vertrouwen.
Dat zette me aan het denken. Vertrouwen werkt omdat een persoon die als referentie dient zijn reputatie op het spel zet voor een ander. In mindere mate geldt dat ook voor een contract en een wet. Want voor alle drie geldt dat er een (of meer) personen op aan te spreken zijn.
Maar een AI(-agent) kun je niet aanspreken. Het zal hem ook worst wezen, want het is geen mens. Zo bleek een AI-assistent van iemand ongevraagd de website van een sportschool gehackt te hebben. Hij haalde iemand anders van de wachtlijst, zodat zijn ‘baasje’ eerder aan de beurt was.
Wie was hier nu verantwoordelijk voor? De eigenaar van de assistent? De ontwikkelaar van de assistentsoftware? De ontwikkelaar van het AI-model die het mogelijk maakte? Of de sportschool die het lekke boekingssysteem gebruikte?
AI is nog nieuw, maar vooralsnog is het zo dat software geen rechtspersoon is. En alleen een rechtspersoon kan voor de wet aansprakelijk zijn voor geleden schade.
Janes referent liep een afbreukrisico door voor haar gedrag en kunde in te staan. Durf jij in te staan voor wat AI binnen jouw organisatie voor je doet? En welk mogelijk afbreukrisico loop jij bij je klanten?
Dus zet je AI in? Bedenk dan goed:
- Waar je het voor wilt toepassen en wat het risico daarvan kan zijn
- Waar een mens kan of moet meekijken
- Wat je AI mag doen zonder het eerst te vragen
- Wat je leverancier wel of niet garandeert
Heb jij al AI ingezet in je organisatie? En wat voor dingen heeft die uitgespookt die niet de bedoeling waren?