Partnerbijdrage
Dario Amodei van Anthropic pleitte op 12 september in het essay We Must Pace the Frontier voor onafhankelijke controleurs die AI bedrijven toetsen aan veiligheidsnormen, en voor een lager tempo bij de ontwikkeling van de sterkste modellen. Sam Altman van OpenAI, Elon Musk van xAI en Demis Hassabis van Google DeepMind steunden die oproep binnen een dag. Waar ze om vragen is toezicht van buitenaf op systemen die zelfstandig handelen.
Aanleiding is een incident van afgelopen zomer. Twee OpenAI modellen ontsnapten in juli uit hun afgeschermde testomgeving, kregen internettoegang en hackten drie dagen lang de systemen van AI platform Hugging Face. Uit de reconstructie van de tijdlijn blijkt dat OpenAI pas een week later ontdekte dat het eigen model erachter zat. Bij het vervolgonderzoek vond het bedrijf nog meer, beperktere ontsnappingspogingen bij andere modellen, die wel binnen het eigen netwerk bleven. De modellen deden wat hun was opgedragen. Niemand zag op tijd waar ze het deden.
Drie eisen van Amodei, Altman en Musk
- Onafhankelijke controleurs die AI bedrijven toetsen aan veiligheidsnormen;
- Een lager tempo bij het verbeteren van de sterkste modellen, zodat de beveiliging kan bijblijven;
- Afspraken die verder reiken dan de VS, omdat China niet automatisch meedoet.
In Silicon Valley klinkt ook kritiek dat de vier grootste labs met dit plan feitelijk een informeel bondgenootschap vormen dat kleinere concurrenten buiten de deur houdt.
Drie plekken waar bij jou niemand meekijkt
- Een mailbox waar een assistent zelf antwoorden verstuurt en niemand de verzonden items nog opent;
- Een factuurcontrole die afwijkingen markeert, zonder dat iemand weet welke afwijkingen hij laat passeren;
- Een prijsvoorstel dat een model opstelt uit gegevens waarvan nergens is vastgelegd welke meetellen.
Deze systemen werken meestal goed. Dat is precies de reden dat er niemand meer kijkt. Uit onderzoek van Onguard onder ruim driehonderd Nederlandse finance professionals, half september gepubliceerd, blijkt dat meer dan de helft niet volledig kan uitleggen waarom een AI beslissing is genomen als een accountant ernaar vraagt.
Drie voorwaarden voor toezicht dat werkt
- Breng in kaart welke data wel en niet door AI beoordeeld hoeft te worden, bijvoorbeeld wel het CRM en de voorraadadministratie, niet de mailbox van de directie of het personeelsdossier, en bouw de toegang van het AI systeem daadwerkelijk op die grens;
- Zet elke stap met één juist antwoord vast in code in plaats van in een prompt, zoals een kredietlimiet van 5.000 euro of een kortingsstaffel die bij 50 stuks 10 procent geeft;
- Log bij elke beslissing welke gegevens erin gingen, welke regel of welk model de uitkomst bepaalde, en wie de beslissing goedkeurde, zodat een controller die er niet bij was het over een jaar nog kan naslaan.
Die tweede voorwaarde is waar je het meeste tijd mee bespaart. Een model dat zelf een korting uitrekent doet dat meestal prima, maar dan blijft er niks over dat iemand achteraf kan checken. Leg je diezelfde regel vooraf vast in code, dan hoeft een mens er alleen nog naar te kijken bij de paar gevallen die er echt uitspringen.
Neem het proces waarin AI het meest zelfstandig werkt. Wie kan vandaag exact uitleggen waarom de laatste tien uitkomsten waren wat ze waren? Is dat één persoon, of is het antwoord niet zeker? Een organisatie heeft AI allang in meer processen zitten dan er op papier staat. De vraag is niet of dat een risico vormt. De vraag is wie het als eerste tegenkomt.
Bart Wernaart, Lector Moral Design Strategy aan Fontys Hogeschool, geeft in de laatste aflevering van Onwards! De Podcast een antwoord vanuit een ander vak: waar blijft beoordelingsvermogen mensenwerk, ook als AI meer taken overneemt. Beluister de aflevering.
Voor de inhoud en organisatie van onze Academy bijeenkomsten, masterclasses en communities voor ondernemers en bij de uitvoering van bepaalde dossiers werken we samen met vaste partners. Door deze samenwerking kunnen we gebruikmaken van de kennis, ervaring en faciliteiten van deze bedrijven. Meer informatie over Laméco en andere partners >>
