Een denkraam voor inzet van AI: mens, machine en aap
De inzet van AI dient strak geregisseerd te worden als de intentie van de mens moet worden waargemaakt. Daarmee haal je het meest uit de innovaties van AI, zonder te verdrinken in de chaos die dat met zich meebrengt.
Tijdens de Spring IO '25 conferentie, een populaire conferentie voor Java-ontwikkelaars, in Barcelona vertelde Baruch Sadogursky over het vertrouwen in door AI gegenereerde code. De waarde van zijn presentatie ligt niet zozeer in de oplossingen die hij biedt om om te gaan met hetgeen de AI produceert, maar meer in de wijze waarop je na kunt denken over de rol van AI in geautomatiseerde processen, of dat nu gaat over software-ontwikkeling of andere bedrijfsprocessen.
Sadogursky stelt dat er drie actoren zijn. Traditioneel zijn we gewend aan de mens en de machine (ie, de computer). De mens, de drijvende kracht achter de intentie om een doel te bereiken en de machine, het middel om het doel te realiseren. De machine is eenvoudig, voorspelbaar en betrouwbaar, maar niet in staat tot intelligent handelen.
De komst van geavanceerde taalmodellen heeft een derde actor toegevoegd: de aap (ie, de LLM). De aap is complex, onvoorspelbaar en onbetrouwbaar, maar in staat tot oplossingen te komen waar de machine niet toe in staat is. In tegenstelling tot de deterministische machine, is een taalmodel stochastisch van aard. Je kunt dezelfde vraag twee keer stellen en een compleet ander antwoord krijgen.
Je zou de inzet van machine en aap op een as kunnen leggen, met aan de ene kant eenvoudige, enkelvoudige en te automatiseren handelingen en aan de andere kant complexe, meerpadige en niet eenvoudig te automatiseren processen. Overduidelijk is de machine geschikt in te zetten aan de linkerzijde en is de aap de aangewezen kandidaat aan de rechterzijde.
Het probleem schuilt hem erin dat de rechterzijde leuk klinkt, maar in de praktijk is behoefte aan een duidelijke link tussen de intentie van de mens en hetgeen geproduceerd is door machine en aap. Aangezien die link sterk is wanneer het werk wordt uitgevoerd door de machine en zwak indien uitgevoerd door de aap, kom je uit op het volgende principe:
"zet de aap in waar het moet en zet de machine in waar het kan"
Hoe ziet dat eruit in de praktijk? Je zoekt de onderdelen van het proces waar enkel de aap zijn werk kan doen, bijvoorbeeld het scannen van documentatie en het daarbinnen zoeken naar de meest toepasselijke passage. Die onderdelen omvat je in een keurslijf van de machine, waarbij je grip houdt op input, gestructureerde output, validatie van de uitkomst en aangevuld met prompting technieken, zoals bijvoorbeeld self-consistency.
De essentie is dat je zoekt naar een goed huwelijk tussen de oude, vertrouwde machine en die nieuwe, o zo slimme, maar net zo onbetrouwbare aap. De juiste balans daarin vinden zorgt dat de aap de meest waardevolle bijdrage levert in het realiseren van de intentie van de mens.
