De AI-Act maakt het leven een beetje transparanter

Steeds vaker komen er berichten in het nieuws van mensen die door de mand vallen met hun artikel of rapport. AI gebruiken is handig, maar als je niet heel goed controleert of de informatie en de quotes ook daadwerkelijk kloppen, dan kan het je wel eens duur komen te staan. Met het ingaan van weer een deel van de AI-Act worden de regels al dusdanig aangescherpt dat het in elk geval voor de consument duidelijker moet worden wat nog authentiek handwerk is en wat AI-gegenereerd.

Je hebt vast al wel voorbeelden gehoord van prominente sprekers die quotes gebruiken in speeches die verzonnen bleken door AI. Het online blad Computable rapporteerde eind juli al over een schandaal bij PwC waarbij een aantal officieel gepubliceerde rapporten vol bleken te staan met compleet verzonnen voorbeelden. Maar ook het verhaal over de Limburgse advocate die klakkeloos aannam dat AI haar goed had voorgelicht (spoiler alert - dat was niet zo) en daarvoor door de rechtbank is berispt, is opvallend. De eerste boetes zijn hier ook al voor uitgedeeld - deze week nog werd een boete van € 2.300,- uitgedeeld aan een advocaat die een niet-bestaand citaat had gebruikt in een rechtszaak en zo onnodig tijd had verspild.

Begin augustus is weer een deel van de AI-Act ingegaan binnen de EU. Hierin staan een aantal belangrijke onderdelen: 1) beelden en audio die met AI zijn gegenereerd moeten als zodanig herkenbaar zijn 2) als je gaat chatten met een bedrijf en het betreft een automatische chatbot moet dat voor de klant herkenbaar zijn 3) AI aanbieders moeten een onzichtbare technische markering toevoegen aan alles wat gegenereerd wordt, zodat het in de toekomst als zodanig teruggevonden kan worden 4) alle teksten die met AI zijn gegenereerd moeten te herkennen zijn (bijvoorbeeld door het gebruik van een logo) 5) als AI wordt gebruikt voor emotieherkenning en biometrie moeten betrokken personen van tevoren worden geïnformeerd.

Dit heeft dus nogal wat impact. Je kunt niet meer simpelweg AI iets laten genereren en doen alsof je dat zelf hebt geschreven. Daar moet je verplicht een logo bij plaatsen. Een uitgebreide range van logo's zijn verkrijgbaar via de EU. Kanttekening hierbij is wel dat als een mens de tekst redigeert en als verantwoordelijke erbij vermeld staat, deze regel weer niet geldt. Het wordt echter door deze wet in de toekomst alsnog mogelijk om te herleiden of een tekst AI gegenereerd is, doordat AI leveranciers verplicht een soort watermerk moeten toevoegen. Hoe dat exact werkt wordt niet bekend gemaakt. Voor zover ik heb begrepen zit het echt verweven in de opbouw van de tekst. Alles wat je nu laat genereren kan dus later altijd nog geïdentificeerd worden als AI tekst. Zeker voor studenten die zich hebben aangeleerd klakkeloos AI teksten in te leveren, heeft dit enorme impact. Maar ook voor advocaten en consultants die grote lappen tekst moeten opleveren. Alleen door een stuk volledig in je eigen woorden te herschrijven kun je detectie omzeilen.

Daarnaast kijkt de AI act ook naar de inzet van AI door bedrijven met een hoog risico. Steeds vaker wordt AI in applicaties gebruikt om te sorteren en mensen te beoordelen. Voor vacatures bijvoorbeeld, of bij banken en verzekeraars. De AI Act moet hier hopelijk in de toekomst voorkomen dat er wordt gediscrimineerd. Dit deel wordt nog verder uitgewerkt en gaat naar verwachting eind 2027 in.

Soms heb je van die wetgeving waarbij je blij moet zijn dat die bestaat. Ja, het is weer iets extra om aan te denken, maar uiteindelijk is die transparantie goed voor de consument. Daarnaast biedt het ook weer de mogelijkheid om op te treden tegen mensen en bedrijven die de boel belazeren met nep (beeld)materiaal. En laten we wel wezen - AI is super handig, maar je wil toch weten of dat wat je aan het lezen bent door een mens of een computer geschreven is?