Britse toezichthouder waarschuwt voor risico's van AI in financiële diensten

Groot-Britannië's financiële toezichthouder heeft opgeroepen tot regelgeving van grote taalmodellen zoals ChatGPT, Claude en Gemini vanwege hun groeiende invloed op financiële beslissingen van consumenten.

In een door de Financial Conduct Authority (FCA) ingestelde review, die maandag werd gepubliceerd, benadrukte de waarnemend directeur van de waakhond, Sheldon Mills, ook hoe bedrijven' afhankelijkheid van enkele technologieproviders potentiële systeemrisico's introduceert.

Toezichthouders wereldwijd hebben zich steeds meer gericht op de gevolgen van AI, van cyber- en operationele risico's die gepaard gaan met geavanceerde AI-modellen zoals die van Anthropic tot de uitdagingen van agentische systemen die in staat zijn te handelen met beperkte menselijke tussenkomst.

Mills' review van de gevolgen van AI voor de financiële sector toonde aan dat meer dan een kwart van de Britse consumenten vertrouwt op tools zoals ChatGPT van OpenAI, Claude van Anthropic en Gemini van Google voor financieel advies, terwijl slechts beperkt bekend is dat beschermingsmaatregelen die van toepassing zijn op gereglementeerde financiële diensten niet van toepassing zijn op die AI-diensten.

OpenAI, Anthropic en Google-vertegenwoordigers waren niet onmiddellijk bereikbaar voor commentaar.

Financieel advies is een gereglementeerde activiteit die alleen door geautoriseerde bedrijven mag worden gegeven, dus AI mag niet meer dan generiek financieel advies geven. Mills zei echter dat persoonlijke aanbevelingen van een chatbot de grens kunnen vervagen en voortdurende en aangepaste aanbevelingen kunnen gaan lijken op gereglementeerd advies.

Mills adviseerde de FCA om in de komende drie tot zes maanden in overweging te nemen of de regelgeving moet worden 'veiliggesteld en aangepast' door de schaal, aard en impact van AI-modellen buiten het regelgevingskader te beoordelen.

Jonathan Herbst, wereldwijd hoofd financiële diensten bij advocatenkantoor Norton Rose Fulbright, zei dat Mills geen onmiddellijke krachtdadigheid voorstelde maar vroeg of de regels moeten evolueren om te weerspiegelen hoe financiële diensten worden geleverd.

'Dat is een grote vraag voor beleidsmakers en een vraag die alleen urgenter wordt naarmate de AI-adoptie versnelt,' zei Herbst.

De FCA zei de eerste toezichthouder ter wereld te zijn die de gevolgen van AI op financiële diensten heeft bestudeerd, hoewel de waakhond niet verplicht is om te handelen naar aanbevelingen die zijn gedaan.

Een recent onderzoek toonde aan dat 81% van financiële bedrijven wereldwijd AI op enig niveau toepast, waarbij 40% in meer geavanceerde fasen zit.

Terwijl de meeste gebruiksscenario's nog steeds geconcentreerd zijn in lagere-risico backoffice-functies, zetten Britse bedrijven AI steeds vaker in voor rollen die klantgericht zijn, zoals klachtenafhandeling en beleggingsbegeleiding.

Mills' review waarschuwde dat wijdverspreide adoptie van AI door de financiële sector bedrijven afhankelijk kan maken van een klein aantal technologieproviders voor kritieke operationele capaciteiten.

Gedeelde vertrouwing op dezelfde modellen, cloudproviders of technologie-infrastructuur kan leiden tot gecorreleerd gedrag, kuddegedrag en gemeenschappelijke foutpunten in het financiële systeem, aldus de review.

In een toespraak vorige week signaleerde Sarah Breeden, plaatsvervangend gouverneur van de Bank of England, voor het eerst de behoefte aan op maat gemaakte AI-regelgeving om risico's voor het financiële systeem in te dammen die voortvloeien uit steeds capabelere agentische systemen.

'Onze kaders waren niet opgesteld met het oog op autonome agenten, en vertrouwen op een menselijke betrokkenheid bij alle agentacties zal waarschijnlijk niet realistisch zijn,' zei Breeden.