De Amerikaanse staat New York gaat geavanceerde AI-systemen zelf laten testen door onafhankelijke onderzoekers. Gouverneur Kathy Hochul lanceerde dinsdag wat volgens haar het eerste AI-testprogramma van een Amerikaanse staat is. "De belangen zijn te groot om AI-bedrijven simpelweg op hun woord te geloven," aldus Hochul.

Het werk komt te liggen bij het New York Center for AI Responsibility and Research van Binghamton University. Meer dan tachtig wetenschappers uit de staat doen mee. Ze gebruiken rekenkracht van Empire AI, een publiek-private samenwerking van 500 miljoen dollar die New York eerder opzette. Het centrum gaat AI-systemen testen, risico's onderzoeken en bewijs aanleveren voor beleidsmakers, maar kijkt ook naar verantwoord gebruik in bijvoorbeeld de geneeskunde.

Alleen wat bedrijven laten zien

Er zit wel een duidelijke beperking aan, merkt Engadget op: de onderzoekers kunnen alleen bestuderen wat bedrijven openbaar maken. Modellen die nog niet zijn uitgebracht, blijven buiten zicht. Deels wordt dat opgevangen door de RAISE Act, een wet die Hochul vorig jaar tekende. Grote AI-ontwikkelaars moeten zich daardoor voor 1 januari 2027 bij de staat registreren. Vanaf dat moment moeten ze veiligheidskaders en transparantierapporten publiceren en ernstige veiligheidsincidenten binnen 72 uur melden.

Tot nu toe draaide onafhankelijk testen in de VS vooral om afspraken die bedrijven vrijwillig maken. Anthropic liet bijvoorbeeld onlangs onderzoekers van testorganisatie METR binnen met de toegang van eigen medewerkers. Zulke regelingen hangen af van de goede wil van het bedrijf zelf. New York kiest nu voor een publieke testpartij met een wettelijke meldplicht erachter.

Europa regelt het via de AI-verordening

In de EU is de aanpak anders. Onder de AI-verordening moeten aanbieders van de krachtigste AI-modellen zelf risico's beoordelen, tests laten uitvoeren en ernstige incidenten melden bij het Europese AI Office in Brussel. Dat bureau kan ook zelf evaluaties doen en informatie opvragen. Een Amerikaanse staat die eigen testcapaciteit opbouwt, laat zien dat de discussie over wie AI controleert ook in de VS verschuift van zelfregulering naar toezicht, al is het vooralsnog per staat en niet landelijk.