Scott Wiener, de Californische politicus die de bekendste Amerikaanse wetsvoorstellen over geavanceerde AI schreef, gaat naar Washington. Hij won een nek-aan-nekrace om de zetel in San Francisco die Nancy Pelosi, voormalig voorzitter van het Huis van Afgevaardigden, achterliet. In een interview met MIT Technology Review, een paar uur nadat hij tot winnaar was uitgeroepen, maakt hij duidelijk dat AI-regulering bovenaan zijn lijst staat.

Van SB 1047 naar het Congres

Wiener schreef in 2024 SB 1047, dat de eerste echte wet voor zogeheten frontier-AI in de VS had moeten worden. Gouverneur Gavin Newsom sprak er zijn veto over uit. Daarna kwam Wiener met SB 53, een lichtere variant die Newsom wel ondertekende. Beide wetten hebben inmiddels navolging gekregen in voorstellen op federaal niveau.

In het Congres wil Wiener verder. Hij pleit voor een "sterke, slagvaardige" federale toezichthouder op AI, zoals zijn Californische partijgenoot Ro Khanna die heeft voorgesteld. Ook noemt hij bescherming voor klokkenluiders, verplichte tests en audits, en een verplichte noodstop (kill switch) voor AI-systemen. Komt er een speciale AI-commissie in het Huis, waar Democraten sinds september over praten, dan wil hij daar graag in.

"We kunnen een ramp in slaapwandelen"

Wiener verwijst naar het recente rapport van onderzoeksorganisatie METR, dat volgens veel lezers laat zien dat AI bij Anthropic al flink bijdraagt aan de eigen ontwikkeling. Over dat rapport schreven we in METR: AI versnelt Anthropic, maar het bewijs blijft grotendeels geheim. Wiener noemt het "zeer zorgwekkend" en bewijs dat de tijd om te reguleren opraakt. "We moeten dit vertragen", zegt hij. Hij had gehoopt dat het Congres nog dit jaar zou ingrijpen, maar verwacht dat nu niet meer.

Steun van een Anthropic-gefinancierde lobbygroep

Er hangt wel een kanttekening aan zijn campagne. Wiener kreeg ruim 3 miljoen dollar steun van Public First Action, een organisatie die voor AI-regels lobbyt en volgens MIT Technology Review veel geld van Anthropic krijgt. Tegenstanders vonden hem daardoor te dicht bij de AI-sector staan. Wiener noemt die aanval "schokkend cynisch": hij was juist de eerste die AI-regels tegen de wil van Big Tech in invoerde, zegt hij.

Wat Europa hiervan merkt

In de EU geldt al de AI-verordening, die voor de krachtigste modellen eisen stelt aan risicobeoordeling en transparantie. De VS heeft zo'n landelijke wet niet, en de regering-Trump ziet weinig in strengere regels. Met Wiener krijgt het kamp dat wel federale regels wil een bekende stem in Washington. Of hij daar meer bereikt dan in Sacramento, hangt af van de machtsverhoudingen na de verkiezingen. Voor Europese bedrijven die ook in de VS actief zijn, zou een federale toezichthouder betekenen dat de regels aan beide kanten van de oceaan meer op elkaar gaan lijken.