Bill Gates, medeoprichter van Microsoft en voorzitter van de Gates Foundation, was jarenlang een van de grootste optimisten over technologie. In een lang gesprek met de podcast Decoder van The Verge klinkt hij een stuk somberder. Hij verwacht ongeveer twintig jaar ontwrichting door AI, een periode die volgens hem zo pijnlijk kan worden dat de samenleving uiteenvalt in mensen die de nieuwe techniek omarmen en mensen die haar afwijzen.

Gates zit al sinds eind augustus op dit spoor. Toen publiceerde hij een essay waarin hij schreef dat de overgang naar het AI-tijdperk, zelfs in het gunstigste geval, een van de meest turbulente periodes in de menselijke geschiedenis wordt.

Geen doemdenker, wel alarm

Op de vraag of hij een 'doomer' is geworden, antwoordt Gates ontkennend. Hij ziet AI als de meest ingrijpende technologie ooit, zowel in wat ze goed kan doen als in het tempo waarin ze de samenleving verandert. Volgens hem is de drempel inmiddels gepasseerd: dit is 'veruit de gevaarlijkste technologie die ooit is uitgevonden'.

Opvallend is waar hij het acute gevaar legt. Niet bij het scenario waarin AI de controle overneemt, maar bij modellen waarvan de veiligheidsremmen zijn weggehaald. Daarmee kunnen kwaadwillenden cyberaanvallen en biologische aanvallen uitvoeren die vroeger alleen voor grote staten haalbaar waren. Dat het risico reëel is, bleek onlangs nog uit onderzoek van CrowdStrike naar criminelen die AI-blokkades omzeilen.

De overheid moet het overnemen

Gates vindt dat bedrijven die verantwoordelijkheid niet alleen kunnen dragen zodra er meerdere concurrenten aan de top meedraaien. Voor auto's en vliegtuigen stelt de overheid strenge technische eisen, zegt hij, terwijl die 'nog geen miljoenste zo gevaarlijk' zijn. Dat er in de VS nu niet eens een verplichte beoordeling van nieuwe modellen bestaat, noemt hij stuitend. Het huidige systeem komt in zijn woorden neer op 'bel me maar als je wilt'.

Een wereldwijde pauze in de ontwikkeling ziet hij niet zitten, maar niet omdat hij er principieel tegen is. Er ligt volgens hem simpelweg geen voorstel dat ook China zou volgen en dat te controleren valt, zoals bij kernwapens.

Drie routes naar controle

Voor het lastigere probleem, AI-systemen die zich anders gedragen dan bedoeld, ziet Gates drie mogelijke oplossingen:

  • modellen fundamenteel anders bouwen dan met de huidige trainingsmethoden;
  • beter kunnen zien wat er binnenin een model gebeurt;
  • een vaste beveiligingslaag om het model heen, met harde regels over wat het wel en niet mag, zoals geld uitgeven of mail sturen naar onbekenden.

Die laatste route vindt hij het meest kansrijk, al is ze nog lang niet klaar. Hij is het eens met Microsoft-topman Mustafa Suleyman dat je een AI-model niet moet aanmoedigen zich als mens te gedragen. Dat is een sneer naar de aanpak van Anthropic.

Wat het Europese debat ervan kan leren

Waar Gates in de VS pleit voor iets wat er nog niet is, heeft de EU met de AI-verordening al regels voor de krachtigste AI-modellen, inclusief verplichtingen om risico's te testen en ernstige incidenten te melden. Gates' betoog laat zien dat die discussie in Amerika nog moet beginnen. Hij waarschuwt ook dat het gevaarlijk is als de ene partij AI als hoax afdoet en de andere er helemaal tegen is, zoals eerder bij klimaatverandering gebeurde.

Ondertussen gaat de Gates Foundation zelf vol op AI in voor gezondheid, onderwijs en landbouw. Juist omdat hij de voordelen zo groot vindt, wil hij dat de risico's nu serieus worden aangepakt.