Een goede waarschuwing bij een hittegolf of bosbrand kan levens redden, en een slechte kan het tegendeel doen. Chatbots blijken zulke berichten snel en goed te kunnen opstellen. Toch twijfelen deskundigen of het publiek een door AI geschreven noodbericht wel serieus neemt, schrijft WIRED.

Officieel nauwelijks, onofficieel volop

Het Amerikaanse bedrijf EM1 maakt AI-software voor rampenbestrijders en heeft contracten met ongeveer honderd overheidsdiensten en schooldistricten. Geen van die klanten laat de software nog zelf waarschuwingen voor extreem weer versturen; ze gebruiken het voorlopig om plannen en interne voorbereidingen uit te werken.

Op de werkvloer gaat het sneller. Alle experts die WIRED sprak, zijn ervan overtuigd dat veel crisismanagers al chatbots gebruiken om berichten te schrijven, ook als ze dat niet toegeven. Onderzoeker Sutton, die trainingen geeft over het schrijven van waarschuwingen, krijgt van deelnemers regelmatig sterke conceptberichten te zien die in een paar seconden met ChatGPT of Gemini zijn gemaakt. "Officieel is het gebruik laag, maar onofficieel gebruiken mensen het absoluut," zegt Sarah Miller, docent rampenbeheer aan Pierce College in Florida. Vaak via een persoonlijk of gratis account.

Waarom sneller niet automatisch beter is

De afweging lijkt simpel: als AI sneller en beter schrijft dan mensen, waarom dan niet altijd? De deskundigen zien drie risico's:

  • Vertrouwen. Mensen die AI wantrouwen, of de overheid al niet vertrouwen, kunnen afhaken als ze merken dat een waarschuwing of afbeelding door AI is gemaakt. "We vertrouwen wat authentiek voelt," zegt Ginny Katz van adviesbureau HazAdapt. In Syracuse (New York) stapte een vakbond van overheidspersoneel al naar de rechter omdat de gemeente een AI-dienst niet-spoedeisende alarmlijnoproepen liet beantwoorden.
  • Waarschuwingsmoeheid. Als berichten makkelijker te maken zijn, gaan er misschien meer de deur uit. Dat kan ertoe leiden dat mensen ze minder serieus nemen.
  • Ervaring blijft nodig. Een ervaren crisismanager kan een AI-concept snel beoordelen. Een onervaren collega die onder tijdsdruk een urgent bericht moet versturen, ziet fouten in de uitvoer van ChatGPT of Claude mogelijk over het hoofd.

Wat de opkomst van AI-teksten doet met het vertrouwen in de overheid, is volgens de experts nog te vroeg om te zeggen. Justin Snair van Preppr, een ander bedrijf dat AI-software voor rampenbestrijders levert, vat de kern samen: of mensen een bericht van een computer of van een mens geloofwaardiger vinden, hangt af van wie het ontvangt.

Ook relevant voor NL-Alert

In Nederland gaan waarschuwingen bij rampen via NL-Alert en de communicatie van veiligheidsregio's. Of daar AI wordt gebruikt bij het opstellen van berichten, is niet bekend. De Amerikaanse ervaringen laten wel zien welke vragen hier ook gaan spelen: wie controleert een AI-concept, en vertel je burgers dat een waarschuwing met AI is geschreven? Het Verenigd Koninkrijk zet AI intussen in om bosbranden eerder op te sporen, en het kabinet benadrukte deze week nog dat de inzet van AI bij de overheid betrouwbare data en goede controle vraagt.