Bij nieuwe regels mogen burgers vaak eerst reageren. Maar wat is zo'n inspraakronde nog waard als een groot deel van de reacties door AI is geschreven? Die vraag staat centraal in een essay van Deb Roy, hoogleraar aan het MIT Media Lab en directeur van het MIT Center for Constructive Communication. Het stuk verscheen in het Bulletin of the Atomic Scientists onder de titel "Who stands behind the words?". In een interview met MIT News licht hij het toe.

Nepreacties zonder vingerafdrukken

Roy begint met een bekend voorbeeld. In 2017 kreeg de Amerikaanse telecomtoezichthouder FCC meer dan 22 miljoen reacties op een voorstel om netneutraliteit af te schaffen. Volgens de procureur-generaal van New York waren bijna 18 miljoen daarvan nep. Die fraude viel op door sjabloonteksten en herhaalde zinnen. Taalmodellen wissen volgens Roy precies die sporen: elke reactie kan vloeiend en uniek zijn. Daardoor kunnen beoordelaars niet meer zien welke meningen echte mensen hebben gevormd.

Het gevolg is volgens hem dat ambtenaren publieke reacties stilletjes minder zwaar laten wegen. "Die pijler is gebarsten", zegt Roy, en burgers die wel de moeite nemen, worden minder gehoord.

Standing en aanspreekbaarheid

Roy gebruikt twee begrippen. Standing: wie spreekt, moet een belang hebben bij de uitkomst, zoals een inwoner op een dorpsvergadering. Answerability: wie iets zegt, moet daarop kunnen worden aangesproken. Dat hoeft niet altijd met naam en toenaam. Een instelling kan volgens hem verifiëren dat er een echte, bevoegde persoon spreekt zonder diens identiteit openbaar te maken.

AI is daarbij niet verboden. Wie met een belang een reactie laat opstellen door AI, die als de zijne overneemt en ervoor instaat, doet volgens Roy niets verkeerd. "AI kan de keten niet verankeren", stelt hij. Aan het eind moet een mens staan.

Vier ontwerpprincipes

  • Toeschrijfbaar auteurschap: duidelijk wie verantwoordelijk is voor een tekst.
  • Een proces dat in stappen is op te delen en te controleren.
  • Herkomstgegevens als vaste infrastructuur.
  • Meer mensen een stem geven in plaats van macht te concentreren.

Zijn centrum werkt zelf aan een prototype, VoiceTrace, dat elke samenvatting of aanbeveling uit een gespreksronde koppelt aan de stemmen waarop die is gebaseerd.

Wat betekent dit?

Ook in Nederland lopen veel besluiten via internetconsultaties en inspraakavonden. Roys betoog laat zien waarom overheden moeten nadenken over hoe ze echte bijdragen herkennen zonder burgers af te schrikken. En voor jou als deelnemer: laat je AI helpen bij een reactie, zorg dan dat je er zelf achter staat.