Apple heeft de regels voor de App Store aangescherpt om zogeheten uitkleed-apps te weren. Dat zijn apps die met AI van een gewone foto een nepnaaktbeeld maken, zonder dat de persoon op de foto daar toestemming voor gaf. Apple maakte de wijzigingen vrijdag bekend.

Wat er verandert

Het verbod op dit soort apps was er in feite al, maar Apple formuleert het nu een stuk scherper. De belangrijkste punten:

  • Actief ingrijpen is verplicht. Ontwikkelaars moeten intieme beelden die zonder toestemming zijn gemaakt zelf voorkomen en verwijderen. Dat valt onder de regels voor contentmoderatie die voor alle apps gelden.
  • Verwijdering als sanctie. Wie geen goede waarborgen inbouwt of een overtreding niet oplost na een waarschuwing, kan uit de App Store worden gezet.
  • Geen trucs na goedkeuring. Apple verduidelijkt dat een app niet na de keuring alsnog functies mag toevoegen of omzetten, zoals een uitkleedfunctie. Dit soort 'bait-and-switch' was al verboden, maar wordt nu expliciet genoemd.
  • Ook buiten de App Store geblokkeerd. Apps die mensenhandel of uitbuiting van kinderen mogelijk maken, verdwijnen uit de winkel en worden volgens Apple ook geblokkeerd voor verspreiding via alternatieve kanalen.

Na maanden kritiek

De aanscherping volgt op stevige kritiek op Apple. Eerder dit jaar gebruikten mensen op X de chatbot Grok om seksueel getinte deepfakes te maken van echte personen, onder wie minderjarigen. Apple haalde X en Grok niet uit de App Store, al liet het bedrijf Amerikaanse senatoren weten dat het had gedreigd Grok te verwijderen. Tijdens Apples ontwikkelaarsconferentie WWDC in juni demonstreerden mensen voor het verwijderen van alle uitkleedtechniek uit de winkel. In juli eiste de stadsadvocaat van San Francisco dat Apple dertien van zulke apps zou weghalen. Volgens Apple is dat gebeurd.

Wat betekent dit voor jou?

Voor gewone iPhone-gebruikers verandert er weinig zichtbaars: de apps waar het om gaat, waren officieel al niet toegestaan. Het verschil zit in de verantwoordelijkheid. Ontwikkelaars van apps met AI-beeldbewerking kunnen zich niet meer verschuilen achter wat gebruikers ermee doen, maar moeten misbruik zelf tegenhouden. Hoe streng Apple daarop gaat controleren, is nog niet duidelijk.

In Europa komt er daarnaast een wettelijk verbod: volgens AI Insider zijn AI-uitkleedapps vanaf 2 december in de hele EU verboden, al kan de Nederlandse toezichthouder voorlopig nog niet handhaven.