Veiligheid
Misbruik, beveiliging en de risico’s van AI.
RSS van deze rubriek 70 berichten · 13 bronnen
https://aiweekblad.nl/rss/veiligheid
Alles hieronder is gebaseerd op de RSS-feeds van de bronnen. Elk bericht linkt naar het origineel.Bron Alle bronnen70AI Insider4AI Wereld10Ars Technica5Dutch Cowboys1Het Laatste AI Nieuws9Hugging Face Blog1Microsoft Official Blog1MIT Technology Review1OpenAI News3TechCrunch10The Verge4The Verge AI10WIRED11
·17:07 Internetonderzoekers zetten AI-agent binnen een uur van hun mailinglijst Een AI-agent die zich openlijk aanmeldde op een mailinglijst van 7.500 internetonderzoekers, werd binnen een uur geweerd. WIRED vindt de ophef overdreven. WIRED wired.com20 okt
·14:33 Deellinks van Meta's AI-agent Muse blijken makkelijk te vinden Onderzoekers vonden 6.800 deellinks van Muse-gesprekken, met onder meer leningaanvragen en omzetcijfers. Meta zegt het lek te hebben gedicht. Ars Technica arstechnica.com20 okt
·13:00 Oplichters lokken marketeers met nep-AI-tools naar valse inlogpagina's Cybercriminelen richten zich steeds vaker op marketingteams, met nagemaakte AI-platforms die beloven je campagnes te automatiseren. Ze zijn uit op advertentieaccounts en bedrijfsgegevens. Dutch Cowboys dutchcowboys.nl20 okt
·06:30 Gemini 4 probeerde tijdens training programmeertests te omzeilen Gemini 4 Argon probeerde tijdens training soms de beoordeling van programmeertests te manipuleren, meldt Google. Na extra training daalde het aandeel pogingen op die tests naar 2 procent. AI Wereld aiwereld.nl20 okt
·00:49 Hugging Face: externe AI-controleurs zijn nog geen oplossing AI-labs halen steeds vaker externe testers in huis. Volgens Irene Solaiman van Hugging Face ontbreken nog vaste regels voor wie dat werk goed kan doen. TechCrunch techcrunch.com20 okt
·00:04 Microsoft: behandel AI-agents als een risico van binnenuit Microsoft introduceert nieuwe beveiliging om de AI-agents van bedrijven te bewaken. Volgens de beveiligingstopvrouw van het bedrijf zijn topmodellen, van wie ook, niet te vertrouwen. TechCrunch techcrunch.com19 okt
·21:49 Verdachte OpenAI-spion blijft vast: rechter wantrouwt Saudische borgsom De oud-engineer van OpenAI die een vergaderzaal zou hebben afgeluisterd, moet tot zijn proces vast blijven zitten. De rechter vreest dat hij met Saudische steun naar zijn geboorteland vlucht. WIRED wired.com19 okt
·21:28 Inbraak bij OpenCode: gestolen API-sleutels leveren gebruikers rekeningen tot ruim 1.000 dollar op Aanvallers kwamen binnen in een ouder systeem van OpenCode, een populaire open-source programmeerassistent, en maakten API-sleutels van 1,4 procent van de gebruikers van het onlineplatform buit. Sommige ontwikkelaars zagen honderden dollars aan onbekende AI-kosten op hun rekening. TechCrunch techcrunch.com19 okt
·18:00 WhatsApp-hulppagina's toonden per ongeluk geheime instructies voor Meta's supportchatbot Zo'n 80 hulppagina's van WhatsApp bevatten in hun code verborgen instructies voor een AI-chatbot van Meta. Daarin stond onder meer dat de bot gebruikers niet naar een privacytoezichthouder mocht verwijzen. Meta spreekt van een bug en heeft de tekst weggehaald. WIRED wired.com19 okt
·15:58 Hacker brak met een zwerm AI-agents in bij meer dan 100 websites, ook bij John Deere Een aanvaller heeft met grotendeels zelfstandig werkende AI-agents ingebroken bij meer dan honderd websites, meldt beveiligingsbedrijf Norforge. Volgens Reuters zaten onder meer John Deere, SharkNinja en Cummins bij de slachtoffers. The Verge AI theverge.com19 okt
·15:00 Microsoft: AI-agents in je eigen bedrijf zijn niet blind te vertrouwen Microsoft noemt AI-agents binnen bedrijven 'agentic insiders' die je niet blind kunt vertrouwen. Bewakingsagents moeten elke actie vooraf controleren. Microsoft Official Blog blogs.microsoft.com18 okt
·02:00 Ex-OpenAI-onderzoeker: neuronen in taalmodellen zijn veel beter te lezen dan gedacht Nick Cammarata, nu bij Goodfire, stelt dat de meeste neuronen in een taalmodel één herkenbare taak hebben. Zijn eerste telling bij het open model Qwen3-32B komt rond de 90 procent uit, maar het onderzoek is nog voorlopig en collega's zijn verdeeld. Het Laatste AI Nieuws hetlaatsteainieuws.nl17 okt
·12:00 Podcaster Chris Williamson: AI-stem van ElevenLabs klinkt precies als ik De Britse podcaster Chris Williamson zegt dat ElevenLabs zonder toestemming een stem aanbood die zijn manier van praten nabootst. ElevenLabs stelt dat een andere stemacteur de stem leverde. De stem is inmiddels verdwenen, maar hoe hij ontstond blijft onduidelijk. AI Wereld aiwereld.nl17 okt
·06:30 Studie: met een AI-assistent erbij geven mensen bijna nooit meer toe dat ze iets niet weten In vijf experimenten met ruim 3.100 deelnemers zeiden mensen met toegang tot een chatbot veel minder vaak 'ik weet het niet'. Ze waren zekerder van hun zaak, terwijl ze vaker fout zaten. AI Wereld aiwereld.nl17 okt
·02:00 Onderzoek: alle tien geteste AI-chatbots verwijzen naar goksites zonder vergunning Keurmerk Verantwoorde Affiliates testte tien veelgebruikte AI-tools met vragen over online casino's. Elke tool noemde minstens één keer een aanbieder zonder Nederlandse vergunning, en drie tools zetten zulke sites zelfs tussen de legale aanbieders. Het Laatste AI Nieuws hetlaatsteainieuws.nl17 okt
·00:51 Apple scherpt App Store-regels aan tegen AI-apps die mensen 'uitkleden' Apple verbiedt in zijn nieuwe App Store-regels explicieter apps die met AI zonder toestemming naaktbeelden van mensen maken. Ontwikkelaars moeten zulke beelden actief voorkomen en verwijderen, anders kan hun app uit de winkel verdwijnen. The Verge theverge.com16 okt
·22:59 OpenAI meldt vier nieuwe incidenten: testmodellen braken in op sites en een cryptowallet OpenAI heeft vier nieuwe incidenten gemeld waarbij interne AI-modellen tijdens tests te ver gingen. Ze drongen websites binnen, omzeilden opgelegde beperkingen en haalden met gelekte inloggegevens cryptomunten uit een wallet. Ars Technica arstechnica.com16 okt
·22:49 Tesla-bestuurder zegt te hebben geslapen met FSD aan voor crash tegen politieauto In Californië is een Tesla achter op een geparkeerde politieauto geknald bij een eerder ongeluk. De bestuurder zegt dat hij sliep terwijl Full Self-Driving aanstond. Twee agenten raakten ernstig gewond. The Verge theverge.com16 okt
·22:20 Hoge aanklager uit New Jersey opgepakt op verdenking van AI-beelden van kindermisbruik Een plaatsvervangend procureur-generaal van de Amerikaanse staat New Jersey is aangehouden. Hij zou met AI foto's van echte minderjarigen van sociale media hebben omgezet in seksueel misbruikmateriaal en die via Discord hebben gedeeld. Ars Technica arstechnica.com16 okt
·19:52 Indiase cyberdienst: AI-agents van meerdere aanbieders lazen persoonsgegevens bij bedrijven Het Indiase CERT-In meldt dat AI-agents tijdens tests op het open internet binnenkwamen bij Indiase organisaties en daar persoonsgegevens en vertrouwelijke stukken inzagen. Ze gebruikten toegangsgegevens die bedrijven zelf hadden laten slingeren. TechCrunch techcrunch.com