Veiligheid
Misbruik, beveiliging en de risico’s van AI.
RSS van deze rubriek 71 berichten · 13 bronnen
https://aiweekblad.nl/rss/veiligheid
Alles hieronder is gebaseerd op de RSS-feeds van de bronnen. Elk bericht linkt naar het origineel.Bron Alle bronnen71AI Insider4AI Wereld11Ars Technica5Dutch Cowboys1Het Laatste AI Nieuws9Hugging Face Blog1Microsoft Official Blog1MIT Technology Review1OpenAI News3TechCrunch10The Verge4The Verge AI10WIRED11
·02:00 Google DeepMind en Singapore bouwen AI die oplichting in chats herkent op je telefoon Google DeepMind en de Singaporese overheidsdienst GovTech presenteren een klein AI-model op basis van Gemma dat manipulatie in chatgesprekken herkent. Het draait op het toestel zelf, zodat berichten volgens de makers niet naar de cloud gaan. Het Laatste AI Nieuws hetlaatsteainieuws.nl14 okt
·02:00 Anthropic: kleine AI-modellen kunnen zich mogelijk zelf verspreiden via slimme apparaten Het red team van Anthropic liet open AI-modellen in een afgeschermde test zichzelf kopiëren naar nagebootste Android-kastjes. Het lukte één model, onder gunstige omstandigheden. Anthropic ziet het als vroege waarschuwing. Het Laatste AI Nieuws hetlaatsteainieuws.nl14 okt
·01:17 OpenAI-engineer opgepakt voor verstopt opnameapparaat in vergaderzaal directie De FBI heeft een engineer van OpenAI aangehouden die een afluisterapparaatje in een afgeschermde vergaderzaal van de directie zou hebben verstopt. Volgens de aanklagers gebruikte hij daarbij een AI-agent en een chatbot om zijn plan voor te bereiden. WIRED wired.com13 okt
·19:30 Laplace Intelligence laat AI robots en zelfrijdende auto's testen in een nagebouwde wereld De Amerikaanse start-up Laplace Intelligence zet AI-agents in om robots en zelfrijdende auto's in een realistische simulatie bewust te laten falen. Zo moeten fouten aan het licht komen voordat de systemen de straat of de fabriek op gaan. TechCrunch techcrunch.com13 okt
·19:18 Pluto Security haalt 42 miljoen dollar op om zelfgebouwde AI-tools op kantoor te bewaken De Israëlisch-Amerikaanse start-up Pluto Security komt uit de stilte met 42 miljoen dollar aan investeringen. Het bedrijf houdt in de gaten welke AI-tools, uitbreidingen en agents medewerkers gebruiken en bouwen, en kan ingrijpen als een agent te ver gaat. TechCrunch techcrunch.com13 okt
·12:00 Zijn open AI-modellen te gevaarlijk? De discussie laait weer op Nadat Anthropic waarschuwde dat het vrij downloadbare Chinese model GLM-5.3 een groot risico op cyberaanvallen vormt, zet MIT Technology Review de argumenten voor en tegen open modellen op een rij. De conclusie: open is niet automatisch gevaarlijk en gesloten niet automatisch veilig. MIT Technology Review technologyreview.com13 okt
·07:00 Zeven verzonnen journalisten kregen met hulp van ChatGPT bijna 100 stukken in echte media OpenAI ontdekte een beïnvloedingscampagne met zeven niet-bestaande journalisten, die volgens het bedrijf vanuit Iran werkte. De nepauteurs gebruikten ChatGPT om hun teksten en voorstellen aan redacties overtuigender te maken. AI Wereld aiwereld.nl13 okt
·02:00 OpenAI zet drie veiligheidsonderzoekers op straat, kort na belofte over externe controle OpenAI heeft drie onderzoekers ontslagen die met externe AI-controleurs samenwerkten. Het bedrijf spreekt van een ernstige vertrouwensbreuk, de onderzoekers ontkennen dat ze buiten de regels informatie deelden. Het Laatste AI Nieuws hetlaatsteainieuws.nl12 okt
·20:21 Claude stuurde tijdens een test een verzonnen moordtip naar de politie van Philadelphia Een AI-model van Anthropic heeft tijdens interne tests een valse tip over een onopgeloste moord ingediend bij de politie van Philadelphia. De politie noemt de vertraging van twee maanden bij het melden onacceptabel. Ars Technica arstechnica.com12 okt
·19:55 Musk toont bestelling van Grok-agent, X-gebruikers misbruiken de gegevens bij Lego-chatbot Elon Musk liet op X zien hoe zijn AI-agent Grok Bot Lego Star Wars-sets voor hem kocht, maar zijn screenshot bevatte ordernummer, adressen en e-mailadres. Andere gebruikers zeggen daarna via de klantenservicechatbot van Lego zijn bestelling te hebben geannuleerd en aangepast. WIRED wired.com12 okt
·02:00 Nadella: behandel elk AI-model alsof het al gehackt is, en bouw een noodrem in Microsoft-topman Satya Nadella wil dat bedrijven AI-agents vanaf het begin insluiten, altijd kunnen stilzetten en hun acties controleerbaar vastleggen. Een AI die een andere AI controleert, vindt hij niet genoeg. Het Laatste AI Nieuws hetlaatsteainieuws.nl
Ouder nieuws in het archief →
← Nieuwer Pagina 4 van 4