AIVD-baas waarschuwt voor AI als 'opzichzelfstaande dreiging'
Sinds woensdagmiddag is er een patch beschikbaar voor het beveiligingslek in PHP, een programmeertaal waarmee veel websites worden gebouwd. Toch zijn de gevolgen wereldwijd nog voelbaar, en het Nationaal Cyber Security Centrum (NCSC) ziet inmiddels ook in Nederland misbruik van het lek door kwaadwillenden. Verder waarschuwt de AIVD voor AI als op zichzelf staande dreiging en lanceert Hugging Face een AI-model voor DNA-onderzoek. Stijn Goossens vertelt erover in deze Tech Update. Veel websites zijn weer in de lucht, maar het lek leidt nog tot kleine storingen en vertragingen bij diensten. Uit analyses van BNR blijkt dat tientallen Nederlandse overheidssites nog op oude PHP-versies draaien en daardoor kwetsbaar zijn. Het gaat niet om de hoofdpagina’s, maar om subpagina’s over specifieke onderwerpen. Het NCSC adviseert met klem om updates zo snel mogelijk door te voeren, en websites anders offline te halen. AIVD houdt rekening met AI als eigenstandige dreiging De AIVD houdt er rekening mee dat AI een eigenstandige bedreiging gaat vormen. Dat zei directeur-generaal Simone Smit van de Algemene Inlichtingen- en Veiligheidsdienst in WereldUpdate, de podcast van Instituut Clingendael. Volgens Smit wordt AI ook ingezet als geopolitiek instrument. Eerder waarschuwde de AIVD al, samen met andere veiligheidsdiensten, dat AI kwaadwillenden kan helpen, bijvoorbeeld bij het uitvoeren van grootschalige cyberaanvallen. Smit wijst nu op een volgende stap: AI zou ook een dreiging kunnen vormen zonder dat er een menselijke aanvaller achter zit. Er zijn al voorbeelden van AI-agents, zelfstandig opererende AI-systemen, die zonder expliciete opdracht systemen van bedrijven binnendrongen. De AIVD gaat deze ontwikkeling het komende jaar nauwlettend volgen. Hugging Face lanceert AI-model voor DNA-onderzoek Hugging Face, het AI-platform dat halverwege dit jaar werd gehackt door AI-agents van OpenAI, heeft een AI-model gelanceerd waarmee onderzoekers via een chatbot vragen kunnen stellen over DNA. Het model heet Carbon-X en is een taalmodel dat extra is getraind op het analyseren van DNA-strengen: de lange reeksen van de letters A, T, C en G die beschrijven hoe eiwitten in cellen moeten werken. Onderzoekers kunnen het model bijvoorbeeld vragen wat de effecten zijn van specifieke veranderingen in het DNA. Carbon-X kan op eigen hardware van onderzoekers draaien, in plaats van in grote datacenters. Hugging Face waarschuwt dat het model fouten kan maken en kan hallucineren, wat betekent dat het overtuigend klinkende maar onjuiste antwoorden kan geven. Ook is het nog niet klinisch gevalideerd. NCSC waarschuwt voor ernstige kwetsbaarheden in PHP Websites van ziekenhuizen en gemeenten urenlang offline door PHP-lek AIVD-baas waarschuwt voor AI als eigenstandige dreiging Hugging Face brengt open DNA-model Carbon-X uit Hoe AI-agents van OpenAI Hugging Face hackten Over de maker: Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben