Tech Update | BNR

President Donald Trump heeft een 'moreel akkoord' met de grote AI-ontwikkelaars ondertekend waarmee de veiligheid van AI-systemen gegarandeerd moet worden. In het akkoord staan vier punten die intern en extern toezicht op de ontwikkeling van AI moeten regelen. Verder hoor je over Dots, de nieuwe manier van werken met AI van OpenAI. Niels Kooloos vertelt erover in deze Tech Update.
Onder andere OpenAI, Anthropic en Nvidia hebben het akkoord van Trump ondertekend, maar het is niet juridisch bindend. Wel staat er in het akkoord dat de punten op termijn wellicht omgezet kunnen worden in wet- en regelgeving. Trump was eerder juist fel tegenstander van extra regels om AI te reguleren, maar lijkt nu een kleine ommedraai te maken.
OpenAI lanceert AI agents Dots
OpenAI heeft dinsdagavond Dots gelanceerd: AI agents die constant voor gebruikers werken en niet constant van nieuwe input voorzien hoeven te worden. Eerder kwamen Meta, Google en SpaceXAI al met soortgelijke AI agents zoals Muse en Grok Bot.
AI-ontwikkelaars lijken steeds meer in te zetten op agents in plaats van op chatbots zoals we die nu kennen. Eerder deze week lanceerde Meta bijvoorbeeld ook Muse voor kleine bedrijven.
Dots is alleen beschikbaar voor betalende gebruikers van ChatGPT en voorlopig niet in de Europese Unie.
Trump tekent 'moreel akkoord' met AI-ontwikkelaars
OpenAI lanceert Dots
Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.

See omnystudio.com/listener for privacy information.

De 24-jarige Pepijn van der S., die eerder deze maand werd opgepakt door de Nederlandse politie omdat hij verdacht wordt van betrokkenheid bij hackersbende ShinyHunters, wordt ook verdacht van een poging van uitlokking van twee moorden. Dat laat de politie weten in een statement. Daarnaast heeft de FBI op X gezegd dat Pepijn 'een van de vermeende leiders van ShinyHunters is'. De groep zit onder andere achter hacks bij Odido en de FBI. Niels Kooloos vertelt erover in deze Tech Update.
Op een laptop van Pepijn heeft de Nederlandse politie informatie over twee moorden gevonden die in het buitenland gepleegd zouden moeten worden. Pepijn zou die mogelijk uitgelokt hebben. Of de moorden ook daadwerkelijk gepleegd zijn, heeft de politie niet gezegd.
Verder benadrukt de politie dat Pepijn alleen verdacht wordt van betrokkenheid bij ShinyHunters en niet van de hack bij telecombedrijf Odido. Naar aanleiding van de arrestatie van Pepijn sluit de politie nieuwe arrestaties niet uit.
Het Openbaar Ministerie onderschrijft de uitspraak van de FBI over Pepijns rol binnen ShinyHunters na vragen van BNR niet. Waarom de FBI Pepijn als één van de kopstukken van ShinyHunters ziet wordt verder ook niet toegelicht door de FBI zelf.
FBI noemt Pepijn van der S. ‘mogelijke leider’ van ShinyHunters, ook verdacht van uitlokken moorden
ShinyHunters beweert geen connectie te hebben met opgepakte Nederlander
Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.
See omnystudio.com/listener for privacy information.

AI-bedrijf Anthropic waarschuwt toekomstige investeerders in de prospectus voor zijn beursgang dat zijn AI 'catastrofale of existentiële risico's voor de mensheid' kan vormen. Het bedrijf verwacht binnen enkele weken naar de beurs te gaan, in wat de meest waardevolle beursgang ooit moet worden, bij een beurswaarde van 2.000 miljard dollar. Verder stelt OpenAI de lancering van zijn nieuwste AI-model uit en weigert Google zoekdata te delen met concurrenten, zoals Brussel eist. Joe van Burik vertelt erover in deze Tech Update.
Een prospectus moet investeerders laten zien waar ze hun geld in steken en wat de afbreukrisico's zijn. Die van Anthropic telt 260 pagina's. Bijna een kwart daarvan, zo'n 80 pagina's, gaat over wat er concreet mis kan gaan met AI. Anthropic noemt onder meer 'gedragingen door AI om zichzelf in stand te houden', 'weigeren uit te gaan', 'informatie verbergen of manipuleren' en 'gedrag dat lijkt op chantage'.
Miljardenverlies bij Anthropic en uitstel bij OpenAI
Uit de prospectus blijkt ook hoe Anthropic er financieel voor staat. Vorig jaar leed het bedrijf 42 miljard dollar verlies, op een omzet van 4,6 miljard dollar. Die omzet was twaalf keer zo hoog als een jaar eerder. Dit jaar verwacht Anthropic al op 100 miljard dollar omzet uit te komen. Daar staat tegenover dat het bedrijf de komende jaren 518 miljard dollar wil uitgeven aan rekenkracht en cloudcapaciteit. Concurrent OpenAI, de maker van ChatGPT, gaat pas volgend jaar naar de beurs. Dat bedrijf brengt zijn nieuwste AI-model voorlopig niet uit, omdat de veiligheid niet gegarandeerd kan worden. Ook bood OpenAI excuses aan omdat een AI-agent van het bedrijf, software die zelfstandig taken uitvoert, Australische overheidswebsites heeft gehackt. Het bedrijf richt nu een taskforce op.
Google weigert zoekdata te delen met concurrenten
Google weigert zich te houden aan een Europees besluit dat het bedrijf verplicht meer data over zoekgedrag te delen met concurrenten. De Europese Unie wil de marktmacht in het digitale domein zo eerlijk mogelijk verdelen, waardoor zoeken via Google, ChatGPT of DuckDuckGo zo gelijkwaardig mogelijk moet worden. De verplichting is opgelegd vanuit de Digital Markets Act, de Europese wet die de macht van grote techbedrijven moet inperken. Brussel legde de maatregel in juli officieel op, en heeft dat inmiddels twee keer gedaan. Google stelt dat het delen van deze data de privacy van gebruikers schendt. Dat liet het bedrijf weten aan het Hof in Luxemburg, waar het in beroep is gegaan. De Europese Commissie zegt juist maatregelen te hebben genomen die voorkomen dat gevoelige persoonlijke informatie uit zoekopdrachten, zoals medische zaken, kan uitlekken. DuckDuckGo steunt de Commissie en stelt dat een beroep Google alleen tijd oplevert.
Anthropic waarschuwt in prospectus voor existentiële risico's van AI
Anthropic meldt twaalf keer hogere omzet in prospectus voor beursgang
OpenAI biedt excuses aan voor hack en schrapt lancering nieuw model
Google moet zoekgeschiedenis delen met OpenAI onder Digital Markets Act
Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.
See omnystudio.com/listener for privacy information.

Nvidia heeft het Open Agent Safety Platform onthuld, een systeem dat moet voorkomen dat AI-agents uitbreken uit hun afgeschermde omgeving. De AI-chipmaker reageert daarmee op de recente zorgen over hacks door AI-agents, zoals de veelbesproken inbraak door AI-systemen van OpenAI bij het AI-platform Hugging Face. Verder pauzeert OpenAI de ontwikkeling van zijn krachtigste modellen en vragen toponderzoekers om overheidsbemoeienis bij AI die zichzelf doorontwikkelt. Joe van Burik vertelt erover in deze Tech Update.
AI-agents zijn AI-systemen die zelfstandig taken uitvoeren. Het platform werkt als een kooi: binnen de grenzen kunnen agents hun werk doen, maar uitbreken moet onmogelijk worden. Dat gebeurt met twee stukken software. OpenShell, dat Nvidia in maart al toonde, bepaalt waar een AI-agent wel en niet bij mag en is open source. Het nieuwe Sentry houdt het gedrag van agents in de gaten en kan ingrijpen zodra een agent buiten zijn grenzen probeert te treden. Beide draaien op hardware van Nvidia.
Onduidelijk welke AI-bedrijven het platform inzetten
Of het platform ook echt gebruikt gaat worden bij de ontwikkeling van de krachtigste AI-modellen, laat Nvidia in het midden. Het bedrijf zegt niet of de Amerikaanse koplopers OpenAI en Anthropic ermee aan de slag gaan; dat moeten die bedrijven volgens Nvidia zelf bekendmaken. Nvidia ontwikkelde het platform wel samen met Microsoft, Cisco, Oracle, Intel en Arm. Topman Jensen Huang heeft eerder gezegd dat de ontwikkeling van AI wat hem betreft niet hoeft te worden afgeremd. Het platform moet daarbij helpen als een soort vangrail, zodat de ontwikkeling op volle snelheid kan doorgaan. Ook is Nvidia bezig met de overname van Hugging Face, het platform waarop ontwikkelaars open AI-modellen delen.
OpenAI pauzeert ontwikkeling van krachtigste modellen
Los van het nieuwe platform heeft OpenAI de ontwikkeling van zijn krachtigste AI-modellen gepauzeerd. Het bedrijf, waarvan AI-systemen eerder bij Hugging Face binnendrongen, maakte dat afgelopen weekend bekend. Anthropic heeft zo'n stap nog niet aangekondigd, ook niet na een diner van topman Dario Amodei met de Amerikaanse president Donald Trump op zondagavond. Tegelijkertijd bericht The Wall Street Journal over nieuwe zorgen uit de AI-sector zelf. Toponderzoekers van onder meer OpenAI, Anthropic, Meta en Microsoft vragen daarin om overheidsbemoeienis bij hun onderzoek. Het gaat specifiek om AI die zichzelf kan doorontwikkelen. Daarbij bouwt een AI-systeem zelfstandig aan een krachtigere opvolger.
Nvidia presenteert het Open Agent Safety Platform met OpenShell en Sentry
Nvidia wil met nieuw platform uitbraken van AI-agents voorkomen
Hoe OpenShell en Sentry samen AI-agents afschermen en bewaken
Nvidia koopt AI-platform Hugging Face voor bijna 13 miljard dollar
OpenAI legt werk aan krachtigste AI-modellen stil na nieuw incident
Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.
See omnystudio.com/listener for privacy information.

OpenAI stopt voorlopig met het trainen van nieuwe AI-modellen, omdat die onbedoeld meerdere overheden en bedrijven hebben gehackt de laatste tijd. Volgens het bedrijf moeten er eerst goede veiligheidsmaatregelen ingevoerd zijn. Verder hoor je over een lek in de Netscaler-software van Citrix, waardoor ziekenhuizen uit voorzorg hun systemen offline hebben gehaald. Niels Kooloos vertelt erover in deze Tech Update.
Het is nu voor de tweede keer dat OpenAI op de 'pauzeknop' drukt en stopt het met trainen van nieuwe AI-modellen. In juli deed het bedrijf dat voor het eerst naar aanleiding van de hack bij Hugging Face. Toen viel een zwerm AI-agents van OpenAI het platform aan, terwijl OpenAI daar geen instructies voor had gegeven.
Afgelopen week werd bekend dat agents van OpenAI ook de Australische overheid, de Amerikaanse en de Verenigde Naties hebben gehackt of lastiggevallen. Zo braken agents in bij een zorgverzekerinsplatform van Australië en dienden ze duizenden informatieverzoeken bij de VN in, wat het netwerk belastte. Beide incidenten vonden al in juni plaats.
Ziekenhuizen halen systemen offline door lek in Netscaler
Doordat er nieuwe kwetsbaarheden in de Netscaler-software van Citrix ontdekt zijn, hebben meerdere Nederlandse ziekenhuizen en de Rijksoverheid hun IT-systemen van het internet losgekoppeld. Met Netscaler kan men onder andere op afstand inloggen bij een organisatie om bijvoorbeeld thuis te werken of gegevens in te zien.
Citrix informeerde klanten afgelopen weekend over de kwetsbaarheden, waarna het Nederlands Cyber Security Centrum (NCSC) met een oproep aan organisaties kwam om zo snel mogelijk de systemen te updaten. Afgelopen jaar werden er soortgelijke kwetsbaarheden in de software van Citrix ontdekt, waarna onder andere het Openbaar Ministerie werd gehackt.
OpenAI stopt met het trainen van nieuwe AI-modellen
NCSC waarschuwt voor kwetsbaarheden in Citrix
Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.
See omnystudio.com/listener for privacy information.