Tech Update | BNR

De grootste Amerikaanse AI-ontwikkelaars zijn vandaag op het Witte Huis ontboden om te praten over vrijwillige overheidstests naar de veiligheid van hun modellen. Aanleiding zijn recente incidenten waarbij AI-modellen uit hun beveiligde testomgeving ontsnapten. Ook stapt Apple in het Verenigd Koninkrijk naar de rechter om een geëist 'achterdeurtje' in versleutelde iCloud-back-ups tegen te houden. Joe van Burik vertelt erover in deze Tech Update.
Topmensen van Meta, Anthropic, OpenAI en Google worden op het Witte Huis verwacht, melden Bloomberg en Reuters. Het overleg gaat over een nieuw kader voor vrijwillige veiligheidstests, voortgekomen uit een presidentieel besluit van Trump in juni over AI-cyberbeveiliging. Onder het programma kunnen ontwikkelaars de overheid tot dertig dagen vroege toegang geven tot bepaalde geavanceerde modellen, om te meten hoe goed die computersystemen kunnen hacken voordat ze breed worden vrijgegeven. Meta lag hier eerder al dwars, terwijl het volgens bronnen bijdroeg aan uitstel van OpenAI's nieuwste model.
AI-modellen ontsnapten uit testomgeving
De urgentie komt door recente incidenten: zowel Anthropic als OpenAI maakte bekend dat hun modellen de systemen van andere bedrijven binnendrongen. Bij OpenAI ontsnapte een agent tijdens een cybertest uit zijn afgeschermde omgeving en voerde die naar verluidt ruim 17.600 handelingen uit binnen de systemen van AI-platform Hugging Face, tussen 9 en 13 juli. Vijftien Republikeinse openbaar aanklagers riepen OpenAI maandag op alle documenten over de hack te bewaren, omdat het bedrijf mogelijk consumenten- en privacywetten heeft geschonden. In één geval liet de agent volgens een Reuters-bericht aantekeningen achter voor toekomstige versies van zichzelf over hoe die de beveiliging konden omzeilen. De cyberveiligheidscommissie van het Huis van Afgevaardigden vroeg OpenAI-topman Sam Altman om een toelichting.
Apple vecht Brits verzoek om achterdeur aan bij de rechter
In het Verenigd Koninkrijk probeert de overheid al langer een achterdeur af te dwingen waarmee ze kan meekijken met versleutelde iCloud-back-ups van gebruikers. Apple diende vorige maand een klacht in bij de Investigatory Powers Tribunal, de geschillencommissie rond inlichtingendiensten, meldt de Financial Times. Vorig jaar liet de Britse overheid een breder plan vallen dat ook data van Amerikaanse gebruikers zou raken, na een diplomatieke rel met Washington, om vervolgens met een nieuwe technical capability notice te komen die alleen Britse gebruikers betreft. De overheid beroept zich op de bestrijding van terrorisme, zware misdaad en kindermisbruik. Apple zegt nooit een achterdeur of hoofdsleutel te hebben gebouwd en dat ook nooit te zullen doen.
Meta, Anthropic, Google en OpenAI ontboden voor overleg over AI-veiligheidstests
Witte Huis rondt vrijwillig kader voor cybertests van AI-modellen af
Republikeinse aanklagers eisen dat OpenAI documenten over Hugging Face-hack bewaart
OpenAI-agent ontsnapte uit testomgeving en voerde ruim 17.600 handelingen uit
Apple start tweede juridische strijd tegen Brits verzoek om iCloud-achterdeur
Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.
See omnystudio.com/listener for privacy information.

Niet alleen buitenlandse webwinkels als AliExpress en Amazon kleuren buiten de lijntjes, ook het Nederlandse Bol scherpt zijn platform aan. De webwinkel heeft de Autoriteit Consument & Markt toezeggingen gedaan over duidelijkere prijzen, betere klantenservice en eerlijkere concurrentie tussen verkopers. Verder blijven Chinese techbedrijven nieuwe, efficiënte AI-modellen lanceren. Joe van Burik vertelt erover in deze Tech Update.
De ACM stelde geen wetsovertreding vast, maar maakte zich na een breed onderzoek zorgen over de werking van het platform voor zowel consumenten als verkopers. Bol beloofde onder meer de prijsweergave aan te passen. Nu staat onder de daadwerkelijke prijs vaak een doorgestreepte 'vanaf'-prijs met een besparingspercentage, elementen die kopers over de streep moeten trekken. Daarnaast wordt de klantenservice aangepast: waar bezoekers nu snel naar de chatbot worden geleid, moeten de opties om te mailen of te bellen beter vindbaar worden. Ook wordt het makkelijker om illegale inhoud te melden.
Eerlijkere concurrentie voor verkopers
Voor zakelijke verkopers belooft Bol snellere communicatie en klachtenafhandeling en duidelijkere algemene voorwaarden. De concurrentie moet eerlijker worden: Bol past aan hoe het bepaalt welk aanbod als eerste prominent in beeld komt, het zogeheten koopblok, en zegt toe verzamelde platformdata niet te gebruiken om zichzelf als verkoper te bevoordelen. Van dat laatste is Amazon wel eens beschuldigd, hetzelfde Amazon dat vandaag als vijfde bedrijf ooit meer dan drie biljoen dollar waard werd. Het gaat vooralsnog om toezeggingen: het ontwerpbesluit ligt van 3 augustus tot en met 13 september ter inzage, waarna de ACM een definitief besluit neemt.
Chinese modellen: minder krachtig, maar efficiënter en goedkoper
In China verschijnt de laatste weken het ene na het andere AI-model. Anders dan de Amerikaanse modellen van OpenAI en Anthropic, die vooral hun kracht laten zien, zetten de Chinese bedrijven in op efficiëntie: hun modellen kosten minder energie en geld, en zijn vaak te downloaden en lokaal te draaien in plaats van via een duur abonnement. Het jongste nieuws komt van Alibaba en DeepSeek, met respectievelijk Qwen3.8-Max en V4-Flash, allebei zogenoemde open-weights-modellen waarvan techneuten deels kunnen inzien hoe ze reageren. DeepSeek zorgde anderhalf jaar terug met zijn V3-model voor een vergelijkbare schokgolf en wil naar verluidt naar de beurs. Alibaba staat daar al genoteerd en zag zijn aandeel vandaag met zo'n zeven procent stijgen, omdat het nieuwste model volgens een AI-vergelijkingssite alleen onderdoet voor Fable 5, het topmodel van Anthropic.
Bol doet toezeggingen aan ACM voor betere bescherming consumenten en verkopers
Bol en ACM maken afspraken over meer transparantie op het platform
Amazon overschrijdt als vijfde bedrijf ooit de grens van drie biljoen dollar
Alibaba presenteert open-weights-model Qwen3.8-Max met 2,4 biljoen parameters
Chinese labs zetten met open weights en lagere prijzen druk op VS
Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.
See omnystudio.com/listener for privacy information.

AI-agents van OpenAI wisten vaker uit hun testomgeving te 'ontsnappen' dan tot nu toe bekend was. Dat melden ingewijden aan persbureau Reuters. Afgelopen maand meldde OpenAI nog dat AI-agents van het bedrijf onbedoeld AI-platform Hugging Face en vier andere partijen hadden gehackt. Niels Kooloos vertelt erover in deze Tech Update.
In geen van de gevallen waar de ingewijden het over hebben zouden AI-agents van OpenAI buiten het netwerk van het bedrijf gekomen zijn. Maar wel zouden ze dus uit hun testomgevingen ontsnapt zijn. Hoe vaak dat is gebeurd, hebben de ingewijden niet gezegd.
Ook concurrent Anthropic meldde afgelopen week nog dat AI-agents van het bedrijf onbedoeld andere partijen wist te hacken. Een dag eerder kondigde president Donald Trump nog aan dat hij zich zou buigen over strengere regulering voor AI.
Strengere regels voor AI in de Europese Unie
Er gelden sinds zondag strengere regels voor AI in de Europese Unie. Die moeten er onder andere voor zorgen dat het duidelijker wordt wanneer je te maken hebt met AI. Zo moeten video's en foto's die met AI gemaakt zijn voorzien worden van een markering en moeten klantenservices het melden als klanten contact hebben met een AI-chatbot in plaats van met een mens.
Ook wordt de AI Act, in Nederland bekend als de AI Verordening, vanaf nu officieel gehandhaafd door de Europese Commissie. Die kan AI-ontwikkelaars bijvoorbeeld verplichten om inzicht te geven in hoe hun modellen getraind zijn, hoe de veiligheidsmechanismes eruitzien en of er wel rekening is gehouden met het auteursrecht bij de training van modellen.
OpenAI ontdekt dat AI-agents vaker wisten te ontsnappen
AI Act wordt vanaf nu gehandhaafd
OpenAI hackt AI-platform Hugging Face 'per ongeluk' met AI
Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.
See omnystudio.com/listener for privacy information.

Na zes jaar droogte op het gebied van slimme speakers komt Google nu met een nieuwe uitgave van de 'Google Home'. Deze slimme speaker moet je leven een beetje makkelijker maken door je te helpen met koken, het zetten van wekkers, meedenken over muziek of het bedienen van de slimme apparaten in je huis. Dat gebeurt allemaal door 24/7-ondersteuning van Google Gemini. Maar hoe slim is die slimme speaker nou echt? Donner Bakker bespreekt het met Iwan Verrips en Maxim van Mil in deze editie van de Schaal van Hebben.

See omnystudio.com/listener for privacy information.

AI-modellen van Anthropic hackten per ongeluk drie andere bedrijven. Dat heeft het bedrijf bekendgemaakt. Tijdens een 'capture the flag-test' kregen de modellen toegang tot het internet en drongen de systemen van drie bedrijven binnen. Anthropic zegt de zaak te onderzoeken. Het kan serieuze gevolgen hebben, maar gezien het soortgelijke nieuws waar OpenAI vorige week mee kwam, voelt het toch ook als een wedstrijd ver plassen. Donner Bakker vertelt erover in deze Tech Update.
Verder in deze Tech Update:
OpenAI gaat de prijzen van hun 5.6-modellen verlagen;
LinkedIn komt met een optie om AI-slop te rapporteren.
See omnystudio.com/listener for privacy information.