Choses à Savoir TECH

Bill Gates veut convaincre Washington et Pékin de s’entendre sur une ligne rouge : certains modèles d’intelligence artificielle pourraient devenir trop dangereux pour être diffusés librement. Et il espère porter lui-même ce message à Xi Jinping dès novembre.

Bonjour à toutes et à tous. Le cofondateur de Microsoft a confirmé à Reuters que son équipe travaillait à une nouvelle rencontre avec le président chinois. Les deux hommes s’étaient déjà vus à Pékin en 2023.

Ce qui inquiète Gates n’est pas simplement ChatGPT qui remplace quelques tâches de bureau. Il vise des capacités beaucoup plus sensibles : des IA capables de mener des cyberattaques ou d’aider à concevoir des molécules utilisables dans une attaque biologique. Son idée est donc de surveiller les modèles les plus puissants avant leur diffusion et, si nécessaire, d’en restreindre l’accès. Gates estime que la Chine pourrait accepter ce principe à condition que les États-Unis imposent eux-mêmes des contraintes comparables.

C’est là tout le problème. Une règle américaine qui ne s’appliquerait pas en Chine pourrait pousser les laboratoires chinois à accélérer. Et l’inverse serait tout aussi vrai. Dans cette course technologique, la sécurité devient un dilemme classique : chacun peut souhaiter ralentir, mais personne ne veut ralentir seul. Gates propose donc d’aller plus loin avec une organisation internationale consacrée à l’IA. Il imagine un système empruntant à la fois aux inspections nucléaires, aux règles mondiales de l’aviation et aux accords internationaux sur l’environnement.

Ce projet reste pour l’instant une proposition personnelle. Bill Gates n’a évidemment aucun mandat diplomatique américain. Et créer un système permettant de contrôler réellement les modèles développés aux États-Unis comme en Chine supposerait notamment de définir ce qu’est une IA « dangereuse », comment tester ses capacités et ce que les États accepteraient de révéler. L’Europe, elle, a déjà commencé ce travail. Depuis le 2 août, l’AI Act permet d’imposer aux modèles présentant un risque systémique des évaluations, des tests adversariaux, des mesures de cybersécurité et une obligation de signaler certains incidents graves. Mais l’Europe ne peut pas régler seule un risque mondial. L’ONU a d’ailleurs lancé en juillet son premier Dialogue mondial sur la gouvernance de l’IA.

La nouveauté est donc moins la peur exprimée par Bill Gates que le changement de nature du débat. Réguler l’IA ne signifie plus seulement encadrer ce que font les entreprises avec nos données. Il s’agit désormais de savoir si les grandes puissances peuvent accepter de contrôler ensemble une technologie qu’elles considèrent précisément comme stratégique.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

L’intelligence artificielle pourrait bientôt permettre de lancer des cyberattaques à une vitesse et à une échelle impossibles pour une équipe humaine. Et cette fois, l’avertissement vient directement des entreprises qui fabriquent ces IA.

Bonjour à toutes et à tous. OpenAI, Anthropic, Google, Microsoft, Cloudflare, CrowdStrike ou encore Palo Alto Networks font partie des 128 organisations qui viennent de signer un appel commun pour renforcer d’urgence la cyberdéfense. Leur message mérite toutefois d’être précisé : elles ne disent pas que les protections actuelles vont soudainement s’effondrer. Elles affirment que le statu quo ne suffira plus. Trop de systèmes reposent encore sur des logiciels non corrigés, des mots de passe faibles, des droits d’accès excessifs ou simplement des années de dette technique.

Le changement, c’est que l’IA peut désormais industrialiser la recherche de ces faiblesses. Un agent autonome peut examiner du code, identifier une vulnérabilité, préparer son exploitation et recommencer sur des milliers de cibles. Ce n’est déjà plus seulement théorique. Google affirme avoir identifié pour la première fois un groupe malveillant utilisant une faille inconnue, une « zero-day », dont l’exploitation aurait été développée avec l’aide de l’IA. De son côté, OpenAI estime que ses modèles approchent un niveau où des capacités cybernétiques critiques ne peuvent plus être exclues. L’entreprise évoque même à terme des attaques largement autonomes.

Le paradoxe, c’est que la même technologie peut travailler pour les défenseurs. Microsoft utilise par exemple des agents pour rechercher automatiquement des vulnérabilités. OpenAI développe des modèles spécialisés capables d’aider à analyser du code ou à valider des correctifs. En France, YesWeHack propose déjà des tests d’intrusion réalisés en partie par des agents autonomes.

Une véritable course de vitesse commence donc : qui, de l’attaquant ou du défenseur, automatisera le plus vite ? L’Europe tente également de durcir les règles. Dès le 11 septembre, le Cyber Resilience Act imposera notamment aux fabricants de signaler sous 24 heures certaines vulnérabilités activement exploitées. Mais la France accuse toujours du retard dans la transposition de NIS2, au point d’avoir été renvoyée devant la Cour de justice de l’Union européenne en juillet. Pendant longtemps, une faille informatique pouvait rester discrète faute d’un pirate suffisamment compétent pour la trouver. Avec des millions d’agents IA capables de chercher en permanence, cette sécurité par l’oubli pourrait disparaître. La cybersécurité entre dans une époque où les machines attaqueront les machines, et où le véritable avantage sera de corriger avant qu’elles ne trouvent.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

L'entreprise est en passe de racheter Hugging Face. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Meta vient d’accepter de payer jusqu’à 18 milliards de dollars pour changer la manière dont Facebook et Instagram traitent les adolescents. Et presque au même moment, une étude place ses applications parmi les plus gourmandes en données personnelles. Ces deux informations racontent la même histoire : chez Meta, le carburant reste notre attention, transformée en données puis en publicité.

Bonjour à toutes et à tous. Aux États-Unis, l’entreprise a conclu un accord avec 52 procureurs généraux pour mettre fin à des poursuites l’accusant d’avoir conçu Facebook et Instagram pour favoriser un usage compulsif chez les mineurs. Meta ne reconnaît aucune faute. L’accord prévoit jusqu’à 18 milliards de dollars sur dix ans, dont environ 12,7 milliards sont garantis.

Pour les moins de 18 ans, les deux plateformes devront appliquer par défaut une limite cumulée de deux heures par jour, bloquer l’accès entre minuit et six heures, couper l’essentiel des notifications pendant les heures de cours et renforcer la détection de l’âge. Les adolescents pourront aussi choisir un fil non personnalisé.
La deuxième information éclaire le modèle économique. Surfshark a analysé les fiches de confidentialité de 171 applications sur l’App Store. Les douze applications Meta étudiées déclarent collecter en moyenne 25 catégories de données sur 35 possibles, contre 17 chez Google, 12 chez Amazon, 8 chez Microsoft et 7 chez Apple. Meta AI monte à 33. Prudence toutefois : l’étude ne mesure pas le volume réel de données collectées. Elle compte les catégories déclarées par les développeurs, et Instagram comme WhatsApp sont absents de l’échantillon.

Le lien économique est très concret. Au deuxième trimestre 2026, Meta a réalisé 59,4 milliards de dollars de revenus publicitaires sur 60,8 milliards de chiffre d’affaires total. Plus ses services connaissent leurs utilisateurs et retiennent leur attention, plus ils disposent de signaux pour personnaliser contenus et publicités.
L’Europe suit le même mouvement : en juillet, la Commission européenne a estimé à titre préliminaire que le défilement infini, l’autoplay, les notifications et les recommandations très personnalisées de Facebook et Instagram contrevenaient au Digital Services Act. Le basculement est important : pendant vingt ans, chaque minute supplémentaire passée sur un réseau social avait surtout une valeur commerciale. Désormais, lorsqu’elle concerne un mineur, cette minute commence aussi à avoir un coût juridique.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

À Singapour, un data center expérimente une forme de calcul pour le moins inhabituelle : des neurones vivants à la place de simples transistors. Le système repose sur le CL1, un ordinateur biologique commercialisé depuis 2025 par la start-up australienne Cortical Labs.

Vingt unités CL1 ont été réunies dans un rack installé par l’opérateur DayOne, en partenariat avec la faculté de médecine Yong Loo Lin de l’Université nationale de Singapour. Les neurones sont obtenus à partir de cellules souches cultivées par NUS Medicine. Ils peuvent rester viables jusqu’à six mois grâce à un système de survie intégré à chaque boîtier. Une fois connectées, ces cellules échangent des impulsions électriques avec des composants électroniques classiques. L’objectif est de leur faire traiter des informations en exploitant les capacités d’apprentissage et d’adaptation propres aux réseaux neuronaux biologiques. Le système fonctionne sous biOS, un logiciel conçu par Cortical Labs pour orchestrer les échanges entre neurones et silicium. L’entreprise annonce une latence inférieure à une milliseconde et 59 entrées électriques, contre huit sur son précédent prototype, DishBrain. Chaque CL1 consomme entre 850 et 1 000 watts. Le rack complet peut donc atteindre 20 kilowatts. Une unité coûte 35 000 dollars, environ 30 000 euros, ou 300 dollars par semaine en location. Cortical Labs exige également une autorisation éthique avant utilisation.

Les premières applications envisagées concernent la recherche sur les maladies neurologiques et la découverte de médicaments. L’entreprise évoque aussi, à plus long terme, la robotique humanoïde, la détection de fraude ou les cybermenaces. La technologie reste cependant expérimentale. Cortical Labs avait déjà démontré qu’environ 800 000 neurones pouvaient piloter le jeu Doom après moins d’une semaine d’entraînement, en convertissant les images du jeu en stimulations électriques puis les réponses cellulaires en commandes. En 2022, une précédente expérience sur Pong avait demandé dix-huit mois de travail.

La start-up compte parmi ses investisseurs In-Q-Tel, le fonds lié à la CIA, ainsi que plusieurs fonds privés. Elle a levé 11 millions de dollars. Cent vingt unités fonctionnent déjà à Melbourne, et DayOne prévoit d’étendre progressivement l’installation singapourienne jusqu’à un millier de CL1. Reste une inconnue importante : Cortical Labs n’a pas encore publié de mesure de consommation énergétique rapportée aux tâches réellement effectuées.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.