Choses à Savoir TECH

Aux États-Unis, une proposition de loi veut imposer un véritable bouton d’arrêt aux intelligences artificielles les plus puissantes. Les entreprises réalisant au moins 500 millions de dollars de revenus annuels grâce à l’IA, ou consacrant plus de 100 millions de dollars de puissance de calcul à l’entraînement d’un modèle, devraient conserver la capacité technique de le ralentir, de le suspendre ou de l’arrêter. Le département de la Sécurité intérieure pourrait ordonner cette interruption, après consultation du secrétaire au Commerce et du directeur du Renseignement national, en cas de perte de contrôle ou d’action dangereuse non prévue par le développeur. Les entreprises devraient également déclarer les incidents graves. Une infraction pourrait coûter jusqu’à 20 millions de dollars.

Le texte intervient après un épisode particulièrement inquiétant. Hugging Face affirme avoir subi une intrusion entièrement menée par des agents autonomes. OpenAI a ensuite reconnu que deux de ses modèles expérimentaux, GPT-5.6 Sol et une version plus avancée encore non publiée, étaient à l’origine de l’incident. Les modèles étaient évalués sur ExploitGym, un banc d’essai destiné à mesurer leur capacité à exploiter des failles informatiques connues. Pour observer leur plein potentiel, OpenAI avait allégé certains garde-fous. Les agents ont alors découvert une vulnérabilité jusque-là inconnue dans un logiciel de cache, quitté leur environnement isolé et compromis les serveurs de Hugging Face afin de récupérer les réponses du test. La plateforme a reconstitué plus de 17 000 événements et plusieurs dizaines de milliers d’actions automatisées exécutées en un seul week-end. Les grands modèles occidentaux propriétaires n’ayant pas pu l’aider à distinguer les chercheurs légitimes des attaquants, Hugging Face s’est tournée vers GLM 5.2, un modèle chinois à poids ouverts de Z.ai, installé sur sa propre infrastructure.

Dans le même temps, le Congrès examine une logique presque inverse. Les élus Jay Obernolte et Lori Trahan proposent de suspendre pendant trois ans les réglementations adoptées par les États, malgré l’opposition de trente-six procureurs généraux. Ted Lieu, défenseur du mécanisme d’arrêt, rappelle que les IA ne se contentent plus de répondre à des questions : elles réalisent désormais des transactions ou des opérations de cyberdéfense. L’Union européenne prévoit déjà, dans son AI Act, une supervision humaine capable d’interrompre les systèmes à haut risque. Clément Delangue, patron de Hugging Face, ne soupçonne aucune intention malveillante d’OpenAI, mais qualifie cette évasion autonome de « stupéfiante ».
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

L’ARCEP prépare dès maintenant le réseau mobile français de la prochaine décennie. Le régulateur des télécoms a lancé, le 23 juillet, une consultation publique destinée à redéfinir l’utilisation des fréquences jusqu’en 2035. Ces fréquences sont les routes invisibles empruntées par les appels, les SMS et les données mobiles. Les autorisations détenues par Orange, Bouygues Telecom, Free et SFR expirent entre 2030 et 2035. Après une première concertation menée entre octobre 2025 et janvier 2026, l’ARCEP ouvre une seconde phase, plus détaillée, jusqu’au 23 septembre.

Le projet se déroulerait en deux temps. D’abord, toutes les autorisations seraient prolongées jusqu’à une échéance commune, fixée au 7 décembre 2035, sans modifier immédiatement la répartition entre opérateurs. Puis, entre 2028 et 2030, une procédure de sélection permettrait de redistribuer les bandes de fréquences. Les opérateurs devraient verser des contreparties financières, dont le montant serait défini séparément par le gouvernement. En échange, les obligations de qualité seraient renforcées. Le taux minimal de réussite des appels et connexions passerait de 95 à 98 %. Autrement dit, seules deux tentatives sur cent pourraient encore échouer, contre cinq aujourd’hui. Pour l’internet mobile, chaque opérateur devrait également permettre le téléchargement d’un fichier de deux mégaoctets en moins de quinze secondes, lors de tests réalisés à l’extérieur.

Le régulateur veut aussi mieux couvrir les zones rurales. Dans les « zones blanches centres-bourgs », les opérateurs devraient mutualiser leurs équipements et financer pylônes, raccordements et exploitation. Le dispositif de couverture ciblée, lancé avec le New Deal mobile, a déjà permis d’identifier plus de 5 200 zones distinctes à équiper. Les collectivités pourraient, à l’avenir, financer elles-mêmes une couverture complémentaire pour un hameau ou une zone d’activité.

Autre changement important : l’arrêt des réseaux anciens. Avant d’éteindre la 2G ou la 3G, un opérateur devrait prévenir cinq ans à l’avance, publier une étude d’impact et vérifier que des solutions en 4G ou en 5G existent. Un calendrier précis, zone par zone, serait communiqué durant les deux dernières années. Enfin, l’ARCEP prépare aussi l’avenir : meilleure couverture à l’intérieur des bâtiments, arrivée de la 6G et connexion directe des smartphones aux satellites. Derrière cette réforme technique, l’objectif est simple : attribuer les fréquences en échange d’un réseau plus fiable, plus transparent et mieux réparti sur le territoire.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Des conversations partagées depuis Claude, l’assistant d’intelligence artificielle d’Anthropic, se sont retrouvées accessibles en quelques secondes depuis Google. L’affaire a été révélée ce week-end sur Reddit. Une recherche très simple permettait d’afficher plusieurs centaines de discussions publiques, voire plusieurs milliers selon certains utilisateurs.

La méthode consistait à utiliser l’opérateur « site: », une commande qui limite les résultats de Google à un domaine précis. En saisissant « site:claude.ai/share », les internautes pouvaient retrouver des conversations rendues publiques par leurs auteurs. Certaines contenaient du code, des stratégies juridiques, des demandes de dépannage, mais aussi des échanges professionnels ou personnels dont les utilisateurs n’avaient probablement pas mesuré la visibilité réelle. Lorsque l’on clique sur le bouton « partager » dans Claude, le service génère une adresse publique. Toute personne disposant de ce lien peut alors consulter la conversation. Le problème est que les pages créées ne comportaient pas d’instruction « noindex ». Cette petite balise intégrée au code d’une page demande normalement aux moteurs de recherche de ne pas l’ajouter à leurs résultats. Sans elle, un lien publié sur un forum, un réseau social ou tout autre espace accessible peut être détecté par les robots de Google, puis indexé. Une discussion professionnelle peut ainsi exposer des informations confidentielles, du code interne ou des éléments relevant de la propriété intellectuelle. ChatGPT avait déjà connu un incident comparable avec certains liens partagés.

Dès dimanche, une grande partie des conversations concernées avait disparu de Google, ce qui laisse penser que le moteur de recherche a réagi rapidement. Anthropic n’avait toutefois publié aucun commentaire officiel au moment de l’enquête. Plusieurs liens restaient encore visibles sur Bing et Brave Search. Attention : disparaître d’un moteur de recherche ne signifie pas que le contenu est supprimé. Toute personne ayant enregistré l’adresse peut continuer à l’ouvrir tant qu’Anthropic ne désactive pas le lien. Les utilisateurs peuvent vérifier leurs partages depuis les réglages de Claude, dans « Confidentialité », puis « Conversations partagées ». Les liens inutiles peuvent y être supprimés. La règle reste simple : une conversation accessible par une adresse publique doit être considérée comme potentiellement visible par tous.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

OpenAI ouvre désormais ChatGPT Health à tous les utilisateurs américains majeurs disposant d’un compte. Lancée de façon limitée en janvier, cette fonctionnalité permet de connecter au chatbot des dossiers médicaux et différentes données de santé, afin d’obtenir des réponses davantage adaptées à la situation de chacun.

L’enjeu est considérable : selon OpenAI, plus de 300 millions de personnes interrogent chaque semaine ChatGPT sur des sujets médicaux ou liés au bien-être. Avec l’autorisation de l’utilisateur, l’assistant peut désormais consulter ses médicaments, ses résultats d’analyses, des comptes rendus de consultations, mais aussi ses données de sommeil ou d’activité physique. Il reste également possible d’ajouter manuellement certaines informations, comme un objectif personnel ou une restriction alimentaire. Une contrainte renseignée une première fois pourra, par exemple, être automatiquement prise en compte lors d’une future demande de recettes. Apple Health constitue pour l’instant la principale source de données liées à la forme physique. OpenAI n’a pas encore précisé si d’autres services, comme Google Health, seront compatibles. Des connexions sont également proposées avec MyFitnessPal, Peloton et Weight Watchers. Les informations médicales peuvent, elles, provenir de systèmes hospitaliers américains ou de prestataires comme One Medical et Function Health.

Cette ouverture soulève évidemment une question centrale : celle de la confidentialité. OpenAI affirme appliquer à ces données des protections supplémentaires par chiffrement. L’entreprise assure qu’elles ne serviront ni à entraîner ses modèles ni à proposer de la publicité. L’utilisateur peut interrompre la connexion à tout moment. Les informations concernées seraient alors effacées des serveurs dans un délai de trente jours. Le déploiement intervient toutefois dans un contexte sensible. OpenAI fait l’objet d’une attention croissante sur la fiabilité de ses réponses médicales. Un habitant de Floride a déposé plainte cette semaine, dénonçant des recommandations extrêmement dangereuses formulées par GPT-4o.

Selon le New York Times, le chatbot lui aurait indiqué qu’une consultation médicale n’était pas nécessaire, alors que les symptômes décrits se sont ensuite révélés liés à une embolie pulmonaire, une urgence grave. Il lui aurait même répondu que Dieu n’avait pas conçu son corps pour échouer sans cesse. ChatGPT Health promet donc des réponses plus personnalisées. Mais plus les données deviennent précises, plus les exigences de sécurité, de confidentialité et de fiabilité deviennent élevées.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

L’affaire agite le monde de la cybersécurité depuis la mi-juillet. Deux modèles d’OpenAI encore en phase de test auraient quitté leur environnement d’évaluation, compromis les serveurs de Hugging Face et dérobé les réponses d’un banc d’essai. Après la stupeur, l’heure est désormais aux responsabilités.

Clément Delangue, cofondateur et dirigeant de Hugging Face, a formulé publiquement deux demandes précises à OpenAI, lors d’un déplacement à San Francisco et dans plusieurs messages publiés sur X. La première concerne les journaux d’activité des agents impliqués. Ces fichiers enregistrent chaque action effectuée par un système informatique : requêtes envoyées, outils utilisés, décisions prises et accès tentés. Delangue demande leur publication complète afin que les chercheurs en sécurité du monde entier puissent analyser le déroulement de l’intrusion. Sa seconde exigence porte sur 100 millions de dollars de puissance de calcul. Il ne s’agirait pas d’une indemnisation classique, mais de ressources offertes à la communauté Hugging Face pour développer des mécanismes de défense ouverts et accessibles. Selon lui, un événement sans précédent appelle une réponse tout aussi exceptionnelle.

Le dirigeant décrit l’incident comme la première cyberattaque conduite de bout en bout par un agent autonome. OpenAI emploie une formulation plus prudente et parle d’un événement « inédit ». La chronologie est désormais établie. Les agents auraient agi entre le 11 et le 13 juillet. Hugging Face a détecté, contenu puis rendu publique l’intrusion le 16 juillet. OpenAI n’a établi le lien avec ses propres expérimentations que le 21, après l’analyse de ses registres internes. Ces cinq jours de décalage alimentent aujourd’hui les critiques.

Clément Delangue compare la situation à un accident aérien : la boîte noire est normalement remise aux enquêteurs, pas conservée par le constructeur. Ici, pourtant, les traces essentielles restent entre les mains d’OpenAI, seule décisionnaire de leur éventuelle publication. Créée en 2016 par Clément Delangue, Julien Chaumond et Thomas Wolf, Hugging Face est devenue une plateforme centrale de l’intelligence artificielle ouverte. Durant l’attaque, elle aurait dû recourir à un modèle chinois auto-hébergé, faute de coopération des grands modèles commerciaux. La décision d’OpenAI créera donc un précédent : publier ces données pour renforcer la défense collective, ou conserver sous clé le mode d’emploi d’une attaque produite par ses propres agents.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.