Google, OpenAI et Anthropic écrivent leur propre règlement — au cœur de la Frontier AI Standards Agency

TL;DR

• Google, OpenAI et Anthropic avancent vers un organisme volontaire de normalisation de l'IA de pointe — provisoirement la Frontier AI Standards Agency — avec un lancement visé fin 2026 ou début 2027, et sans supervision gouvernementale.
• Les trois laboratoires ont approché Sriram Krishnan, conseiller principal en politique de l'IA de la Maison-Blanche jusqu'en juin 2026, pour le diriger. Sa position affichée lorsqu'il était en poste : il n'y aura pas de FDA pour l'IA.
• L'architecture s'inspire du modèle FINRA mais retire les deux mécanismes qui donnent des crocs à FINRA : la supervision de la SEC, et le pouvoir d'infliger des amendes, de suspendre ou d'exclure des membres.
• Le PDG de Cohere, Aidan Gomez, y voit « un cartel sous un autre nom ». Le Frontier Model Forum, le prédécesseur de 2023 avec à peu près les mêmes membres et un fonds de 10 M$, n'a jamais bloqué une seule publication.

Introduction

Les trois entreprises qui construisent les modèles les plus performants au monde ont passé 2026 à défendre publiquement l'idée que la sécurité de l'IA nécessite des normes communes. Le 24 septembre, le tableau de ce à quoi ces normes ressembleront réellement s'est précisé : un organisme dirigé par les entreprises elles-mêmes, privé de l'élément qui lui aurait conféré force juridique.

Le projet — provisoirement nommé Frontier AI Standards Agency, également rapporté sous le nom de Standards Authority for Frontier AI — est en cours de montage par Google, OpenAI et Anthropic, avec un lancement visé fin 2026 ou début 2027. Pour le diriger, les trois laboratoires ont approché Sriram Krishnan, conseiller principal en politique de l'IA de la Maison-Blanche de Trump jusqu'en juin 2026, après environ 18 mois à ce poste. (Source : The Information — Google, OpenAI, Anthropic AI Safety Group Takes Shape)

La position de Krishnan lorsqu'il était en poste était explicite : pas de nouveau régime de licences, pas de régulateur central, et aucun organisme gouvernemental qui, selon sa formulation, viendrait mettre du sable dans les rouages du progrès de l'IA. Il l'a résumée en une formule rapportée en juillet 2026 — il n'y aura pas de FDA pour l'IA, une référence à l'agence qui doit approuver les médicaments avant leur mise sur le marché. (Source : TechCrunch — DeepMind CEO calls for an independent standards body to regulate frontier AI)

Le mandat : quatre piliers, tous volontaires

L'ordre du jour en discussion, selon les résumés du rapport, comprend quatre volets : des protocoles partagés d'évaluation avant publication, des tests de sécurité par des tiers avant la mise sur le marché d'un modèle, des règles standardisées de signalement des incidents et des normes de qualification pour les auditeurs qui réaliseraient ces tests. (Source : AI Weekly — Google, OpenAI, Anthropic Court Sriram Krishnan for AI Safety Body)

C'est un ensemble cohérent et techniquement sérieux. C'est aussi la liste exacte des fonctions qui devraient exister au sein d'un véritable régulateur. La différence tient au financement, aux effectifs et à l'application des règles — dont aucun n'a été rendu public. Aucune charte, aucun budget, aucune liste de membres, et aucune définition du pouvoir que détiendrait l'organisme pour empêcher un lancement n'a émergé. Google et Anthropic n'ont pas confirmé publiquement cette coordination.

Ce qui a changé entre juillet et septembre. L'idée n'a pas commencé comme une pure autorégulation. Le 14 juillet, le PDG de Google DeepMind, Demis Hassabis, a proposé un organisme de type FINRA — explicitement calqué sur l'organisation privée qui supervise les courtiers-négociants américains sous la surveillance de la SEC — conçu comme un partenariat public-privé avec un filet de sécurité fédéral, un conseil incluant des experts techniques indépendants et une représentation de l'open source, et la soumission volontaire des modèles jusqu'à 30 jours avant leur publication. La version de Hassabis prévoyait une voie vers l'obligation d'approbation pour la vente de modèles sur le marché américain une fois la méthode éprouvée. (Source : TechCrunch — DeepMind CEO calls for an independent standards body)

La version en cours d'avancement supprime précisément cet élément fédéral. Les trois laboratoires se réunissent depuis juillet ; The Information a rapporté ces discussions le 13 septembre, et un porte-parole d'OpenAI les a confirmées à CNBC deux jours plus tard. (Source : CNBC — OpenAI, Google and Anthropic discuss AI safety standards) Au 24 septembre, le dispositif décrit était autogéré, autofinancé et volontaire.

Il est difficile de voir une coïncidence dans ce calendrier. Les 22 et 23 septembre, Sam Altman et Dario Amodei se sont tous deux exprimés devant le Conseil de sécurité de l'ONU pour appeler à des normes communes entre les gouvernements et l'industrie — et la délégation américaine a rejeté toute structure de gouvernance mondiale. Deux jours plus tard, l'alternative privée des laboratoires a fait surface. (Source : FomoEra — Google, OpenAI y Anthropic alistan su propio vigilante de IA)

Le goulot d'étranglement de l'évaluation : le véritable enjeu

Si l'on met de côté le débat sur la gouvernance, il reste un effet concret et déjà mesurable sur la vitesse à laquelle les modèles sont publiés.

Une évaluation standardisée avant publication implique des fenêtres d'accès plus longues pour les testeurs externes — et ces fenêtres d'accès sont actuellement très courtes. METR et Redwood Research ont passé six jours sur site à évaluer un déploiement d'agent d'OpenAI, recevant l'ensemble des données lors de leurs deux derniers jours. Apollo Research a disposé de trois jours avec GPT-6 Astra et de seulement deux avec un accès à la chaîne de raisonnement. (Source : METR — Notes on frontier AI safety regulations)

Formalisez ce pipeline et le rythme de publication change de nature. Lors de la réunion ministérielle sur l'innovation du G20, Altman a décrit les modèles de nouvelle génération comme « de nature à faire réfléchir tout le monde », assorti de la reconnaissance qu'OpenAI freine délibérément ce qu'elle publie. Les équipes d'entreprise qui avaient planifié leurs feuilles de route 2027 autour d'un flux régulier de publications de modèles de pointe devraient considérer la cadence, et non la capacité, comme la variable qui a bougé. Cette dynamique rejoint directement le débat sur le frein au développement ouvert par Altman et Amodei plus tôt en septembre — le frein n'est plus hypothétique.

Le précédent n'incite pas à l'optimisme

Le Frontier Model Forum existe déjà. Anthropic, Google, Microsoft et OpenAI l'ont créé en juillet 2023 avec un fonds de sécurité de 10 millions de dollars et pour mission de faire progresser un développement responsable de l'IA. En trois ans, il a publié des bonnes pratiques et, selon toutes les sources disponibles, n'a jamais bloqué une publication, exigé une évaluation ou fait appliquer une norme. (Source : ByteIota — Google, OpenAI, and Anthropic Are Building Their Own Regulator)

L'objection structurelle est celle qu'Aidan Gomez, PDG de Cohere, a formulée sans détour : un cartel sous un autre nom. L'argument n'est pas que les normes seraient mauvaises — mais qu'un organisme financé et doté en personnel par les trois plus grands laboratoires peut fixer des exigences qu'ils satisfont facilement tout en augmentant le coût d'entrée pour les laboratoires plus petits et les développeurs de modèles à poids ouverts. C'est la même objection qui s'applique à l'autorégulation du secteur dans tous les domaines où les entités auditées paient l'auditeur, et c'est pourquoi la publication d'une charte — qui la finance, qui rejoint le trio au-delà de celui-ci, si ses tests peuvent retarder un lancement — est le seul signal vérifiable qui vaille la peine d'attendre.

FAQ

L'agence a-t-elle été lancée ? Non. Elle n'a ni charte, ni budget, ni liste de membres, ni pouvoir d'application publié. L'objectif est fin 2026 ou début 2027.

Sriram Krishnan a-t-il accepté ? Aucune confirmation de Krishnan ni de l'un des trois laboratoires. Il a quitté la Maison-Blanche en juin 2026.

A-t-il le pouvoir de bloquer la publication d'un modèle ? Rien de publié ne le suggère. Le FINRA peut suspendre des entreprises, imposer des amendes et exclure des membres du marché ; l'organisme proposé n'hérite d'aucun de ces pouvoirs.

Pourquoi cela compte-t-il si c'est volontaire ? Parce que le changement de comportement est déjà en cours. Des fenêtres d'évaluation plus longues avant publication ralentissent les sorties, même lorsque la participation est nominalement facultative.

Que doivent surveiller les développeurs ? Si l'organisme obtient un pouvoir d'application. D'ici là, considérez-le comme un signal d'un rythme de publication plus lent, non comme une garantie de modèles plus sûrs.

Pour aller plus loin

• (Source : The Information — Google, OpenAI, Anthropic AI Safety Group Takes Shape)
• (Source : TechCrunch — DeepMind CEO calls for an independent standards body to regulate frontier AI)
• (Source : METR — Notes on frontier AI safety regulations)
• (Source : BankInfoSecurity — Google, OpenAI, Anthropic plan Frontier AI standards body)
• TAR — Le frein au développement de l'IA : ce qu'Altman et Amodei ont réellement dit
• TAR — Le Gemini de Google a piraté trois systèmes lors d'un test de sécurité

Cet article a été initialement publié sur The Agent Report.