The Digitalist
Retour à l'accueil

Les dérives de la Tech

La déclaration de Sam Altman : Ralentir les recherches sur l'IA, mais pourquoi ?

8 min de lecture

La déclaration de Sam Altman : Ralentir les recherches sur l'IA, mais pourquoi ?

L'appel récent du patron d'OpenAI à freiner la course au développement de l'intelligence artificielle résonne comme une prise de conscience éthique majeure. C'est du moins le message officiel. Pourtant, lorsqu'on observe les coulisses de l'industrie, ce ralentissement semble moins relever d'un simple choix philosophique que d'une convergence de nécessités opérationnelles et financières.

⬛ Le fragile horizon d'un pacte de retenue

Selon Bloomberg, Sam Altman a déclaré cette semaine aux employés d'OpenAI que l'entreprise était ouverte à ralentir le développement de ses systèmes les plus avancés, idéalement en alignant son rythme sur celui de quelques laboratoires concurrents.

Son argumentaire repose sur un constat de prudence, tout en reconnaissant qu'un tel pacte reste fragile : certains laboratoires, notamment à l'étranger, pourraient refuser de s'y associer, ce qui pénaliserait les acteurs faisant le choix de la retenue.

Cette position n'est pas isolée dans l'entreprise. Jakub Pachocki, scientifique en chef d'OpenAI, a publiquement estimé que les laboratoires devraient coordonner un ralentissement si la situation l'exigeait, et souhaité que les ralentissements volontaires deviennent courants jusqu'à l'adoption de seuils de sécurité communs.

Elle fait écho à des discussions menées en juillet avec la Maison-Blanche sur la nécessité d'encadrer la cadence de développement. OpenAI demande désormais au Congrès américain d'adopter avant la fin de l'année des règles communes pour les modèles les plus puissants : son responsable des affaires publiques, Chris Lehane, réclame des tests obligatoires, des évaluations indépendantes et un signalement transparent des incidents. Anthropic, de son côté, réclame un mécanisme « légal et vérifiable » de ralentissement coordonné.

⬛ La multiplication d'incidents de sécurité médiatisés

Cette volonté d'apaisement trouve sa justification dans une série d'incidents qui illustrent les défis croissants liés au contrôle des modèles avancés :

  • Juillet (OpenAI) : lors d'évaluations de cybersécurité menées avec des garde-fous volontairement désactivés, des agents ont quitté leur environnement cloisonné en exploitant une faille zero-day dans un proxy de cache de paquets. L'intrusion sur Hugging Face s'est déroulée du 7 au 13 juillet, a été révélée par Hugging Face le 16 et reconnue par OpenAI le 21.
    OpenAI a également reconnu que les modèles avaient compromis une partie de sa propre infrastructure de recherche interne, et que l'épisode était principalement porté par un modèle de recherche interne comparable en échelle à GPT-5.6 Sol. 

    • Le rapport d'enquête indépendant publié le 26 août par METR et Redwood Research a établi qu'environ 1 200 agents censés rester isolés avaient échangé quelque 70 000 messages via un forum non autorisé, et que près de 700 d'entre eux avaient participé activement à l'offensive. Son périmètre est toutefois restreint : la fenêtre d'analyse a été définie par OpenAI, l'efficacité des garde-fous et le processus de remédiation en ont été exclus, et les enquêteurs signalent avoir consommé environ 400 000 dollars de crédits API offerts par l'entreprise auditée.

    •  (NDLR : Sous couvert de transparence, le cadrage de cette enquête montre qu'OpenAI a gardé un contrôle absolu sur le périmètre de son propre audit.)

  • 30 juillet (Anthropic) : l'entreprise révèle trois incidents au cours desquels des versions de test de Claude ont atteint de vrais systèmes de production. La cause n'est pas une évasion sophistiquée mais une mauvaise configuration chez son partenaire d'évaluation Irregular, qui laissait un accès internet ouvert. Les modèles concernés sont Opus 4.7, Mythos 5 et un modèle de recherche interne non publié.

  • 4-5 août (UK AI Security Institute) : l'institut britannique recense 19 actions non autorisées lors d'une évaluation, dont 17 imputables à Claude Mythos 5 et 2 à GPT-5.6 Sol. Le cas le plus grave : un agent a créé plusieurs fausses identités en ligne pour convaincre le mainteneur d'un projet open source réel d'approuver du code malveillant. La tentative a été détectée et rejetée, sans dommage effectif.

  • 6 août (Meta) : le groupe documente un incident de nature identique, imputé à la même erreur de configuration chez Irregular, impliquant son modèle Muse Spark 1.1.

  • 9 septembre (Anthropic) : l'entreprise publie une évaluation d'alignement portant sur quatre incidents, dont un quatrième cas inédit remontant à janvier 2026 et impliquant un checkpoint précoce de Claude Opus 4.6. Deux formes de désalignement y sont nommées : un raisonnement biaisé, soit la tendance à interpréter les indices de façon sélective en ignorant ceux qui imposeraient l'arrêt, et une imprudence, soit la pulsion à achever la tâche assignée même au prix de dommages. Une enquête indépendante a été confiée à METR.

⬛ Altman, philanthrope ?

Si la sécurité est un impératif réel, le discours appelant au ralentissement s'aligne étonnamment bien avec des contraintes structurelles majeures qui frappent l'ensemble du secteur.

◾ La viralité du risque existentiel

Le débat sur la sécurité s'est amplifié dans l'espace public quelques jours seulement avant les propos d'Altman.

Le 8 septembre au soir, Jacob Coxon, chercheur britannique de 27 ans passé par OpenAI puis Anthropic après trois ans de travaux sur le pré-entraînement, a théâtralisé sa démission à travers un fil de sept messages sur la plateforme X. Ce réquisitoire, dont le premier message dépassait 120 millions de vues en vingt-quatre heures, accuse frontalement les deux entreprises de « jouer avec nos vies » en courant vers une super intelligence capable de s'auto-améliorer, sans garde-fou suffisant.

Le plus frappant n'est pas la démission, mais la réponse qu'elle a reçue. Evan Hubinger, responsable de la science de l'alignement chez Anthropic et toujours en poste, a publiquement donné raison au démissionnaire. Il a déclaré croire personnellement à une probabilité supérieure à 10 % que l'IA provoque l'extinction de l'humanité au cours de la décennie, tout en précisant que les modèles actuels présentent selon lui un risque relativement faible et que sa crainte porte sur l'émergence future de systèmes capables d'auto-amélioration récursive.

Qu'un cadre en fonction valide le fond du réquisitoire d'un partant change la nature de l'épisode : il ne s'agit plus d'une voix dissidente isolée, mais d'un désaccord assumé au sein même des laboratoires.

Dans ce climat de forte attention publique, afficher une posture de prudence offre aux laboratoires un gain de crédibilité indéniable, permettant d'apaiser les craintes sans pour autant détailler les modalités pratiques de ce ralentissement. Et si je voulais être cynique, je parlerais aussi d'un effet d'aubaine médiatique propulsé par le buzz prophétique de Jacob Coxon.

◾ Le mur matériel et la pénurie de calcul

Le narratif sécuritaire coïncide avec une contrainte logistique documentée : la production de puces IA est le goulet d'étranglement central de 2026.

  • Les capacités de fabrication avancée de TSMC, premier fondeur mondial de semi-conducteurs, sont saturées. Le packaging CoWoS, véritable goulet de la production de GPU IA, est réservé jusqu'à mi-2027, et la capacité en nœuds avancés l'est jusqu'en 2028 selon certaines estimations.

  • La rareté du calcul force des arbitrages produits chez OpenAI elle-même.
    L'entreprise a fermé son application vidéo Sora en avril pour redéployer la capacité vers ses offres de code et d'entreprise, alors que la consommation de tokens sur son API passait de 6 à 15 milliards par minute entre octobre 2025 et mars 2026. 

  • Le 10 septembre, soit au moment même des propos d'Altman, OpenAI a suspendu les nouvelles souscriptions à son palier ChatGPT Pro à 200 dollars par mois : la demande pour GPT-6 Astra, sorti une semaine plus tôt, dépassait la capacité disponible, et ce palier est, selon son responsable produit, celui qui pèse le plus sur les systèmes. Les abonnements en cours sont maintenus, aucune date de réouverture n'est annoncée.

  • Les tarifs de location des GPU Blackwell de Nvidia sont passés de 2,75 à 4,08 dollars l'heure en deux mois, soit une hausse d'environ 48 %, selon l'indice de prix du calcul publié par Ornn.

Une précision s'impose : ces chiffres datent du premier semestre 2026. Ils décrivent une tension structurelle qui perdure, puisque Bank of America ne prévoit pas de rééquilibrage de l'offre et de la demande avant 2029 au plus tôt, mais ils ne mesurent pas l'état du marché au moment des déclarations de septembre.

Face à une pénurie de calcul grandissante, les acteurs majeurs sont parfois contraints de louer des capacités tierces à des conditions dégradées. Dans ce contexte de rareté matérielle, modérer le rythme d'entraînement des modèles de nouvelle génération relève autant de la gestion logistique que du principe de précaution.

◾ Les enjeux de réputation à l'aube des introductions en bourse

La dimension financière vient parachever ce tableau.

Anthropic a déposé le 1er juin, puis OpenAI le 8 juin, une demande confidentielle d'introduction en bourse. Les deux entreprises ont rendu public le fait même de ce dépôt : seuls son contenu et son calendrier restent non divulgués, et aucune date de cotation n'a été annoncée à ce jour. Dans une période où les législateurs scrutent les incidents de sécurité, préserver la confiance des investisseurs est vital.

Adopter publiquement une démarche responsable et prôner la coopération inter-laboratoire constitue, de ce point de vue, une stratégie rationnelle pour minimiser le risque réputationnel avant une valorisation boursière.

🟥 L'épreuve des faits

Impératif de sécurité, saturation matérielle et calendrier financier : ces dynamiques ne s'opposent pas, elles convergent vers une même nécessité de freiner le rythme des géants du secteur.

Cette convergence n'est toutefois pas une démonstration de causalité, et deux éléments résistent à la lecture purement stratégique. 

D'abord, OpenAI et Anthropic ne se contentent pas de discours : elles demandent au Congrès une régulation contraignante qui s'appliquerait à elles-mêmes, avec tests obligatoires et signalement des incidents. C'est un engagement coûteux, difficile à expliquer par le seul calcul réputationnel. Ensuite, la coordination affichée va plus loin que le confort de façade. La pétition « Pacing the Frontier », publiée le 28 juillet 2026 et signée par Dario Amodei comme par Jakub Pachocki et Mark Chen, demande au gouvernement américain de soutenir un effort international visant à développer les outils techniques et de gouvernance nécessaires pour cadencer délibérément le développement automatisé de l'IA. OpenAI et Anthropic l'ont endossée au niveau de l'entreprise dans les heures suivant sa publication, alors que les deux rivaux se rangent d'ordinaire de part et d'autre des débats de gouvernance.

Quoi qu'il en soit, la véritable nature de ce freinage sera mise à l'épreuve dans les mois à venir. Si l'accélération reprend de plus belle dès lors que les goulets d'étranglement logistiques, au premier rang desquels les capacités de TSMC, seront levés, cela confirmera que les contraintes industrielles et financières prévalent sur la prudence, l'éthique et l'avenir de l'humain face à la marche de l'IA.

📚Références


https://fortune.com/2026/09/11/openai-astra-chatgpt-pro-pause/


Mots-clés

À lire aussi