OpenAI : ce que son directeur scientifique a dit
D'après BBC - OpenAI chief scientist warns no-one is prepared for consequences of AI et OpenAI - « An Alien Mind », billet de Jakub Pachocki, relayé par 01net
Image : générée (Gemini)
Rédigé à partir du média cité; chaque fait est vérifié contre le texte source.
À retenir
- Jakub Pachocki appelle à une « prudence extrême » et dit que des interventions plus larges pourraient être nécessaires pour que les humains restent aux commandes de l'avenir. Le verbe est « rester », pas « reprendre ».
- Il demande des seuils minimaux de sécurité rendus obligatoires par la loi ou par un accord international, contrôlés par des auditeurs tiers ou des agences publiques : une demande de contrainte externe, pas un constat d'échec interne.
- Il souhaite que les ralentissements volontaires deviennent courants dans le secteur, en attendant que ces garde-fous partagés existent.
- Le même mouvement annonce la construction d'un « chercheur en IA automatisé » comme priorité de l'entreprise : l'appel à la prudence et l'accélération cohabitent dans le même texte.
- Deux voix extérieures nommées contestent la démarche : une chercheuse de Cambridge la juge insuffisante, et un juriste reproche à OpenAI de ne pas publier ce qu'il observe, au risque que ses avertissements passent pour de l'autopromotion.
Pourquoi ça compte
Un aveu de perte de contrôle et un plaidoyer pour la régulation n'appellent pas la même réaction. Le premier laisse penser qu'il est trop tard et décourage d'agir; le second désigne un levier précis, encore disponible : imposer des seuils avant le déploiement. Confondre les deux fait perdre au lecteur le seul élément qui lui donne prise.
Citation
« "Such answers to growing concerns about the problems OpenAI's models are causing for cyber-security, job loss, mistakes, errors and fraud are simply not good enough." » Gina Neff, directrice du Minderoo Centre for Technology and Democracy de l'Université de Cambridge, citée par la BBC
Action concrète
Avant de relayer un titre d'aveu, chercher le verbe exact du texte d'origine. Ici, « rester aux commandes » et « perdre le contrôle » décrivent deux situations opposées.
Repères datés
- 2026-08-02 - Le règlement européen sur l'IA entre en vigueur : un modèle très puissant doit prouver qu'il ne peut ni lancer seul une cyberattaque ni échapper au contrôle humain.
- 2026-09-06 - Jakub Pachocki publie « An Alien Mind » sur le site d'OpenAI. Date rapportée par le relais : la page refuse la lecture automatisée, nous ne l'avons pas vérifiée.
D'après un média relais
Sources
- BBC - OpenAI chief scientist warns no-one is prepared for consequences of AI : Compte rendu du billet, avec deux critiques extérieures nommées. C'est le texte que nous avons réellement lu.
- OpenAI - « An Alien Mind », billet de Jakub Pachocki : Document d'origine. La page refuse toute lecture automatisée (code 403, y compris avec un agent de navigateur) : nous n'en citons donc aucun extrait, seulement ce qu'en rapportent des tiers identifiés.
- Relais média : 01net →
