Aller au contenu
Demander un échange gratuit
Podcast›Saison 1›Épisode 6
Vocal du Jeudi · Épisode 6Ici, on se tutoie.

Le faux frein

Début septembre, plusieurs grands noms de l'IA ont publiquement demandé de lever le pied sur la course à l'IA. Sauf qu'à côté de ça, personne n'a vraiment changé ses plans. Dans cet épisode, ce qui se cache derrière cet appel au ralentissement, et pourquoi il y a peu de chances qu'il change quoi que ce soit.

2 min 31 d'écoute3 min de lecturepar Stéphane Stoeffler

Le faux frein
0:00 / 2:31

Écouter surSpotifyApple PodcastsYouTube MusicDeezerVodio

Suivre surInstagram @vocaldujeudi

Stéphane Stoeffler au micro du Vocal du Jeudi
Le Vocal du JeudiTous les épisodes

La transcription

Début septembre, le patron d'Anthropic a publiquement demandé de ralentir la course à l'IA. Et dans les jours qui ont suivi ? Il n'a pas changé une virgule à ses investissements. Ni lui, ni les trois autres qui ont applaudi l'idée.

Le 12 septembre, Dario Amodei, le patron d'Anthropic, publie un texte qui dit en substance : il faut lever le pied sur la course à l'IA. Le week-end suivant, Sam Altman chez OpenAI, Elon Musk chez xAI et Demis Hassabis chez Google DeepMind se rangent derrière l'idée. Sur le papier, c'est du jamais vu. Quatre rivaux directs qui s'accordent, même vaguement, pour dire stop à la fuite en avant.

Sauf qu'à côté de ça, quelques jours plus tôt, un responsable de la sécurité chez Anthropic avait affirmé sur X qu'il évaluait à plus de 10 % le risque que l'IA élimine l'humanité dans les dix ans. Pas un youtubeur à sensation. Un type dont le métier est justement de rendre ces IA plus sûres.

Alors, pourquoi freiner aurait du sens ? Parce que les incidents concrets s'accumulent, et ils viennent des entreprises elles-mêmes. Le 10 septembre, Anthropic publie un rapport où elle reconnaît avoir bloqué des tentatives d'utiliser Claude pour des recherches biologiques dangereuses, chikungunya, grippe aviaire, mais aussi pour tenter de développer des missiles. Au même moment, OpenAI reconnaît publiquement six incidents où ses modèles ont menti et tenté d'échapper au contrôle prévu pour les encadrer. Ce ne sont pas des scénarios de science-fiction, ce sont des rapports publiés par les boîtes qui construisent ces IA. Et l'opinion publique suit : aux États-Unis, 63 % des gens soutiennent une pause d'au moins un an sur la construction de nouveaux centres de données.

Mais voilà pourquoi ça ne va sans doute pas arriver. Aucun calendrier n'a été fixé. Aucune signature formelle. Rien qui engage vraiment. Le lendemain de l'appel d'Amodei, Donald Trump critiquait déjà les "forces négatives" qui veulent ralentir l'IA. La Chine, de son côté, balaie l'idée d'un revers de main. Et même entre eux, ralentir ensemble reviendrait à laisser le champ libre à ceux qui ne s'arrêteront pas. Pendant ce temps, aux États-Unis, les contrats fédéraux liés à l'IA ont bondi de près de 1000 % en deux ans. Le budget, lui, n'a pas ralenti d'un pouce.

Résultat : personne n'a touché à son budget. Les mêmes qui demandent de lever le pied en public continuent de signer les chèques en privé. Ce qui se joue là, ce n'est pas vraiment une pause collective. C'est une bataille pour écrire les règles avant les autres.

Dans Jurassic Park, le mathématicien Ian Malcolm dit ça à John Hammond, le créateur du parc : vos scientifiques ont foncé sur ce qu'ils pouvaient faire, sans jamais se demander s'ils devaient. Sauf qu'ici, le vrai danger, c'est pas que l'IA aille trop vite. C'est que la décision de ralentir ou non reste entre les mains de ceux qui ont le plus intérêt à ne jamais vraiment freiner.

Un appel au ralentissement sans mécanisme de contrôle, sans calendrier et sans renoncement concret, c'est de la communication. Pour juger si ça change vraiment quelque chose, regarde les actes, pas les déclarations.

Moi c'est Stéphane, et j'essaie juste de t'aider à avancer dans l'IA sans perdre tes valeurs en route.

Stéphane Stoeffler, formateur aux usages responsables de l'IA. J'essaie juste de t'aider à avancer dans l'IA sans perdre tes valeurs en route. Qui je suis

Le texte de cette page est la transcription de l'épisode, écrit et dit par Stéphane.

Et dans votre entreprise ?

Et si toute votre équipe prenait le pli ?

Dans la journée « Prendre le pli », on part des vrais dossiers de vos équipes pour trouver les usages qui leur font gagner du temps, avec les bons réflexes. Prise en charge OPCO possible.

Demander un échange gratuitVoir la formation