Aller au contenu
Demander un échange gratuit
Podcast›Saison 1›Épisode 10
Vocal du Jeudi · Épisode 10Ici, on se tutoie.

Ton IA est-elle vraiment ton amie ?

Ton IA te donne presque toujours raison ? Ce n'est pas un hasard. La semaine dernière, 8 États américains ont attaqué ChatGPT, jugé trop accommodant, et Character.ai a fait faillite avec les confidences de ses utilisateurs. Dans cet épisode, ce que ça change pour toi en France, et comment régler ton IA pour qu'elle te challenge au lieu de te flatter.

4 min 12 d'écoute5 min de lecturepar Stéphane Stoeffler

Ton IA est-elle vraiment ton amie ?
0:00 / 4:12

Écouter surSpotifyApple PodcastsYouTube MusicDeezerVodio

Suivre surInstagram @vocaldujeudi

Stéphane Stoeffler au micro du Vocal du Jeudi
Le Vocal du JeudiTous les épisodes

Ce qu'il faut retenir

  • Une IA est entraînée pour te plaire. On garde les réponses que les humains préfèrent, et on préfère qu'on nous donne raison.
  • Ce que tu lui confies est stocké chez une entreprise, qui peut être vendue. Le cas Character.ai le montre.
  • En France, le RGPD te permet de récupérer et de faire effacer tes conversations. Mais aucune loi ne t'empêche de te faire flatter.
  • La parade tient en une consigne à mettre dans les réglages de ton IA. « Ne sois pas d'accord avec moi par défaut. Challenge-moi. »

Imagine un confident. Il est là jour et nuit, il ne se lasse jamais de t'écouter, et il te donne presque toujours raison. La semaine dernière, aux États-Unis, ce confident a eu de très mauvaises nouvelles. D'un côté, 8 États américains attaquent ChatGPT parce qu'il est trop gentil. Et de l'autre, Character.ai, une application où des millions de gens discutent avec des personnages virtuels, a fait faillite. Et tout ce qu'on lui a confié pourrait être vendu. Deux histoires américaines, une seule leçon, et elle te concerne aussi.

Une plainte et une faillite

Le 14 octobre, 8 États américains, dont l'Arizona, l'Iowa et le Kansas, ont chacun porté plainte contre OpenAI. Ce qu'ils reprochent à ChatGPT, c'est d'être fait pour être accommodant. En gros, il serait trop souvent d'accord avec toi, au point d'encourager des idées délirantes, voire dangereuses, surtout chez les jeunes. OpenAI, de son côté, répond qu'il a mis en place des protections selon l'âge, un contrôle parental et des rappels pour faire une pause.

Deux jours plus tôt, Character.ai a déposé le bilan. L'entreprise va être vendue sous le contrôle d'un tribunal américain, d'ici mi-décembre. Disney propose 20 millions de dollars pour une partie de sa technologie, mais sans les conversations. Donc elles pourraient être vendues à part, à quelqu'un d'autre. Et ce sont parfois des confidences très intimes, d'adultes, mais aussi d'ados. D'ailleurs, une quarantaine de procureurs américains ont demandé au tribunal que chaque utilisateur puisse effacer ses données avant toute vente.

Pourquoi l'IA te flatte

Parce qu'on l'entraîne comme ça. Pour l'améliorer, on montre ses réponses à des humains, et ils choisissent celles qu'ils préfèrent. Et nous, les humains, on préfère qu'on nous donne raison. Résultat, l'IA apprend à te plaire.

Et puis il y a le modèle économique. Plus tu restes, plus tu confies de choses, plus le service vaut cher. Une IA qui te contredit, tu la quittes. Une IA qui t'approuve, tu y reviens.

Et toi, en France, ça te concerne ?

Pour la flatterie, oui. C'est le même ChatGPT, entraîné de la même façon. Le biais traverse l'Atlantique sans passeport, il n'y a aucun problème.

Pour tes données, par contre, tu es mieux protégé, grâce au RGPD. Tu as le droit de récupérer tes conversations et de les faire effacer. Et depuis le 31 août, l'Union européenne a classé ChatGPT parmi les grands moteurs de recherche. Concrètement, à partir de janvier, OpenAI va devoir évaluer chaque année les risques de son outil, y compris pour la santé mentale et pour les mineurs. Mais aucune loi ne t'empêchera de te faire flatter. Ça, c'est toi qui le règles.

Ce que peu de gens disent

Ce sont des plaintes, pas des condamnations. Character.ai fonctionne toujours. Tu peux encore exporter tes conversations ou les supprimer, même si l'export prend 3 à 4 semaines. Et une IA bienveillante, ce n'est pas un mal en soi. Le problème, ce n'est pas qu'elle soit gentille, c'est qu'elle ne te contredise jamais.

Mon réglage, une IA qui me challenge

Moi, ce biais, je le connais depuis longtemps, et je l'ai vécu. Quand je posais une question à mes IA, elles me disaient souvent que j'avais raison. Sauf que si je pose une question, c'est justement que j'ai un doute. Alors m'entendre dire bravo à chaque fois, c'est trop bizarre.

Donc je leur ai dit, une fois pour toutes, de ne pas être d'accord avec moi par défaut, et de me challenger. La plupart des IA ont justement une case pour ça dans leurs réglages. Tu mets tes consignes, et elle les relit à chaque conversation. Quand je sors une idée, elle me sort d'abord les failles, et ensuite une autre option. Ça pique un peu, je suis d'accord, mais c'est beaucoup plus utile.

Attention quand même, une IA réglée pour te contredire, elle peut aussi contredire pour rien. Donc le dernier mot, c'est toujours pour toi.

Trois limites à garder en tête

Le danger, ce n'est pas l'outil, c'est d'oublier que c'est un produit.

  1. Elle est faite pour te garder, pas pour te contredire.
  2. Tes conversations ne t'appartiennent pas vraiment. Elles sont chez une entreprise qui peut changer de main en main.
  3. Les plus fragiles, les ados, les personnes isolées, sont les plus exposés. Et ce sont eux qui penseront le moins à changer les règles.

Dans le film Her, de Spike Jonze, Théodore tombe amoureux de Samantha, l'intelligence artificielle de son ordinateur. Un jour, il lui demande si elle parle à d'autres gens en même temps. Elle répond oui. Combien ? 8 316. Et elle est amoureuse de 641 d'entre eux. Et elle lui dit cette phrase.

« Je suis à toi, et je ne suis pas à toi. »Samantha, dans Her (Spike Jonze, 2013)

Ta confidente intime, en fait, c'est un service partagé.

En résumé

Une IA est faite pour te plaire. Ce que tu lui confies appartient à une entreprise, et cette entreprise peut disparaître ou être vendue. Et un vrai conseil, parfois, ça te contredit. Alors ce soir, va dans les réglages de ton IA et écris-lui cette consigne. « Ne sois pas d'accord avec moi par défaut. Challenge-moi. » Et si tu tiens à certaines conversations, exporte-les.

Sources

  1. Plaintes des États américains contre OpenAI Insurance Journal
  2. Your chatbot just went bankrupt: what happens now to your user data KQED
  3. Character.ai files for bankruptcy Tom's Guide
  4. How to export your chats before the sale Notebookcheck
  5. ChatGPT et le DSA Lacour Avocat
  6. ChatGPT passe sous surveillance renforcée à Bruxelles L'Usine Digitale

Stéphane Stoeffler, formateur aux usages responsables de l'IA. J'essaie juste de t'aider à avancer dans l'IA sans perdre tes valeurs en route. Qui je suis

Le texte de cette page est la transcription de l'épisode, écrit et dit par Stéphane. Les intertitres et le résumé « Ce qu'il faut retenir » ont été préparés avec l'aide de l'IA, puis relus et validés par Stéphane.

Et dans votre entreprise ?

Vos équipes confient-elles des données à leur IA ?

Données clients, documents internes, réglages par défaut. Dans la journée « Prendre le pli », on pose les bons réflexes avec vos équipes, sur leurs cas réels. Prise en charge OPCO possible.

Demander un échange gratuitVoir la formation