On débat de l’usage qu’on fera de l’IA, pendant qu’elle décide déjà des titres suggérés, des traductions, des horaires de publication et de qui voit vos annonces.
En un mot. L’intelligence artificielle intégrée aux logiciels que vous employez déjà, souvent sans l’avoir choisie.
Fonctions automatisées reposant sur des modèles statistiques et intégrées par défaut aux outils courants de la communication : suggestions de rédaction et de titres, correction, traduction et sous-titrage automatiques, recadrage d’images, recommandations d’horaires, optimisation de la diffusion publicitaire, tri des messages entrants. Le domaine « L’IA dans la communication » traite de l’usage délibéré ; cette fiche traite de l’usage subi.
Les organisations consacrent leurs discussions à l’IA qu’elles pourraient adopter et ignorent celle qu’elles utilisent déjà. Or c’est la seconde qui agit : elle choisit la traduction qui part aux partenaires, le recadrage qui coupe une personne de la photo, l’audience qui verra l’annonce. Ces décisions ne passent par aucune validation, ne laissent pas de trace, et personne dans l’organisation ne se considère comme leur auteur.
Quatre familles de fonctions appellent une attention particulière, pour des raisons différentes. Les suggestions d’écriture uniformisent : elles proposent la formulation la plus probable, c’est-à-dire la plus banale, et une marque qui les accepte systématiquement finit par parler comme tout le monde. Les traductions et sous-titrages automatiques se trompent précisément là où cela compte — noms propres, sigles, termes métier — et partent sans relecture parce qu’ils ont l’air corrects. Les recadrages automatiques décident de ce qui sort du cadre, avec des biais documentés sur les visages. Et l’optimisation publicitaire choisit qui voit quoi : une campagne de recrutement livrée à l’optimisation peut n’atteindre qu’un seul profil, sans que personne ne l’ait décidé. La règle commune est de savoir ce qui est automatique dans sa chaîne de production, et de reprendre la main là où le résultat engage l’organisation.
L’optimisation publicitaire est le cas le plus instructif. Une offre d’emploi diffusée avec optimisation automatique sera servie aux profils qui, statistiquement, cliquent le plus — ce qui reproduit la composition du passé plutôt que l’intention de l’annonceur. L’organisation croit avoir diffusé largement ; elle a diffusé étroitement, et elle n’en saura rien sans aller regarder.
Cette carte comporte 1 question de contrôle, dans la version interactive.