Les enjeux éthiques au coeur de l’Intelligence Artificielle Générative – ITW Thomas Husson Forrester

Son interface simple et intuitive en a fait une star incontestée. ChatGPT, cette intelligence artificielle générative, a séduit près de 200 millions d’utilisateurs. Et elle n’est pas la seule. Claude, Google Bard, Bing Chat… sont autant d’alternatives que les marques jaugent, expérimentent voire utilisent pour transformer l’expérience des clients comme celle des collaborateurs. Avec des préoccupations majeures, utiliser l’Intelligence Artificielle Générative de façon responsable et répondre aux enjeux éthiques qui en découlent. Thomas Husson, Vice President & Principal Analyst de Forrester, interviewé lors du salon One to One Expérience Client 2023 de Biarritz, partage son point de vue.

L’IA générative, une adoption… prudente

La promesse de OpenAI avec ChatGPT est engageante « get instant answers, find creative inspiration, and learn something new”. C’est aujourd’hui 80% des marketeurs qui affirment l’avoir déjà utilisé ou testé. Pourtant « Même si l’outil est magique, avec une technologie simple à utiliser, l’IA Générative n’est qu’un sous-ensemble technologique de l’IA, qui existe depuis longtemps ». En effet, déjà en 2022, 67% des marketeurs déclaraient utiliser l’Intelligence Artificielle. (Etude Global State of IA in B2B Marketing – Q3 2022).

Mais force est de constater que des nouvelles expérimentations fleurissent. Avec 2 approches. « Il y a une approche top down, celle du directeur marketing ou du dirigeant qui se demande ce qu’il peut faire avec l’IA. Alors que la bonne question à se poser serait comment l’IA peut nous aider à réaliser nos objectifs ? Et puis une approche plus bottom up, portée par les collaborateurs. A l’instar du Bring your on Device, c’est le Bring YOUR Own IA. Chacun utilise l’outil pour gagner en productivité ». Il y a cette concomitance des phénomènes, à destination du consommateur final, mais davantage sur des fonctions internes d’entreprise. Comme automatiser des tâches administratives, ou dans la production de textes, d’images, de vidéo ou d’audio.

Même si les expérimentations sont exponentielles, les marketeurs restent pour leurs parts prudents. Beaucoup d’interrogations persistent sur « comment s’approprier l’IA générative, sa vitesse de déploiement, ce qu’elle va réellement permettre de faire, les risques inhérents à la technologie, aux data qui la nourrissent… ».

Les enjeux éthiques liés à l’Intelligence Artificielle Générative

La particularité de l’Intelligence Artificielle Générative réside dans sa capacité à générer différents formats de contenus. Des dires de ChatGPT lui-même, les résultats qu’il donne proviennent d’un « vaste corpus de texte qui comprend une grande variété de sources, telles que des articles, des livres, des sites web et d’autres documents textuels… ».

Selon Thomas Husson, les interrogations qui en découlent sont multiples. Quid de la qualité des contenus utilisés et du respect de la propriété intellectuelle ? Quid de la gouvernance des données ? Comment s’assurer que des éléments qui traduisent la singularité d’une marque ne soient pas proposés comme base créative pour générer différents contenus au risque d’altérer la brand equity ? Comment rémunérer l’artiste ou le créateur du contenu initial pour sa participation à la création ? Est ce qu’on entraîne les IA génératives avec les nouvelles images créées ?… C’est un peu un cercle sans fin. D’autant plus que, « n’importe qui, peut produire un contenu dont la véracité n’est pas prouvée. La traçabilité des informations sera centrale pour authentifier ces contenus. Ce sont des enjeux clés pour les marques ».

Il y a aussi la question du biais avec des données privées. « Des données biaisées qui ne sont pas représentatives de la société qui, comme tout principe de génération basée sur des éléments de l’intelligence artificielle, fonctionne avec de la data qui rentre et de la data qui sort. La qualité de la donnée entrante est donc stratégique pour utiliser l’IA générative de façon responsable ».

Comment anticiper

Heureusement, des premiers grands acteurs ouvrent la voie avec une IA Générative plus responsable. « Getty Images a par exemple récemment lancé une offre d’IA générative à usage commercial, tout en respectant la propriété intellectuelle des créateurs. Les contributeurs sont ainsi rémunérés pour toute inclusion de leur contenu dans les données d’entraînement de l’outil ». Adobe s’engage quant à lui avec des projets comme la Content Authenticity Initiative et la Coalition for Content Provenance and Authenticity. Avec la volonté de défendre une IA générative régie par des principes de traçabilité, de responsabilité et de transparence. Quand le groupe média Les Échos Le Parisien signe un manifeste sur l’utilisation de l’IA générative au sein des rédactions.

De plus, afin que les marques puissent évoluer dans des environnements plus sécurisés, « je pense que ce qui va se développer, et qui est en train de s’accélérer, ce sont des modèles pré-entraînés. Non un modèle grand public à la ChatGPT que n’importe qui peut utiliser, mais des modèles propriétaires. On a un modèle algorithmique et un modèle d’IA Générative spécifique à une industrie, une verticale, une fonction. Et sur lequel on vient appliquer, dans un univers sécurisé, des jeux de données propriétaires sur la vie privée du consommateur. Il sera aussi possible de marquer l’ensemble des contenus dans des logiques de blockchain, de traçabilité spécifique qui permettrait d’authentifier la donnée. »

Des technologies comme « eXplainable Artificial Intelligence », vont aussi permettre d’aller expliquer le fonctionnement d’un algorithme. Portées par les équipes Risk, Compliance ou IT, elles s’assurent de la structuration de la gouvernance des données en amont et en sortie, de ce qui est produit, avant toute publication. Enfin, adopter une approche responsable de l’IA Générative suppose de développer des compétences, des métiers d’édition, de supervision, d’éthique…

L’Intelligence Artificielle Générative pourra transformer l’expérience client

Car les opportunités pour réinventer l’expérience client sont bien réelles. « L’enjeu consiste à inventer des expériences nouvelles, préparer des interfaces conversationnelles, mieux anticiper l’émotion sur les parcours clients pour leur permettre de trouver dans le contexte approprié le propos adéquat. Il faut réduire la charge mentale du consommateur, en se préparant à déconstruire les sites web et appli mobiles existants pour mieux contextualiser ces fragments d’expériences et répondre aux consommateurs à travers des interfaces reposant sur l’IA générative. » déclarait Thomas Husson à CB News pour le Retail Morning en septembre 2023.

A condition d’augmenter le marketing autour de 3 cas d’usage. « D’abord gagner en productivité grâce à des outils qui permettent d’être plus créatifs. Puis enrichir sa connaissance des consommateurs par l’analyse de données non structurées images / vidéos ; Enfin en personnalisant davantage l’expérience client. Des cas d’usage réalistes s’ils reposent sur les bonnes data compte tenu du contexte cookieless et sur une gouvernance autour de cette donnée ».

Pour l’instant, les cas d’usage se focalisent sur l’automatisation et la production de contenus, ou pour inspirer des briefs créatifs. On est encore loin de la véritable personnalisation de l’expérience client, de la simplification des parcours…. Même si l’impact indirect de ces contenus sur les consommateurs finaux est bien réel.

Image Bruno Thethe via Unsplash