[UX-CONF 2023] Business et société : quelle place pour l’homme dans la révolution IA ?

Cet article retrace la table ronde “Business et société : quelle place pour l’homme dans la révolution IA ?”, organisée le 19 septembre 2023 à Paris lors de la première édition de l’UX-Conf – Human First. Animée par Clément Fages, journaliste numérique, cette première table ronde a réuni cinq intervenants :

  • David Jeanne, Head Experience Design chez Biogen
  • Julie Hadengue, Head of Design chez La Redoute
  • Magali Vaissière, Directrice e-commerce marketing et digital au sein du Groupe Casino
  • Laure Blondel, Directrice Conseil Marques, Produits et Consommation Responsable chez GreenFlex
  • David Renoux, Managing Director chez neopixl

Les thématiques et enjeux abordés

  • La question de l’éthique et l’impact de l’IA sur les entreprises, les consommateurs, les collaborateurs 
  • La question de l’IA responsable : Clément Fages mentionne l’article “Pourquoi ChatGPT est une bombe environnementale” (L’OBS). 
  • Comment l’IA peut être utilisée pour optimiser notre société ? 
  • Quelles sont les limites de l’IA ? 

L’IA est présentée comme le sujet phare du moment et est décrite  comme “le futur du numérique qui va impacter notre société”. 

Les usages de l’IA dans les entreprises des intervenants

L’usage de l’IA chez Neopixl

David Renoux explique qu’il travaille avec l’IA autour des app mobiles dans le secteur de l’énergie et de la grande distribution : “elles sont destinées aux employés mais également aux distributeurs”. L’IA est aussi utilisée dans le traitement de l’image pour retrouver des produits, pour des photos et pour analyser des visages. 

L’utilisation de la reconnaissance visuelle chez La Redoute 

Julie Hadengue explique : “Chez La Redoute, nous avons la capacité d’analyser les images et également de dire dans quelles typologies de catégorie se trouve celles-ci alors qu’elles ne sont pas forcément référencées par des attributs spécifiques. Par exemple, en prenant “tapis de salle bains”, la recherche va évidement être plus qualifiée sur les tapis de salle de bains. Nous analysons également tous les avis clients pour trouver les bons patterns. S‘il est cité “canapé confortable”, le mot “confortable” n’est pas forcément identifié, et nous serons en mesure de savoir s’il s’agit d’un avis positif ou négatif. Nous avons également lancé une fonctionnalité autour de l’inspiration : c’est-à-dire que l’on va proposer des idées qui ont été sélectionnées de manière automatique.” 

Les usages de l’IA chez Casino 

Magali Vaissière  raconte : “Tout d’abord, nous utilisons l’IA pour améliorer l’expérience client en proposant des produits et des promotions qui sont beaucoup plus personnalisés. Avant, nous étions sur des algorithmes relativement définis par l’homme. Maintenant, nous arrivons à croiser les profils acheteurs et à pousser les meilleures recommandations par rapport au consommateur. Nous avons également développé des algorithmes auto-apprenants qui nous permettent, en cas de rupture d’un produit, de proposer aux clients des produits alternatifs”. Elle précise que ceux-ci sont dans 90% des cas acceptés par les consommateurs.

Chez Biogen : augmenter l’intelligence humaine grâce à l’IA

David Jeanne introduit le périmètre d’utilisation de l’IA dans le domaine médical chez Biogen : un périmètre d’utilisation qui permet d’augmenter l’intelligence humaine grâce à l’IA. “Chez Biogen, nous travaillons sur les maladies neurologiques et l’IA nous sert à les détecter plus rapidement, notamment sur l’imagerie. Par exemple, aujourd’hui, nous arrivons à détecter des lésions cérébrales avec les IRM avec autant d’efficacité qu’un PET-scan qui coûte beaucoup plus cher et qui est beaucoup plus invasif pour la personne. Nous travaillons également avec l’IA pour proposer aux médecins la prise de notes automatique. L‘IA est capable d’identifier le diagnostic, de générer le mode clinique et de commencer à prévoir l’ensemble du parcours du patient : c‘est un gros progrès pour la médecine ! “

C’est au tour de Laure Blondel de s’exprimer sur ce sujet.

Laure Blondel explique que GreenFlex l’IA n’est pas encore utilisée. Cependant, elle fait partie d’une équipe qui étudie son potentiel. Elle conseille les entreprises et les organisations à réduire leur impact à travers des choix plus responsables dans leur consommation : “En tant qu’agence de conseil, nous travaillons avec les entreprises et les organisations sur les sujets de développement durable. Nous étudions les attentes des consommateurs pour conseiller les entreprises et les organisations afin de faire émerger leurs besoins en terme de consommation responsable. Nous travaillons notamment sur le baromètre de la consommation responsable et avec l’ADEME depuis presque 20 ans. À travers notre étude, nous pouvons voir que les consommateurs font le lien entre leur consommation et l’avenir de la planète. Ils font cette connexion et ont besoin d’aide. Il est nécessaire que les entreprises et les marques les accompagnent dans cette dimension-là. Alors, pourquoi pas utiliser l’intelligence artificielle pour les aider ?”

En conclusion de cette première partie

Clément Fages conclut cette première partie en mentionnant une vidéo conseillée par David Jeanne : “The Selfish Ledger”, une vidéo interne de Google qui a fuité en 2018 : “En résumé, la vidéo dévoile le potentiel de l’IA à évoluer vers une gestion globale des décisions pour améliorer le fonctionnement global de nos sociétés. Parallèlement, elle souligne la capacité de l’IA, au niveau individuel, à nous guider dans chaque choix que nous faisons sur nos appareils mobiles ou dans nos environnements numériques. Par exemple, elle pourrait suggérer : “As-tu envisagé de choisir un Uber Pool plutôt qu’un Uber ?”

Photo par Vincent Bernard, Product Owner chez UX Republic 

L’utilisation de l’IA : projets et limites

Lutter contre le gaspillage alimentaire chez Casino grâce à l’IA 

Clément Fages interroge Magalie Vaissière sur la possibilité de recourir à l’IA pour gérer efficacement les produits primeurs et ainsi réduire le gaspillage. Il souligne que cette initiative pourrait avoir un impact significatif sur l’ensemble des magasins, encourageant les consommateurs à adopter des comportements plus responsables. Clément se demande si ces sujets font partie des priorités actuelles du groupe.

Magalie Vaissière répond : “Effectivement, l’IA joue un rôle crucial dans la détection de la maturité de nos fruits et légumes, améliorant significativement la gestion des commandes, du réapprovisionnement et des stocks. Nous sommes actuellement en phase de digitalisation de ces processus, prenant en compte les comportements des consommateurs. Cela vise à encourager des choix favorables à la santé, une alimentation équilibrée, tout en sensibilisant aux aspects énergétiques et environnementaux. Le premier défi consiste à acquérir ces données, puis à les stocker et les traiter de manière à les rendre utilisables par l’IA, tout en les rendant compréhensibles pour nos collaborateurs.”

Elle illustre son propos par un exemple concret chez Casino : “Dans notre démarche, l’IA nous permet de proposer des menus respectant le nutri-score, l’empreinte carbone, tout en prenant en considération le budget des clients, offrant ainsi une expérience plaisante.”

L’utilisation “responsable” de l’IA chez Neopixl

Clément Fages interroge David Renoux de chez Neopixl sur l’approche responsable de l’utilisation de l’IA au sein des sociétés et organisations. David Renoux répond. “L’IA nous offre des possibilités extraordinaires, apportant un réel aspect responsable en fonction des objectifs que l’on souhaite atteindre. Cependant, il est essentiel de se poser la question suivante : est-ce sécurisé, souverain et écologique ? Fort de mon accompagnement auprès de grandes sociétés pendant six ans, l’objectif est de définir un modèle économique, comprendre sa finalité, et déterminer comment respecter certains principes pour assurer la rentabilité de cette utilisation.” Il souligne également que le stockage massif de données, de photos et de vidéos implique une consommation énergétique significative. Ainsi, selon lui, le défi consiste à trouver le modèle approprié et à utiliser la technologie de manière judicieuse.

La gestion de la data La Redoute

Julie Hadengue souligne certaines limites de l’IA en déclarant : “L’IA dépend entièrement des données ; cela soulève des questions cruciales sur l’évolution de la société, la collecte, la sécurité et l’utilisation des données”. De nombreuses problématiques émergent, telles que le placement des données, leur mode de stockage, les personnes y ayant accès, la gouvernance de ces données, et jusqu’à quel moment nous pouvons suivre les réponses générées par une IA. En ce qui concerne l’approche “open IA” chez La Redoute, la décision est catégorique : refuser toute solution qui ne garantit pas la sécurité des données, car exposer les informations clients sur des réseaux ouverts n’est pas envisageable.”

Les limites de l’IA chez Biogen

David Jeanne souligne un enjeu majeur : “Bien que la sécurité des données de santé soit un sujet crucial, notre principale préoccupation réside dans la fiabilité. Avant qu’un outil basé sur l’IA ne soit reconnu comme dispositif médical, il est impératif que nous soyons certains du fonctionnement interne de cette “boîte noire”. La constance des diagnostics est cruciale : un diagnostic établi à un moment donné doit être identique six mois plus tard, avec les mêmes données, symptômes et observations. Ce principe de répétabilité et reproductibilité est fondamental dans le domaine scientifique.”

La notion de responsabilité chez Greenflex

Laure Blondel de chez Greenflex met en avant la notion de responsabilité en déclarant : “On parle fréquemment de l’impact environnemental, mais, entre guillemets, c’est insignifiant comparé à l’impact de l’utilisation de l’IA.” Elle souligne la pression croissante sur les ressources planétaires, notant qu’une limite critique a été franchie récemment. Dans ce contexte, elle insiste sur la nécessité de consommer de manière plus réfléchie et responsable, préconisant une approche “moins, mais mieux”. 

La vérification de la donnée chez La Redoute 

Julie Hadengue souligne l’importance de la vérification en affirmant : “Nous appliquons un principe fondamental : utiliser plusieurs sources. Nous considérons qu’il faut trois résultats différents pour convaincre et confirmer ou infirmer un fait remonté par l’IA”. Elle illustre ensuite cette approche en citant l’exemple du chatbot, précisant que toutes les réponses générées par l’IA sont scrupuleusement vérifiées avant d’être transmises aux clients.

Zoom sur le temps d’échange avec les participants

Question #1 : “S’il est nécessaire de passer derrière l’IA pour vérifier le travail, à quoi cela sert-il ?” 

  • Julie Hadengue rappelle que “nous sommes dans une époque de transformation où l’IA est encore une boîte noire”. Chez la Redoute, il y a un travail pour garantir la pertinence de l’IA. 
  • David Jeanne de chez Biogen apporte une précision sur cette notion de contrôle avant que la donnée soit présentée aux clients : “Dans mon équipe, en UX, on emploie l’IA comme un collègue supplémentaire. On ne prend pas le résultat de l’IA comme quelque chose de sûr”.

Photo par Anton, Product Designer chez UX Republic

Question #2 : “Est-ce qu’il y a des choses que vous pourriez nous partager sur l’IA “explicable”, notamment dans le domaine médical ? Concernant la responsabilité, on commence à entendre parler de la loi REEN pour rendre les entreprises plus responsables autour de la data. Quel est votre ressenti ?” 

  • David Jeanne de chez Biogen prend la parole : “Dans le domaine des sciences, le fait d’être sûr de ce que l’on voit est une partie essentielle.” 
  • David Renoux de chez Neopixl ajoute à propos des données utilisées : “Quand on parle d’utilisation de la donnée, on pense tout de suite aux données personnelles. En réalité, je trouve que l’IA nous permet d’en réconcilier d’autres en dehors de celles de l’utilisateur : le suivi des produits, leur péremption et bien d’autres exemples permettent de traiter des données d’un plus grand volume et de venir les mettre en confrontation avec des données utilisateurs que l’on possède déjà. L’IA va les exploiter différemment et aller plus loin dans la prédiction et dans l’analyse”. 

Question #3 : “Par rapport aux IA évoquées, sont-elles des outils que vous développez vous-même ou sont-elles des solutions externes ?” 

  • Julie Hadengue répond : “Chez La Redoute, en fonction de la maturité de nos recherches, soit nous faisons appel à des solutions tierces, soit nous développons nos propres algorithmes en interne”. 

>> Retrouvez d’autres articles issus de l’UX-Conf ici

 

 

Alexa Cuellar, UX Designer chez UX-Republic