Aquest article repassa la taula rodona “Empresa i societat: quin lloc dels humans en la revolució de la IA?”, organitzada el 19 de setembre de 2023 a París durant la primera edició de UX-Conf – Human First. Moderada per Clément Fages, periodista digital, aquesta primera taula rodona va reunir cinc ponents:
- David Jeanne, Cap de disseny d'experiència a Biogen
- Julie Hadengue, Cap de Disseny de La Redoute
- Magali Vaissière, Director de màrqueting de comerç electrònic i digital dins del Grup Casino
- Laure Blondel, Director de Consultoria de Marca, Producte i Consumidor Gerent de GreenFlex
- David Renoux, Director general de neopixl
Els temes i temes tractats
- La qüestió de l'ètica i l'impacte de la IA en empreses, consumidors, empleats
- La qüestió de l'IA responsable: Clément Fages esmenta l'article "Per què ChatGPT és un bomba ambiental" (OBS).
- Com es pot utilitzar la IA per optimitzar la nostra societat?
- Quins són els límits de la IA?
La IA es presenta com el tema candent del moment i es descriu com "el futur de la tecnologia digital que afectarà la nostra societat".
Els usos de la IA a les empreses dels ponents
L'ús de la IA a Neopixl
David Renoux explica que treballa amb IA al voltant d'aplicacions mòbils dels sectors de l'energia i la distribució massiva: “estan destinades als empleats però també als distribuïdors”. La IA també s'utilitza en el processament d'imatges per trobar productes, per a fotos i per analitzar cares.
L'ús del reconeixement visual a La Redoute
Julie Hadengue explica: “A La Redoute tenim la capacitat d'analitzar imatges i també de dir en quines tipologies de categories es troben tot i que no estan necessàriament referenciades per atributs concrets. Per exemple, agafant "catifes de bany", la cerca serà, òbviament, més qualificada en catifes de bany. També analitzem totes les opinions dels clients per trobar les correctes els patrons de. SEs cita "sofà còmode", la paraula "còmode" no s'identifica necessàriament, i podrem saber si es tracta d'una opinió positiva o negativa. També hem posat en marxa una funcionalitat al voltant de la inspiració: és a dir, proposarem idees que s'han seleccionat automàticament”.
Els usos de la IA al Casino
Magali Vaissière diu: “En primer lloc, fem servir la IA per millorar l'experiència del client oferint productes i promocions molt més personalitzades. Abans, estàvem utilitzant algorismes relativament definits per humans. Ara, podem creuar els perfils de compradors i enviar les millors recomanacions al consumidor. També hem desenvolupat algorismes d'autoaprenentatge que ens permeten, en cas d'escassetat de producte, oferir als clients productes alternatius”. Especifica que en el 90% dels casos aquests són acceptats pels consumidors.
A Biogen: augmentar la intel·ligència humana mitjançant la IA
David Jeanne presenta l'àmbit d'ús de la IA en l'àmbit mèdic a Biogen: un àmbit d'ús que permet augmentar la intel·ligència humana gràcies a la IA. "A Biogen treballem en malalties neurològiques i la IA ens ajuda a detectar-les més ràpidament, especialment en imatges. Per exemple, avui dia som capaços de detectar lesions cerebrals amb ressonància magnètica amb la mateixa eficàcia que una exploració PET que costa molt més i és molt més invasiva per a la persona. També estem treballant amb IA per oferir als metges la presa de notes automàtica. L'La IA és capaç d'identificar el diagnòstic, generar el mode clínic i començar a predir tot el recorregut del pacient: cAquest és un gran pas endavant per a la medicina! “
És el torn de Laure Blondel de parlar sobre aquest tema.
Laure Blondel explica que GreenFlex AI encara no s'utilitza. Tanmateix, forma part d'un equip que estudia el seu potencial. Aconsella a les empreses i organitzacions que redueixin el seu impacte mitjançant eleccions més responsables en el seu consum: “Com a agència de consultoria, treballem amb empreses i organitzacions en temes de desenvolupament sostenible. Estudiem les expectatives dels consumidors per assessorar empreses i organitzacions per tal d'identificar les seves necessitats en matèria de consum responsable. Des de fa gairebé 20 anys que treballem en el baròmetre del consum responsable i amb ADEME. A través del nostre estudi, podem veure que els consumidors fan el vincle entre el seu consum i el futur del planeta. Fan aquesta connexió i necessiten ajuda. És necessari que les empreses i les marques els donin suport en aquesta dimensió. Aleshores, per què no utilitzar la intel·ligència artificial per ajudar-los?"
En conclusió d'aquesta primera part
Clément Fages conclou aquesta primera part esmentant un vídeo recomanat per David Jeanne: "El llibre major egoista", un vídeo intern de Google que es va filtrar el 2018: "En resum, el vídeo revela el potencial de la IA per evolucionar cap a la gestió global de decisions per millorar el funcionament general de les nostres societats. Al mateix temps, destaca la capacitat de la IA, a nivell individual, per guiar-nos en totes les eleccions que fem als nostres dispositius mòbils o als nostres entorns digitals. Per exemple, podria suggerir: "Has pensat en triar un grup Uber en comptes d'un Uber?"
Foto de Vincent Bernard, Product Owner a UX Republic
L'ús de la IA: projectes i límits
Combatre el malbaratament d'aliments al Casino mitjançant IA
Clément Fages pregunta a Magalie Vaissière sobre la possibilitat d'utilitzar la IA per gestionar eficaçment els primers productes i reduir així els residus. Destaca que aquesta iniciativa podria tenir un impacte important en totes les botigues, animant els consumidors a adoptar un comportament més responsable. Clément es pregunta si aquests temes formen part de les prioritats actuals del grup.
Magalie Vaissière respon: "De fet, la IA té un paper crucial en la detecció de la maduresa de les nostres fruites i verdures, millorant significativament la gestió de les comandes, les reposicions i les existències. Actualment estem en la fase de digitalització d'aquests processos, tenint en compte el comportament del consumidor. Això pretén fomentar les opcions saludables i una alimentació equilibrada, alhora que es conscienciació sobre els aspectes energètics i ambientals. El primer repte és adquirir aquestes dades, després emmagatzemar-les i processar-les d'una manera que la faci servir per l'IA, alhora que les faci comprensibles per als nostres empleats".
Ella il·lustra el seu punt amb un exemple concret a Casino: "En el nostre enfocament, la IA ens permet oferir menús respectant la puntuació nutricional, la petjada de carboni, tot tenint en compte el pressupost dels clients, oferint així una broma d'experiència".
L'ús "responsable" de la IA a Neopixl
Clément Fages entrevista David Renoux de Neopixl sobre l'enfocament responsable de l'ús de la IA a les empreses i organitzacions. David Renoux respon. “La IA ens ofereix possibilitats extraordinàries, aportant un autèntic aspecte responsable en funció dels objectius que volem assolir. Tanmateix, és fonamental fer la següent pregunta: és segur, sobirà i ecològic? A partir del meu suport a les grans empreses durant sis anys, l'objectiu és definir un model econòmic, entendre la seva finalitat i determinar com respectar determinats principis per garantir la rendibilitat d'aquest ús”. També assenyala que l'emmagatzematge massiu de dades, fotos i vídeos implica un important consum d'energia. Per tant, diu, el repte és trobar el model adequat i utilitzar la tecnologia amb prudència.
Gestió de dades La Redoute
Julie Hadengue destaca algunes limitacions de la IA afirmant: “La IA depèn completament de les dades; això planteja preguntes crucials sobre l'evolució de la societat, la recollida, la seguretat i l'ús de les dades”. Apareixen molts problemes, com ara on es col·loquen les dades, com s'emmagatzemen, qui hi té accés, el govern d'aquestes dades i fins a quin punt podem fer un seguiment de les respostes generades per una IA. Pel que fa a l'enfocament d'"IA oberta" a La Redoute, la decisió és categòrica: rebutjar qualsevol solució que no garanteixi la seguretat de les dades, perquè no és possible exposar la informació dels clients en xarxes obertes".
Els límits de la IA a Biogen
David Jeanne destaca un tema important: “Tot i que la seguretat de les dades de salut és un tema crucial, la nostra principal preocupació rau en la fiabilitat. Abans que una eina basada en IA sigui reconeguda com a dispositiu mèdic, és imprescindible que estiguem segurs del funcionament intern d'aquesta "caixa negra". La coherència dels diagnòstics és fonamental: un diagnòstic establert en un moment determinat ha de ser idèntic sis mesos després, amb les mateixes dades, símptomes i observacions. Aquest principi de repetibilitat i reproductibilitat és fonamental en l'àmbit científic”.
La noció de responsabilitat a Greenflex
Laure Blondel de Greenflex destaca la noció de responsabilitat declarant: "Sovint parlem d'impacte ambiental, però, entre cometes, és insignificant en comparació amb l'impacte de l'ús de la IA". Destaca la pressió creixent sobre els recursos planetaris, assenyalant que recentment s'ha superat un límit crític. En aquest context, destaca la necessitat de consumir de manera més reflexiva i responsable, apostant per un enfocament “menys, però millor”.
Verificació de dades a La Redoute
Julie Hadengue subratlla la importància de la verificació afirmant: “Aplicam un principi fonamental: utilitzar diverses fonts. Considerem que calen tres resultats diferents per convèncer i confirmar o refutar un fet denunciat per AI”. A continuació, il·lustra aquest enfocament citant l'exemple del chatbot, especificant que totes les respostes generades per la IA es verifiquen escrupolosament abans de ser transmeses als clients.
Centrar-se en el temps de discussió amb els participants
Pregunta núm. 1: "Si és necessari anar darrere de la IA a vverificant l'obra, quin sentit té això?"
- Julie Hadengue recorda que "estem en una era de transformació on la IA encara és una caixa negra". A La Redoute s'està treballant per garantir la rellevància de la IA.
- David Jeanne de Biogen proporciona aclariments sobre aquesta noció de control abans de presentar les dades als clients: "Al meu equip, a UX, utilitzem la IA com a col·lega addicional. No prenem el resultat de la IA com una cosa segura".
Foto d'Anton, Dissenyador de producte a UX Republic
Pregunta núm. 2: "Hi ha coses amb què ens podries ajudar? compartir sobre IA "explicable", especialment en el domini mèdic? Pel que fa a la responsabilitat, estem començant a fer-ho escoltar sobre el Llei REEN per fer el empreses més responsables al voltant de les dades. Què és el teu sentiment?"
- David Jeanne de Biogen parla: "En ciència, estar segur del que veus és una part essencial".
- David Renoux de Neopixl afegeix sobre les dades utilitzades: “Quan parlem de l'ús de dades, de seguida pensem en dades personals. En realitat, trobo que la IA ens permet conciliar altres a part dels de l'usuari: lEl seguiment dels productes, la seva caducitat i molts altres exemples permeten processar dades d'un volum més gran i comparar-les amb les dades d'usuari que ja tenim. La IA els explotarà de manera diferent i anirà més enllà en predicció i anàlisi".
Pregunta núm. 3: "Sobre la IA esmentada, són eines que estàs desenvolupant vo són solucions externes?”
- Julie Hadengue respon: "A La Redoute, depenent de la maduresa de la nostra investigació, utilitzem solucions de tercers o desenvolupem els nostres propis algorismes internament".
>> Trobeu altres articles d'UX-Conf aquí
Alexa Cuéllar, UX Designer a UX-Republic
