Este artigo retrata a mesa redonda “Negócios e sociedade: que lugar para os humanos na revolução da IA?”, organizada em 19 de setembro de 2023 em Paris durante a primeira edição da UX-Conf – Human First. Moderada por Clément Fages, jornalista digital, esta primeira mesa redonda reuniu cinco oradores:

• David Jeanne, Chefe de Design de Experiência na Biogen
• Júlia Hadengue, Chefe de Design na La Redoute
• Magali Vaissiere, Diretor de marketing de comércio eletrônico e digital do Grupo Casino
• Laura Blondel, Diretor de Consultoria de Marca, Produto e Consumidor Gerente na Greenflex
• David Renoux, Diretor administrativo na neopixl

Os temas e assuntos abordados

• A questão da ética e o impacto da IA ​​nas empresas, consumidores, colaboradores 
• A questão da IA ​​responsável: Clément Fages menciona o artigo “Por que o ChatGPT é um bomba ambiental” (OBS). 
• Como a IA pode ser usada para otimizar nossa sociedade? 
• Quais são os limites da IA? 

A IA é apresentada como o tema quente do momento e é descrita como “o futuro da tecnologia digital que terá impacto na nossa sociedade”. 

Os usos da IA ​​nas empresas dos palestrantes

O uso de IA na Neopixl

David Renoux explica que trabalha com IA em torno de aplicações móveis nos setores de energia e distribuição em massa: “destinam-se aos funcionários, mas também aos distribuidores”. A IA também é usada no processamento de imagens para encontrar produtos, fotos e analisar rostos. 

O uso do reconhecimento visual na La Redoute 

Julie Hadengue explica: “Na La Redoute temos a capacidade de analisar imagens e também de dizer em que tipologias de categorias se encontram, embora não sejam necessariamente referenciadas por atributos específicos. Por exemplo, ao pegar “tapetes de banheiro”, a busca obviamente será mais qualificada em tapetes de banheiro. Também analisamos todas as avaliações dos clientes para encontrar as corretas padrões. SCita-se “sofá confortável”, a palavra “confortável” não está necessariamente identificada, e poderemos saber se é uma opinião positiva ou negativa. Lançamos também uma funcionalidade em torno da inspiração: ou seja, proporemos ideias que foram selecionadas automaticamente.” 

Os usos da IA ​​no Casino 

Magali Vaissière afirma: “Em primeiro lugar, utilizamos IA para melhorar a experiência do cliente, oferecendo produtos e promoções muito mais personalizados. Antes, usávamos algoritmos relativamente definidos por humanos. Agora, podemos cruzar perfis de compradores e enviar as melhores recomendações ao consumidor. Desenvolvemos também algoritmos de autoaprendizagem que nos permitem, em caso de escassez de produtos, oferecer aos clientes produtos alternativos”. Ela especifica que em 90% dos casos são aceitos pelos consumidores.

Na Biogen: aumentando a inteligência humana através da IA

David Jeanne apresenta na Biogen o âmbito de utilização da IA ​​na área médica: um âmbito de utilização que permite aumentar a inteligência humana graças à IA. “Na Biogen, trabalhamos com doenças neurológicas e a IA ajuda-nos a detectá-las mais rapidamente, especialmente em imagens. Por exemplo, hoje somos capazes de detectar lesões cerebrais com ressonâncias magnéticas tão eficazmente quanto um PET scan, que custa muito mais e é muito mais invasivo para a pessoa. Também estamos trabalhando com IA para oferecer aos médicos anotações automáticas. eu'A IA é capaz de identificar o diagnóstico, gerar o modo clínico e começar a prever toda a jornada do paciente: cEste é um grande avanço para a medicina! “

É a vez de Laure Blondel falar sobre esse assunto.

Laure Blondel explica que o GreenFlex AI ainda não é usado. Porém, ela faz parte de uma equipe que estuda seu potencial. Ela aconselha empresas e organizações a reduzirem o seu impacto através de escolhas mais responsáveis ​​no seu consumo: “Como agência de consultoria, trabalhamos com empresas e organizações em temas de desenvolvimento sustentável. Estudamos as expectativas dos consumidores para aconselhar empresas e organizações na identificação das suas necessidades em termos de consumo responsável. Trabalhamos em particular no barómetro do consumo responsável e com a ADEME há quase 20 anos. Através do nosso estudo, podemos constatar que os consumidores fazem a ligação entre o seu consumo e o futuro do planeta. Eles fazem essa conexão e precisam de ajuda. É necessário que as empresas e marcas os apoiem nesta dimensão. Então, por que não usar a inteligência artificial para ajudá-los?”

Concluindo esta primeira parte

Clément Fages conclui esta primeira parte mencionando um vídeo recomendado por David Jeanne: “O livro-razão egoísta”, um vídeo interno do Google que vazou em 2018: “Em resumo, o vídeo revela o potencial da IA ​​para evoluir no sentido da gestão de decisões globais para melhorar o funcionamento geral das nossas sociedades. Ao mesmo tempo, destaca a capacidade da IA, a nível individual, de nos guiar em cada escolha que fazemos nos nossos dispositivos móveis ou nos nossos ambientes digitais. Por exemplo, ela pode sugerir: “Você já pensou em escolher um Uber Pool em vez de um Uber?”

Foto de Vincent Bernard, Proprietário de produto na UX Republic 

O uso da IA: projetos e limites

Combater o desperdício de alimentos no Casino usando IA 

Clément Fages questiona Magalie Vaissière sobre a possibilidade de utilizar a IA para gerir eficazmente os primeiros produtos e, assim, reduzir o desperdício. Ele enfatiza que esta iniciativa poderá ter um impacto significativo em todas as lojas, incentivando os consumidores a adotarem comportamentos mais responsáveis. Clément questiona se estes assuntos fazem parte das prioridades atuais do grupo.

Magalie Vaissière responde: “De facto, a IA desempenha um papel crucial na detecção da maturidade das nossas frutas e vegetais, melhorando significativamente a gestão de encomendas, reabastecimento e stocks. Estamos atualmente na fase de digitalização destes processos, tendo em conta o comportamento do consumidor. O objetivo é incentivar escolhas saudáveis ​​e uma alimentação equilibrada, ao mesmo tempo que aumenta a sensibilização para os aspetos energéticos e ambientais. O primeiro desafio é adquirir esses dados e, em seguida, armazená-los e processá-los de uma forma que os torne utilizáveis ​​pela IA, ao mesmo tempo que os torna compreensíveis para os nossos funcionários.”

Ela ilustra o seu ponto de vista com um exemplo concreto no Casino: “Na nossa abordagem, a IA permite-nos oferecer menus respeitando o nutri-score, a pegada de carbono, tendo em consideração o orçamento dos clientes, oferecendo assim uma piada de experiência”.

O uso “responsável” da IA ​​na Neopixl

Clément Fages entrevista David Renoux da Neopixl sobre a abordagem responsável ao uso de IA em empresas e organizações. David Renoux responde. “A IA nos oferece possibilidades extraordinárias, trazendo um aspecto real responsável dependendo dos objetivos que desejamos alcançar. Contudo, é fundamental colocar a seguinte questão: é seguro, soberano e ecológico? Com base no meu apoio às grandes empresas durante seis anos, o objetivo é definir um modelo económico, compreender a sua finalidade e determinar como respeitar determinados princípios para garantir a rentabilidade desta utilização.” Ele ressalta ainda que o armazenamento massivo de dados, fotos e vídeos envolve um consumo significativo de energia. Então, segundo ele, o desafio é encontrar o modelo certo e usar a tecnologia com sabedoria.

Gestão de dados La Redoute

Julie Hadengue destaca algumas limitações da IA ​​ao afirmar: “A IA é inteiramente dependente de dados; isto levanta questões cruciais sobre a evolução da sociedade, a recolha, segurança e utilização de dados”. Surgem muitas questões, tais como onde os dados são colocados, como são armazenados, quem tem acesso a eles, a governação destes dados e até que ponto podemos rastrear as respostas geradas por uma IA. Quanto à abordagem de “IA aberta” na La Redoute, a decisão é categórica: recusar qualquer solução que não garanta a segurança dos dados, porque não é possível expor as informações dos clientes em redes abertas”.

Os limites da IA ​​na Biogen

David Jeanne destaca uma questão importante: “Embora a segurança dos dados de saúde seja um assunto crucial, a nossa principal preocupação reside na fiabilidade. Antes que uma ferramenta baseada em IA seja reconhecida como um dispositivo médico, é imperativo que tenhamos certeza do funcionamento interno desta “caixa preta”. A consistência dos diagnósticos é crucial: um diagnóstico estabelecido num determinado momento deve ser idêntico seis meses depois, com os mesmos dados, sintomas e observações. Este princípio de repetibilidade e reprodutibilidade é fundamental no campo científico.”

A noção de responsabilidade na Greenflex

Laure Blondel da Greenflex destaca a noção de responsabilidade ao declarar: “Falamos frequentemente sobre o impacto ambiental, mas, entre aspas, é insignificante comparado com o impacto do uso da IA”. Ela destaca a crescente pressão sobre os recursos planetários, observando que um limite crítico foi recentemente ultrapassado. Neste contexto, sublinha a necessidade de consumir de forma mais ponderada e responsável, defendendo uma abordagem “menos, mas melhor”. 

Verificação de dados em La Redoute 

Julie Hadengue sublinha a importância da verificação ao afirmar: “Aplicamos um princípio fundamental: utilizar diversas fontes. Consideramos que são necessários três resultados diferentes para convencer e confirmar ou refutar um facto relatado pela IA”. Ela então ilustra essa abordagem citando o exemplo do chatbot, especificando que todas as respostas geradas pela IA são escrupulosamente verificadas antes de serem transmitidas aos clientes.

Concentre-se no tempo de discussão com os participantes

Pergunta nº 1: “Se for necessário ir atrás da IA ​​para verificar o trabalho, qual é o sentido disso?” 

• Julie Hadengue lembra que “estamos numa era de transformação onde a IA ainda é uma caixa preta”. Na La Redoute há trabalho para garantir a relevância da IA. 
• David Jeanne, da Biogen, esclarece essa noção de controle antes que os dados sejam apresentados aos clientes: “Na minha equipe, em UX, usamos a IA como colega adicional. Não consideramos o resultado da IA ​​como algo certo.”

Foto de Anton, Designer de produto na UX Republic

Pergunta nº 2: “Há coisas em que você poderia nos ajudar? compartilhar sobre IA “explicável”, particularmente no domínio médico? No que diz respeito à responsabilidade, estamos começando a ouvir sobre o Lei REEN para tornar o empresas mais responsáveis ​​em relação aos dados. O que é o seu sentimento? 

• David Jeanne da Biogen fala: “Na ciência, ter certeza do que você vê é uma parte essencial.” 
• David Renoux da Neopixl acrescenta sobre os dados utilizados: “Quando falamos em utilização de dados, pensamos imediatamente em dados pessoais. Na realidade, acho que a IA nos permite reconciliar outras pessoas além das do usuário: lO rastreamento de produtos, seu vencimento e muitos outros exemplos permitem processar dados de maior volume e compará-los com dados de usuários que já possuímos. A IA irá explorá-los de forma diferente e irá mais longe na previsão e análise”. 

Pergunta nº 3: “Em relação à IA mencionada, são ferramentas que você está desenvolvendo vou são soluções externas?” 

• Júlia Hadengue responde: “Na La Redoute, dependendo da maturidade da nossa investigação, ou utilizamos soluções de terceiros ou desenvolvemos os nossos próprios algoritmos internamente.” 

>> Encontre outros artigos da UX-Conf aqui

 

 

Alexa Cuéllar, Designer de UX na UX-Republic