Dit artikel volgt de rondetafelconferentie “Bedrijf en samenleving: welke plaats voor mensen in de AI-revolutie?”, georganiseerd op 19 september 2023 in Parijs tijdens de eerste editie van UX-Conf – Human First. Deze eerste ronde tafel, gemodereerd door digitaal journalist Clément Fages, bracht vijf sprekers samen:
- David Jeanne, Hoofd Experience Design bij Biogen
- Julie Hadengue, Hoofd ontwerp bij La Redoute
- Magali Vaissière, E-commerce marketing en digitaal directeur binnen de Casino Group
- Laure Blondel, Directeur merk-, product- en consumentenadvies Manager bij Greenflex
- David Renoux, Managing Director bij neopixl
De thema’s en problemen die aan bod komen
- De kwestie van ethiek en de impact van AI op bedrijven, consumenten, werknemers
- De kwestie van verantwoorde AI: Clément Fages noemt het artikel “Waarom ChatGPT een milieubom” (OBS).
- Hoe kan AI worden gebruikt om onze samenleving te optimaliseren?
- Wat zijn de grenzen van AI?
AI wordt gepresenteerd als het hot topic van dit moment en wordt beschreven als “de toekomst van digitale technologie die een impact zal hebben op onze samenleving”.
Het gebruik van AI in de bedrijven van de sprekers
Het gebruik van AI bij Neopixl
David Renoux legt uit dat hij met AI rond mobiele apps werkt in de energie- en massadistributiesector: “ze zijn bedoeld voor werknemers maar ook voor distributeurs”. Ook bij beeldverwerking wordt AI ingezet om producten te vinden, voor foto’s en om gezichten te analyseren.
Het gebruik van visuele herkenning bij La Redoute
Julie Hadengue legt uit: “Bij La Redoute hebben we de capaciteit om afbeeldingen te analyseren en ook om te zeggen in welke categorietypologieën ze voorkomen, ook al wordt er niet noodzakelijkerwijs naar verwezen door specifieke attributen. Als u bijvoorbeeld “badkamermatten” neemt, zal de zoekopdracht uiteraard gerichter zijn op badkamermatten. We analyseren ook alle klantbeoordelingen om de juiste te vinden patronen. SEr wordt ‘comfortabele bank’ genoemd, het woord ‘comfortabel’ wordt niet noodzakelijkerwijs geïdentificeerd, en we zullen kunnen weten of het een positieve of negatieve mening is. We hebben ook een functionaliteit rond inspiratie gelanceerd: dat wil zeggen dat we automatisch geselecteerde ideeën voorstellen.”
Het gebruik van AI bij Casino
Magali Vaissière zegt: “Allereerst gebruiken we AI om de klantervaring te verbeteren door producten en promoties aan te bieden die veel persoonlijker zijn. Vroeger gebruikten we relatief door de mens gedefinieerde algoritmen. Nu kunnen we naar kopersprofielen verwijzen en de beste aanbevelingen naar de consument sturen. Ook hebben we zelflerende algoritmen ontwikkeld waarmee we bij producttekorten klanten alternatieve producten kunnen aanbieden.” Ze geeft aan dat deze in 90% van de gevallen door consumenten worden geaccepteerd.
Bij Biogen: menselijke intelligentie vergroten door AI
David Jeanne introduceert bij Biogen de toepassingsmogelijkheden van AI op medisch gebied: een toepassingsmogelijkheden die het mogelijk maakt de menselijke intelligentie te vergroten dankzij AI. “Bij Biogen werken we aan neurologische ziekten en AI helpt ons deze sneller op te sporen, vooral bij beeldvorming. Tegenwoordig kunnen we bijvoorbeeld hersenlaesies met MRI's net zo effectief detecteren als een PET-scan, die veel duurder is en veel invasiever is voor de persoon. We werken ook samen met AI om artsen automatisch aantekeningen te laten maken. L'AI is in staat de diagnose te identificeren, de klinische modus te genereren en het hele patiënttraject te voorspellen: cDit is een grote stap voorwaarts voor de geneeskunde! “
Het is de beurt aan Laure Blondel om over dit onderwerp te spreken.
Laure Blondel legt uit dat GreenFlex AI nog niet wordt gebruikt. Ze maakt echter deel uit van een team dat haar potentieel onderzoekt. Zij adviseert bedrijven en organisaties om hun impact te verkleinen door meer verantwoorde keuzes te maken in hun consumptie: “Als adviesbureau werken wij samen met bedrijven en organisaties aan onderwerpen op het gebied van duurzame ontwikkeling. Wij bestuderen de verwachtingen van consumenten om bedrijven en organisaties te adviseren om hun behoeften op het gebied van verantwoorde consumptie in kaart te brengen. Wij werken al bijna 20 jaar met name aan de barometer voor verantwoorde consumptie en met ADEME. Uit ons onderzoek kunnen we zien dat consumenten het verband leggen tussen hun consumptie en de toekomst van de planeet. Zij maken die verbinding en hebben hulp nodig. Het is noodzakelijk dat bedrijven en merken hen in deze dimensie ondersteunen. Dus waarom zouden we geen kunstmatige intelligentie gebruiken om hen te helpen?”
Ter afsluiting van dit eerste deel
Clément Fages besluit dit eerste deel met een video aanbevolen door David Jeanne: “Het egoïstische grootboek”, een interne Google-video die in 2018 lekte: “Samenvattend onthult de video het potentieel van AI om te evolueren naar mondiaal beslissingsbeheer om het algehele functioneren van onze samenlevingen te verbeteren. Tegelijkertijd benadrukt het het vermogen van AI, op individueel niveau, om ons te begeleiden bij elke keuze die we maken op onze mobiele apparaten of in onze digitale omgevingen. Ze zou bijvoorbeeld kunnen voorstellen: 'Heb je erover nagedacht om een Uber-pool te kiezen in plaats van een Uber?'
Foto door Vincent Bernard, Producteigenaar bij UX Republic
Het gebruik van AI: projecten en grenzen
Bestrijding van voedselverspilling bij Casino met behulp van AI
Clément Fages ondervraagt Magalie Vaissière over de mogelijkheid om AI te gebruiken om vroege producten effectief te beheren en zo verspilling te verminderen. Hij benadrukt dat dit initiatief een aanzienlijke impact kan hebben op alle winkels en consumenten kan aanzetten tot meer verantwoord gedrag. Clément vraagt zich af of deze onderwerpen tot de huidige prioriteiten van de groep behoren.
Magalie Vaissière reageert: “AI speelt inderdaad een cruciale rol bij het detecteren van de rijpheid van onze groenten en fruit, waardoor het beheer van bestellingen, bevoorrading en voorraden aanzienlijk wordt verbeterd. Momenteel bevinden we ons in de digitaliseringsfase van deze processen, waarbij rekening wordt gehouden met consumentengedrag. Dit heeft tot doel gezonde keuzes en een uitgebalanceerd dieet aan te moedigen en tegelijkertijd het bewustzijn over energie- en milieuaspecten te vergroten. De eerste uitdaging is om deze data te verwerven, deze vervolgens op te slaan en te verwerken op een manier die ze bruikbaar maakt voor AI en tegelijkertijd begrijpelijk maakt voor onze medewerkers.”
Ze illustreert haar punt met een concreet voorbeeld bij Casino: “In onze aanpak stelt AI ons in staat menu’s aan te bieden die de nutri-score, de ecologische voetafdruk, respecteren, terwijl we rekening houden met het budget van de klant, en zo een ervaringsgrap bieden.”
Het “verantwoorde” gebruik van AI bij Neopixl
Clément Fages interviewt David Renoux van Neopixl over de verantwoorde omgang met het gebruik van AI binnen bedrijven en organisaties. David Renoux reageert. “AI biedt ons buitengewone mogelijkheden en brengt een echt verantwoordelijk aspect met zich mee, afhankelijk van de doelstellingen die we willen bereiken. Het is echter essentieel om de volgende vraag te stellen: is het veilig, soeverein en ecologisch? Voortbouwend op mijn steun aan grote bedrijven gedurende zes jaar, is het doel om een economisch model te definiëren, het doel ervan te begrijpen en te bepalen hoe bepaalde principes moeten worden gerespecteerd om de winstgevendheid van dit gebruik te garanderen.” Hij wijst er ook op dat de enorme opslag van gegevens, foto's en video's een aanzienlijk energieverbruik met zich meebrengt. Volgens hem is de uitdaging dus om het juiste model te vinden en technologie verstandig te gebruiken.
Gegevensbeheer La Redoute
Julie Hadengue benadrukt enkele beperkingen van AI door te stellen: “AI is volledig data-afhankelijk; dit roept cruciale vragen op over de evolutie van de samenleving, het verzamelen, beveiligen en gebruiken van data”. Er komen veel problemen naar voren, zoals waar gegevens worden geplaatst, hoe ze worden opgeslagen, wie er toegang toe heeft, het beheer van deze gegevens en in hoeverre we de reacties kunnen volgen die door een AI worden gegenereerd. Wat de “open AI”-aanpak bij La Redoute betreft, is de beslissing categorisch: weiger elke oplossing die de gegevensveiligheid niet garandeert, omdat het blootstellen van klantinformatie op open netwerken niet mogelijk is.”
De grenzen van AI bij Biogen
David Jeanne benadrukt een belangrijk probleem: “Hoewel de beveiliging van gezondheidsgegevens een cruciaal onderwerp is, ligt onze grootste zorg bij de betrouwbaarheid. Voordat een op AI gebaseerd hulpmiddel als medisch hulpmiddel wordt erkend, is het absoluut noodzakelijk dat we zeker zijn van de interne werking van deze ‘zwarte doos’. Consistentie van diagnoses is cruciaal: een diagnose die op een bepaald moment wordt gesteld, moet zes maanden later identiek zijn, met dezelfde gegevens, symptomen en observaties. Dit principe van herhaalbaarheid en reproduceerbaarheid is van fundamenteel belang op wetenschappelijk gebied.”
Het begrip verantwoordelijkheid bij Greenflex
Laure Blondel van Greenflex benadrukt het begrip verantwoordelijkheid door te verklaren: “We praten vaak over de impact op het milieu, maar tussen aanhalingstekens is deze onbeduidend vergeleken met de impact van het gebruik van AI.” Ze benadrukt de groeiende druk op de hulpbronnen van de planeet en merkt op dat er recentelijk een kritische grens is overschreden. In deze context benadrukt ze de noodzaak om op een meer doordachte en verantwoorde manier te consumeren, en pleit ze voor een ‘minder, maar betere’ aanpak.
Gegevensverificatie bij La Redoute
Julie Hadengue onderstreept het belang van verificatie door te stellen: “We hanteren een fundamenteel principe: het gebruik van meerdere bronnen. Wij zijn van mening dat er drie verschillende resultaten nodig zijn om een door AI gerapporteerd feit te overtuigen, te bevestigen of te weerleggen”. Vervolgens illustreert ze deze aanpak door het voorbeeld van de chatbot aan te halen, waarbij ze specificeert dat alle door de AI gegenereerde reacties nauwgezet worden geverifieerd voordat ze naar klanten worden verzonden.
Concentreer u op de discussietijd met de deelnemers
Vraag #1: “Als het nodig is om achter de AI aan te gaan vhet werk verrijken, wat is daar de zin van?”
- Julie Hadengue herinnert zich dat “we ons in een tijdperk van transformatie bevinden waarin AI nog steeds een zwarte doos is”. Bij La Redoute wordt gewerkt om de relevantie van AI te garanderen.
- David Jeanne van Biogen geeft verduidelijking over dit begrip van controle voordat de gegevens aan klanten worden gepresenteerd: “In mijn team, in UX, gebruiken we AI als extra collega. Wij beschouwen het AI-resultaat niet als iets zekers.”
Foto door Anton, Productontwerper bij UX Republic
Vraag #2: “Zijn er dingen waarmee u ons kunt helpen? delen over “verklaarbare” AI, vooral in de medisch domein? Wat de verantwoordelijkheid betreft, beginnen we daarmee hoor over de REEN wet om de te maken meer verantwoordelijke bedrijven rond data. Welk is jouw gevoel?”
- David Jeanne van Biogen spreekt: “In de wetenschap is het essentieel dat je zeker weet wat je ziet.”
- David Renoux van Neopixl voegt toe over de gebruikte data: “Als we het hebben over het gebruik van data, denken we meteen aan persoonsgegevens. In werkelijkheid vind ik dat AI ons in staat stelt om anderen met elkaar te verzoenen, afgezien van die van de gebruiker: lHet volgen van producten, hun vervaldatum en vele andere voorbeelden maken het mogelijk om gegevens van een groter volume te verwerken en deze te vergelijken met gebruikersgegevens die we al hebben. AI zal ze op een andere manier exploiteren en verder gaan in voorspelling en analyse.”
Vraag #3: “Wat betreft de genoemde AI, zijn het hulpmiddelen die u ontwikkelt vof zijn het externe oplossingen?”
- Julie Hadengue antwoordt: “Bij La Redoute gebruiken we, afhankelijk van de maturiteit van ons onderzoek, oplossingen van derden of ontwikkelen we intern onze eigen algoritmen.”
>> Vind hier andere artikelen van UX-Conf
Alexa Cuellar, UX-ontwerper bij UX-Republic
