[UX-CONF 2023] Wirtschaft und Gesellschaft: Welchen Platz hat der Mensch in der KI-Revolution?

Dieser Artikel zeichnet den runden Tisch „Wirtschaft und Gesellschaft: Welchen Platz für den Menschen in der KI-Revolution?“ nach, der am 19. September 2023 in Paris während der ersten Ausgabe von UX-Conf – Human First organisiert wurde. Moderiert von Clément Fages, Digitaljournalist, brachte dieser erste runde Tisch fünf Redner zusammen:

  • David Jeanne, Leiter Experience Design bei Biogen
  • Julie Hadengue, Leiter Design bei La Redoute
  • Magali Vaissière, Direktor für E-Commerce-Marketing und Digital innerhalb der Casino Group
  • Laure Blondel, Direktor für Marken-, Produkt- und Verbraucherberatung Manager bei GreenFlex
  • David Renoux, Geschäftsführer bei neopixl

Die angesprochenen Themen und Probleme

  • Die Frage der Ethik und der Auswirkungen von KI auf Unternehmen, Verbraucher, Mitarbeiter 
  • Die Frage nach verantwortungsvoller KI: Clément Fages erwähnt den Artikel „Warum ChatGPT ein ist Umweltbombe“ (OBS). 
  • Wie kann KI zur Optimierung unserer Gesellschaft eingesetzt werden? 
  • Wo liegen die Grenzen der KI? 

KI wird als aktuelles Thema dargestellt und als „die Zukunft der digitalen Technologie, die Auswirkungen auf unsere Gesellschaft haben wird“ beschrieben. 

Der Einsatz von KI in den Unternehmen der Referenten

Der Einsatz von KI bei Neopixl

David Renoux erklärt, dass er mit KI rund um mobile Apps im Energie- und Massenverteilungssektor arbeitet: „Sie sind für Mitarbeiter, aber auch für Händler gedacht.“ KI wird auch in der Bildverarbeitung zur Produktsuche, für Fotos und zur Analyse von Gesichtern eingesetzt. 

Der Einsatz visueller Erkennung bei La Redoute 

Julie Hadengue erklärt: „Bei La Redoute haben wir die Möglichkeit, Bilder zu analysieren und auch zu sagen, in welchen Kategorietypologien sie zu finden sind, auch wenn sie nicht unbedingt durch bestimmte Attribute referenziert werden. Wenn Sie beispielsweise „Badezimmerteppiche“ wählen, wird die Suche offensichtlich gezielter auf Badezimmerteppiche ausgerichtet. Wir analysieren auch alle Kundenbewertungen, um die richtigen zu finden Muster. SEs wird „bequemes Sofa“ genannt, das Wort „bequem“ wird nicht unbedingt identifiziert und wir können erkennen, ob es sich um eine positive oder negative Meinung handelt. Wir haben auch eine Funktionalität rund um Inspiration eingeführt: Das heißt, wir schlagen Ideen vor, die automatisch ausgewählt wurden.“ 

Der Einsatz von KI im Casino 

Magali Vaissière sagt: „Zuallererst nutzen wir KI, um das Kundenerlebnis zu verbessern, indem wir Produkte und Werbeaktionen anbieten, die viel personalisierter sind.“ Zuvor verwendeten wir relativ vom Menschen definierte Algorithmen. Jetzt sind wir in der Lage, Käuferprofile abzugleichen und dem Verbraucher die besten Empfehlungen zu übermitteln. Darüber hinaus haben wir selbstlernende Algorithmen entwickelt, die es uns ermöglichen, unseren Kunden im Falle einer Produktknappheit Alternativprodukte anzubieten.“ Sie gibt an, dass diese in 90 % der Fälle von den Verbrauchern akzeptiert werden.

Bei Biogen: Steigerung der menschlichen Intelligenz durch KI

David Jeanne stellt den Einsatzbereich von KI im medizinischen Bereich bei Biogen vor: einen Einsatzbereich, der es ermöglicht, die menschliche Intelligenz dank KI zu steigern. „Bei Biogen arbeiten wir an neurologischen Erkrankungen und KI hilft uns, diese schneller zu erkennen, insbesondere in der Bildgebung. Beispielsweise sind wir heute in der Lage, Hirnläsionen mit MRTs genauso effektiv zu erkennen wie mit einem PET-Scan, der viel mehr kostet und für die Person viel invasiver ist. Wir arbeiten auch mit KI zusammen, um Ärzten das automatische Erstellen von Notizen zu ermöglichen. L„KI ist in der Lage, die Diagnose zu identifizieren, den klinischen Modus zu erstellen und mit der Vorhersage der gesamten Patientenreise zu beginnen: cDas ist ein großer Fortschritt für die Medizin! „

Es ist an Laure Blondel, zu diesem Thema zu sprechen.

Laure Blondel erklärt, dass GreenFlex AI noch nicht eingesetzt wird. Sie ist jedoch Teil eines Teams, das ihr Potenzial untersucht. Sie rät Unternehmen und Organisationen, ihre Auswirkungen durch verantwortungsvollere Konsumentscheidungen zu reduzieren: „Als Beratungsagentur arbeiten wir mit Unternehmen und Organisationen an Themen der nachhaltigen Entwicklung. Wir untersuchen die Erwartungen der Verbraucher, um Unternehmen und Organisationen zu beraten, um ihre Bedürfnisse in Bezug auf verantwortungsvollen Konsum zu ermitteln. Seit fast 20 Jahren arbeiten wir insbesondere am Barometer für verantwortungsvollen Konsum und mit ADEME zusammen. Durch unsere Studie können wir sehen, dass Verbraucher den Zusammenhang zwischen ihrem Konsum und der Zukunft des Planeten herstellen. Sie stellen diese Verbindung her und brauchen Hilfe. Es ist notwendig, dass Unternehmen und Marken sie in dieser Dimension unterstützen. Warum also nicht künstliche Intelligenz nutzen, um ihnen zu helfen?“

Zum Abschluss dieses ersten Teils

Clément Fages schließt diesen ersten Teil mit der Erwähnung eines von David Jeanne empfohlenen Videos ab: „Das egoistische Hauptbuch“, ein internes Google-Video, das 2018 durchgesickert ist: „Zusammenfassend zeigt das Video das Potenzial der KI, sich in Richtung eines globalen Entscheidungsmanagements weiterzuentwickeln, um die allgemeine Funktionsweise unserer Gesellschaften zu verbessern. Gleichzeitig unterstreicht es die Fähigkeit der KI, uns auf individueller Ebene bei jeder Entscheidung zu unterstützen, die wir auf unseren Mobilgeräten oder in unseren digitalen Umgebungen treffen. Sie könnte zum Beispiel vorschlagen: „Haben Sie darüber nachgedacht, einen Uber-Pool einem Uber vorzuziehen?“

Foto von Vincent Bernard, Produktinhaber bei UX Republic 

Der Einsatz von KI: Projekte und Grenzen

Bekämpfung der Lebensmittelverschwendung im Casino mithilfe von KI 

Clément Fages befragt Magalie Vaissière über die Möglichkeit, KI zu nutzen, um frühe Produkte effektiv zu verwalten und so Verschwendung zu reduzieren. Er betont, dass diese Initiative erhebliche Auswirkungen auf alle Geschäfte haben und die Verbraucher zu einem verantwortungsvolleren Verhalten ermutigen könnte. Clément fragt sich, ob diese Themen zu den aktuellen Prioritäten der Gruppe gehören.

Magalie Vaissière antwortet: „Tatsächlich spielt KI eine entscheidende Rolle bei der Erkennung der Reife unseres Obsts und Gemüses und verbessert die Verwaltung von Bestellungen, Nachschub und Lagerbeständen erheblich.“ Wir befinden uns derzeit in der Digitalisierungsphase dieser Prozesse unter Berücksichtigung des Verbraucherverhaltens. Ziel ist es, gesunde Entscheidungen und eine ausgewogene Ernährung zu fördern und gleichzeitig das Bewusstsein für Energie- und Umweltaspekte zu schärfen. Die erste Herausforderung besteht darin, diese Daten zu erfassen, sie dann so zu speichern und zu verarbeiten, dass sie für die KI nutzbar und gleichzeitig für unsere Mitarbeiter verständlich sind.“

Sie verdeutlicht ihren Standpunkt anhand eines konkreten Beispiels bei Casino: „In unserem Ansatz ermöglicht uns KI, Menüs anzubieten, die den Nutri-Score, den CO2-Fußabdruck, berücksichtigen und gleichzeitig das Budget der Kunden berücksichtigen, sodass wir einen Erlebniswitz anbieten können.“

Der „verantwortungsvolle“ Umgang mit KI bei Neopixl

Clément Fages interviewt David Renoux von Neopixl zum verantwortungsvollen Umgang mit KI in Unternehmen und Organisationen. David Renoux antwortet. „KI bietet uns außergewöhnliche Möglichkeiten und bringt je nach den Zielen, die wir erreichen möchten, einen wirklich verantwortungsvollen Aspekt mit sich. Allerdings muss man sich unbedingt die Frage stellen: Ist es sicher, souverän und ökologisch? Aufbauend auf meiner sechsjährigen Unterstützung großer Unternehmen besteht das Ziel darin, ein Wirtschaftsmodell zu definieren, seinen Zweck zu verstehen und zu bestimmen, wie bestimmte Grundsätze beachtet werden müssen, um die Rentabilität dieser Nutzung sicherzustellen.“ Er weist außerdem darauf hin, dass die massive Speicherung von Daten, Fotos und Videos mit einem erheblichen Energieverbrauch verbunden sei. Die Herausforderung besteht seiner Meinung nach darin, das richtige Modell zu finden und die Technologie sinnvoll einzusetzen.

Datenverwaltung La Redoute

Julie Hadengue weist auf einige Einschränkungen der KI hin, indem sie erklärt: „KI ist vollständig datenabhängig; Dies wirft entscheidende Fragen zur Entwicklung der Gesellschaft, zur Erhebung, Sicherheit und Nutzung von Daten auf.“ Es tauchen viele Fragen auf, z. B. wo Daten abgelegt werden, wie sie gespeichert werden, wer Zugriff darauf hat, wie diese Daten verwaltet werden und inwieweit wir die von einer KI generierten Reaktionen verfolgen können. Bezüglich des „offenen KI“-Ansatzes bei La Redoute ist die Entscheidung kategorisch: Lehnen Sie jede Lösung ab, die keine Datensicherheit gewährleistet, da die Offenlegung von Kundeninformationen in offenen Netzwerken nicht möglich ist.“

Die Grenzen der KI bei Biogen

David Jeanne hebt ein wichtiges Thema hervor: „Obwohl die Sicherheit von Gesundheitsdaten ein entscheidendes Thema ist, liegt unser Hauptanliegen in der Zuverlässigkeit. Bevor ein KI-basiertes Werkzeug als medizinisches Gerät anerkannt wird, müssen wir uns unbedingt über das Innenleben dieser „Black Box“ im Klaren sein. Die Konsistenz der Diagnosen ist von entscheidender Bedeutung: Eine zu einem bestimmten Zeitpunkt gestellte Diagnose muss sechs Monate später identisch sein, mit denselben Daten, Symptomen und Beobachtungen. Dieses Prinzip der Wiederholbarkeit und Reproduzierbarkeit ist im wissenschaftlichen Bereich von grundlegender Bedeutung.“

Der Verantwortungsgedanke bei Greenflex

Laure Blondel von Greenflex unterstreicht den Begriff der Verantwortung, indem sie erklärt: „Wir sprechen häufig über die Auswirkungen auf die Umwelt, aber in Anführungszeichen sind sie im Vergleich zu den Auswirkungen des Einsatzes von KI unbedeutend.“ Sie betont den wachsenden Druck auf die Ressourcen unseres Planeten und weist darauf hin, dass kürzlich eine kritische Grenze überschritten wurde. In diesem Zusammenhang betont sie die Notwendigkeit eines bewussteren und verantwortungsvolleren Konsums und plädiert für einen „weniger, aber besser“-Ansatz. 

Datenüberprüfung bei La Redoute 

Julie Hadengue unterstreicht die Bedeutung der Verifizierung mit den Worten: „Wir wenden ein Grundprinzip an: die Nutzung mehrerer Quellen.“ Wir sind der Ansicht, dass drei verschiedene Ergebnisse erforderlich sind, um eine von der KI gemeldete Tatsache zu überzeugen und zu bestätigen oder zu widerlegen.“ Anschließend veranschaulicht sie diesen Ansatz am Beispiel des Chatbots und weist darauf hin, dass alle von der KI generierten Antworten sorgfältig überprüft werden, bevor sie an Kunden übermittelt werden.

Konzentrieren Sie sich auf die Diskussionszeit mit den Teilnehmern

Frage Nr. 1: „Wenn es notwendig ist, hinter die KI zu gehen.“ vWas ist der Sinn davon? 

  • Julie Hadengue erinnert sich: „Wir befinden uns in einer Ära des Wandels, in der KI immer noch eine Black Box ist“. Bei La Redoute wird daran gearbeitet, die Relevanz von KI zu gewährleisten. 
  • David Jeanne von Biogen erläutert diesen Kontrollbegriff, bevor die Daten den Kunden präsentiert werden: „In meinem Team, im UX, nutzen wir KI als zusätzlichen Kollegen. Wir betrachten das KI-Ergebnis nicht als etwas Sicheres.“

Foto von Anton, Produktdesigner bei UX Republic

Frage Nr. 2: „Gibt es Dinge, bei denen Sie uns helfen könnten? Anteil an „erklärbarer“ KI, insbesondere in der medizinischer Bereich? Was die Verantwortung angeht, fangen wir an Hören Sie davon REEN-Gesetz zu machen verantwortungsbewusstere Unternehmen im Umgang mit Daten. Was ist dein Gefühl?“ 

  • David Jeanne von Biogen spricht: „In der Wissenschaft ist es ein wesentlicher Bestandteil, sicher zu sein, was man sieht.“ 
  • David Renoux von Neopixl ergänzt zu den verwendeten Daten: „Wenn wir über die Verwendung von Daten sprechen, denken wir sofort an personenbezogene Daten. In Wirklichkeit finde ich, dass KI es uns ermöglicht, andere als die des Benutzers in Einklang zu bringen: lDie Verfolgung von Produkten, deren Verfallsdatum und viele andere Beispiele ermöglichen es, Daten größeren Umfangs zu verarbeiten und mit bereits vorhandenen Benutzerdaten abzugleichen. KI wird sie anders nutzen und in der Vorhersage und Analyse noch weiter gehen.“ 

Frage Nr. 3: „Bezüglich der erwähnten KI, Sind das Werkzeuge, die Sie entwickeln? vOder sind es externe Lösungen?“ 

  • Julie Hadengue antwortet: „Bei La Redoute nutzen wir je nach Reifegrad unserer Forschung entweder Lösungen von Drittanbietern oder entwickeln intern unsere eigenen Algorithmen.“ 

>> Weitere Artikel von UX-Conf finden Sie hier

 

 

Alexa Cuellar, UX-Designer bei UX-Republic