Wirtschaft und Gesellschaft: Die Rolle des Menschen angesichts der KI

Dieser Artikel behandelt den runden Tisch „Wirtschaft und Gesellschaft: Welchen Platz nimmt der Mensch in der KI-Revolution ein?“, der am 19. September 2023 in Paris während der ersten Ausgabe der UX-Conf – Human First organisiert wurde. Gastgeber dieser ersten Podiumsdiskussion war der Digitaljournalist Clément Fages. Fünf Redner kamen zusammen:

David Jeanne, Leiter Experience Design bei Biogen
Julie Hadengue, Leiter Design bei La Redoute
Magali Vaissière, E-Commerce Marketing und Digital Director bei der Casino Group
Laure Blondel, Direktor für Marken-, Produkt- und Verbraucherberatung Manager bei GreenFlex
David Renoux, Geschäftsführer bei neopixl

Die angesprochenen Themen und Probleme

Die Frage der Ethik und die Auswirkungen der KI auf Unternehmen, Verbraucher und Mitarbeiter
Die Frage nach verantwortungsvoller KI: Clément Fages erwähnt den Artikel „Warum ChatGPT ein „Umweltbombe“ (OBS).
Wie kann KI zur Optimierung unserer Gesellschaft eingesetzt werden?
Wo liegen die Grenzen der KI?

KI wird als das heißeste Thema der Zeit präsentiert und als „die Zukunft der digitalen Technologie, die unsere Gesellschaft beeinflussen wird“ beschrieben.

Einsatzmöglichkeiten von KI in den Unternehmen der Referenten

Der Einsatz von KI bei Neopixl

David Renoux erklärt, dass er im Energie- und Einzelhandelssektor mit KI an mobilen Apps arbeitet: „Sie sind sowohl für Mitarbeiter als auch für Vertriebspartner gedacht.“ KI wird außerdem in der Bildverarbeitung eingesetzt, um Produkte zu finden, Fotos zu analysieren und Gesichter zu untersuchen.

Der Einsatz visueller Erkennung bei La Redoute

Julie Hadengue erklärt: „Bei La Redoute können wir Bilder analysieren und sie auch dann kategorisieren, wenn sie nicht explizit durch bestimmte Attribute beschrieben werden. Sucht man beispielsweise nach ‚Badezimmerteppichen‘, werden natürlich vermehrt Badezimmerteppiche angezeigt. Wir analysieren außerdem alle Kundenbewertungen, um die passenden Muster zu finden . Wenn jemand ‚bequemes Sofa‘ erwähnt, ist das Wort ‚bequem‘ nicht unbedingt explizit aufgeführt, und wir können so feststellen, ob es sich um eine positive oder negative Bewertung handelt. Wir haben außerdem eine Inspirationsfunktion eingeführt: Damit schlagen wir automatisch ausgewählte Ideen vor.“

Die Verwendung von KI im Casino

Magali Vaissière erklärt: „Zunächst nutzen wir KI, um das Kundenerlebnis durch deutlich personalisiertere Produkte und Aktionen zu verbessern. Früher basierten wir größtenteils auf von Menschen definierten Algorithmen. Jetzt können wir Käuferprofile abgleichen und jedem Kunden die besten Empfehlungen geben. Wir haben außerdem selbstlernende Algorithmen entwickelt, die es uns ermöglichen, Kunden Alternativprodukte vorzuschlagen, falls ein Produkt nicht verfügbar ist.“ Sie fügt hinzu, dass diese Alternativen in 90 % der Fälle von den Kunden angenommen werden.

Bei Biogen: Erweiterung der menschlichen Intelligenz durch KI

David Jeanne erläutert die Einsatzmöglichkeiten von KI im medizinischen Bereich bei Biogen: ein Einsatzgebiet, das die menschliche Intelligenz durch KI erweitert. „Wir bei Biogen forschen an neurologischen Erkrankungen, und KI hilft uns, diese schneller zu erkennen, insbesondere durch Bildgebung. So können wir beispielsweise heute Hirnläsionen mit MRTs genauso effektiv erkennen wie mit einer PET-Untersuchung, die deutlich teurer und invasiver ist. Wir arbeiten außerdem mit KI, um Ärzten die automatische Dokumentation zu ermöglichen. KI ist in der Lage, die Diagnose zu stellen, das Behandlungsprotokoll zu erstellen und den gesamten Behandlungsverlauf des Patienten vorherzusagen: Das ist ein bedeutender Fortschritt für die Medizin!“

Jetzt ist Laure Blondel an der Reihe, zu diesem Thema zu sprechen.

Laure Blondel erklärt, dass GreenFlex KI noch nicht einsetzt. Sie ist jedoch Teil eines Teams, das deren Potenzial erforscht. Sie berät Unternehmen und Organisationen, wie sie ihre Umweltauswirkungen durch verantwortungsvollere Konsumentscheidungen reduzieren können: „Als Beratungsagentur arbeiten wir mit Unternehmen und Organisationen zu Themen der nachhaltigen Entwicklung . Wir analysieren die Erwartungen der Verbraucher, um Unternehmen und Organisationen bei der Ermittlung ihres Bedarfs an verantwortungsvollem Konsum zu unterstützen. Seit fast 20 Jahren arbeiten wir am Barometer für verantwortungsvollen Konsum und mit ADEME (der französischen Agentur für den ökologischen Wandel). Unsere Forschung zeigt, dass Verbraucher den Zusammenhang zwischen ihrem Konsum und der Zukunft unseres Planeten erkennen. Sie stellen diesen Zusammenhang her und benötigen Unterstützung. Es ist daher unerlässlich, dass Unternehmen und Marken sie in diesem Bereich unterstützen. Warum also nicht künstliche Intelligenz einsetzen, um ihnen zu helfen?“

Zum Abschluss dieses ersten Teils

Clément Fages schließt diesen ersten Teil mit der Erwähnung eines von David Jeanne empfohlenen Videos ab: „The Selfish Ledger “, ein internes Google-Video, das 2018 an die Öffentlichkeit gelangte: „Kurz gesagt, das Video zeigt das Potenzial von KI auf, sich zu einem umfassenden Entscheidungsmanagement weiterzuentwickeln und so das Funktionieren unserer Gesellschaften insgesamt zu verbessern. Gleichzeitig verdeutlicht es die Fähigkeit von KI, uns auf individueller Ebene bei jeder Entscheidung zu leiten, die wir auf unseren Mobilgeräten oder in unserer digitalen Umgebung treffen. Zum Beispiel könnte sie vorschlagen: ‚Haben Sie schon einmal darüber nachgedacht, Uber Pool anstelle von Uber zu nutzen?‘“

Foto von Vincent Bernard, Product Owner bei UX Republic

Der Einsatz von KI: Projekte und Grenzen

Bekämpfung von Lebensmittelverschwendung im Casino mithilfe von KI

Clément Fages befragt Magalie Vaissière zur Möglichkeit, mithilfe von KI Frühobst effizient zu verwalten und so Abfall zu reduzieren. Er betont, dass diese Initiative erhebliche Auswirkungen auf alle Geschäfte haben könnte und die Verbraucher zu einem verantwortungsvolleren Verhalten ermutigen könnte. Clément fragt sich, ob diese Themen derzeit zu den Prioritäten der Gruppe gehören.

Magalie Vaissière antwortet: „KI spielt tatsächlich eine entscheidende Rolle bei der Reifegraderkennung von Obst und Gemüse und verbessert so die Bestell-, Nachschub- und Bestandsverwaltung deutlich. Wir sind derzeit dabei, diese Prozesse unter Berücksichtigung des Verbraucherverhaltens zu digitalisieren. Ziel ist es, gesunde Entscheidungen und eine ausgewogene Ernährung zu fördern und gleichzeitig das Bewusstsein für Energie- und Umweltaspekte zu schärfen. Die erste Herausforderung besteht darin, diese Daten zu erfassen, zu speichern und so zu verarbeiten, dass sie für KI nutzbar und für unsere Mitarbeiter verständlich sind.“

Sie veranschaulicht ihren Standpunkt anhand eines konkreten Beispiels bei Casino: „Mit unserem Ansatz ermöglicht uns KI, Menüs anzubieten, die den Nährwert und den CO2-Fußabdruck respektieren und gleichzeitig das Budget der Kunden berücksichtigen, um so ein angenehmes Erlebnis zu bieten.“

Der „verantwortungsvolle“ Einsatz von KI bei Neopixl

Clément Fages interviewt David Renoux von Neopixl zum verantwortungsvollen Umgang mit der Nutzung von KI in Unternehmen und Organisationen. David Renoux antwortet. KI bietet uns außergewöhnliche Möglichkeiten und bringt ein hohes Verantwortungsbewusstsein mit sich, je nachdem, welche Ziele wir erreichen wollen. Dabei ist es wichtig, sich folgende Frage zu stellen: Ist sie sicher, souverän und ökologisch? Basierend auf meiner sechsjährigen Erfahrung in der Zusammenarbeit mit großen Unternehmen geht es darum, ein Geschäftsmodell zu definieren, dessen Zweck zu verstehen und festzulegen, wie bestimmte Prinzipien eingehalten werden können, um die Rentabilität dieser Nutzung zu gewährleisten. Er weist außerdem darauf hin, dass die Massenspeicherung von Daten, Fotos und Videos mit einem erheblichen Energieverbrauch verbunden ist. Die Herausforderung bestehe darin, das richtige Modell zu finden und die Technologie sinnvoll einzusetzen, sagt er.

Datenmanagement von La Redoute

Julie Hadengue hebt einige der Grenzen der KI hervor und erklärt: „KI ist vollständig von Daten abhängig. Dies wirft entscheidende Fragen zur Entwicklung der Gesellschaft sowie zur Datenerfassung, -sicherheit und -nutzung auf.“ Dabei stellen sich viele Fragen, etwa wo sich die Daten befinden, wie sie gespeichert werden, wer Zugriff darauf hat, wie diese Daten verwaltet werden und wie lange wir die von einer KI generierten Antworten verfolgen können. In Bezug auf den „Open AI“-Ansatz bei La Redoute ist die Entscheidung kategorisch: Jede Lösung wird abgelehnt, die keine Datensicherheit garantiert, da die Offenlegung von Kundeninformationen in offenen Netzwerken keine Option ist.“

Die Grenzen der KI bei Biogen

David Jeanne hebt eine große Herausforderung hervor: „Obwohl die Sicherheit von Gesundheitsdaten ein entscheidendes Thema ist, liegt unser Hauptanliegen in der Zuverlässigkeit. Bevor ein KI-basiertes Tool als Medizinprodukt anerkannt werden kann, ist es zwingend erforderlich, dass wir uns über die interne Funktionsweise dieser „Blackbox“ im Klaren sind.“ Die Konsistenz der Diagnosen ist entscheidend: Eine zu einem bestimmten Zeitpunkt gestellte Diagnose muss sechs Monate später mit denselben Daten, Symptomen und Beobachtungen identisch sein. Dieses Prinzip der Wiederholbarkeit und Reproduzierbarkeit ist in der Wissenschaft von grundlegender Bedeutung.

Der Verantwortungsbegriff bei Greenflex

Laure Blondel von Greenflex betont den Begriff der Verantwortung und erklärt: „Wir sprechen oft über die Auswirkungen auf die Umwelt, aber – in Anführungszeichen – diese sind unbedeutend im Vergleich zu den Auswirkungen, die der Einsatz von KI mit sich bringt.“ Sie betont den wachsenden Druck auf die Ressourcen unseres Planeten und weist darauf hin, dass vor Kurzem eine kritische Grenze überschritten worden sei. In diesem Zusammenhang betont sie die Notwendigkeit eines bewussteren und verantwortungsvolleren Konsums und plädiert für einen „weniger, aber besser“-Ansatz.

Datenüberprüfung bei La Redoute

Julie Hadengue betont die Bedeutung der Verifizierung und erklärt: „Wir wenden ein grundlegendes Prinzip an: die Nutzung mehrerer Quellen. Wir glauben, dass drei verschiedene Ergebnisse erforderlich sind, um eine von der KI gemeldete Tatsache zu bestätigen oder zu widerlegen.“ Anschließend veranschaulicht sie diesen Ansatz am Beispiel des Chatbots und weist darauf hin, dass alle von der KI generierten Antworten sorgfältig geprüft werden, bevor sie an die Kunden übermittelt werden.

Konzentrieren Sie sich auf die Zeit, die Sie mit den Teilnehmern verbringen

Frage Nr. 1: „Wenn es notwendig ist, hinter die KI zu schauen, um die Arbeit zu überprüfen , welchen Sinn hat das dann?“

Julie Hadengue erinnert uns daran, dass „wir uns in einer Zeit des Wandels befinden, in der KI immer noch eine Blackbox ist“. Bei La Redoute wird daran gearbeitet, die Relevanz von KI sicherzustellen.
David Jeanne von Biogen erläutert diesen Begriff der Kontrolle, bevor die Daten den Kunden vorgelegt werden: „In meinem UX-Team nutzen wir KI als zusätzlichen Kollegen. Wir nehmen KI-Ergebnisse nicht als selbstverständlich hin.“

Foto von Anton, Produktdesigner bei UX Republic

Frage 2: „Gibt es etwas, das Sie uns über „erklärbare“ KI, insbesondere im medizinischen Bereich, mitteilen könnten? Was die Verantwortung betrifft, hört man zunehmend von dem REEN-Gesetz, das Unternehmen zu einem verantwortungsvolleren Umgang mit Daten verpflichten soll. Was halten Sie davon?“

David Jeanne von Biogen spricht: „In der Wissenschaft ist es von entscheidender Bedeutung, sich dessen, was man sieht, sicher zu sein.“
David Renoux von Neopixl fügt zu den verwendeten Daten hinzu: Wenn wir über Datennutzung sprechen, denken wir sofort an personenbezogene Daten. Tatsächlich ermöglicht uns KI meiner Meinung nach, neben den Benutzerdaten auch andere Daten abzugleichen:Produktverfolgung, Ablaufdaten und viele weitere Beispiele ermöglichen es uns, größere Datenmengen zu verarbeiten und mit bereits vorhandenen Benutzerdaten zu vergleichen. KI wird sie anders nutzen und bei Vorhersagen und Analysen noch weiter gehen.“

Frage Nr. 3: „Handelt es sich bei den erwähnten KI-Systemen um selbstentwickelte Werkzeuge oder um externe Lösungen?“

Julie Hadengue antwortet: „Bei La Redoute verwenden wir je nach Reifegrad unserer Forschung entweder Lösungen von Drittanbietern oder entwickeln intern eigene Algorithmen.“

Alexa Cuellar , UX-Designerin bei UX-Republic