[UX-Conf 2023] Perniagaan dan masyarakat: apakah tempat untuk manusia dalam revolusi AI?

Artikel ini menjejaki semula meja bulat “Perniagaan dan masyarakat: tempat manakah untuk manusia dalam revolusi AI?”, yang dianjurkan pada 19 September 2023 di Paris semasa edisi pertama UX-Conf – Human First. Dikendali oleh Clément Fages, wartawan digital, meja bulat pertama ini menghimpunkan lima penceramah:

  • David Jeanne, Reka Bentuk Pengalaman Ketua di Biogen
  • Julie Hadengue, Ketua Reka Bentuk di La Redoute
  • Magali Vaissiere, Pengarah pemasaran dan digital e-dagang dalam Kumpulan Kasino
  • Laure Blondel, Pengarah Perundingan Jenama, Produk dan Pengguna Pengurus di GreenFlex
  • David Renoux, Pengarah Urusan di neopixl

Tema dan isu yang dibincangkan

  • Persoalan etika dan kesan AI terhadap syarikat, pengguna, pekerja 
  • Persoalan AI yang bertanggungjawab: Clément Fages menyebut artikel itu “Mengapa ChatGPT adalah a bom alam sekitar” (OBS). 
  • Bagaimanakah AI boleh digunakan untuk mengoptimumkan masyarakat kita? 
  • Apakah had AI? 

AI dibentangkan sebagai topik hangat pada masa ini dan digambarkan sebagai "masa depan teknologi digital yang akan memberi kesan kepada masyarakat kita". 

Penggunaan AI dalam syarikat pembesar suara

Penggunaan AI di Neopixl

David Renoux menjelaskan bahawa dia bekerja dengan AI di sekitar aplikasi mudah alih dalam sektor tenaga dan pengedaran massa: "ia ditujukan untuk pekerja tetapi juga untuk pengedar". AI juga digunakan dalam pemprosesan imej untuk mencari produk, untuk foto dan menganalisis wajah. 

Penggunaan pengecaman visual di La Redoute 

Julie Hadengue menerangkan: "Di La Redoute, kami mempunyai keupayaan untuk menganalisis imej dan juga untuk menyatakan dalam kategori mana tipologi ia ditemui walaupun ia tidak semestinya dirujuk oleh atribut tertentu. Sebagai contoh, dengan mengambil "permaidani bilik mandi", carian jelas akan menjadi lebih layak pada permaidani bilik mandi. Kami juga menganalisis semua ulasan pelanggan untuk mencari yang betul corak. SIa disebut "sofa selesa", perkataan "selesa" tidak semestinya dikenal pasti, dan kita akan dapat mengetahui sama ada ia adalah pendapat positif atau negatif. Kami juga telah melancarkan fungsi sekitar inspirasi: iaitu, kami akan mencadangkan idea yang telah dipilih secara automatik. 

Penggunaan AI di Kasino 

Magali Vaissiere berkata: “Pertama sekali, kami menggunakan AI untuk meningkatkan pengalaman pelanggan dengan menawarkan produk dan promosi yang lebih diperibadikan. Sebelum ini, kami menggunakan algoritma yang ditakrifkan oleh manusia. Kini, kami dapat merujuk silang profil pembeli dan menolak pengesyoran terbaik kepada pengguna. Kami juga telah membangunkan algoritma pembelajaran kendiri yang membolehkan kami, sekiranya berlaku kekurangan produk, untuk menawarkan produk alternatif kepada pelanggan”. Beliau menyatakan bahawa dalam 90% kes ini diterima oleh pengguna.

Di Biogen: meningkatkan kecerdasan manusia melalui AI

David Jeanne memperkenalkan skop penggunaan AI dalam bidang perubatan di Biogen: skop penggunaan yang memungkinkan untuk meningkatkan kecerdasan manusia berkat AI. “Di Biogen, kami mengusahakan penyakit saraf dan AI membantu kami mengesannya dengan lebih cepat, terutamanya dalam pengimejan. Sebagai contoh, hari ini kita dapat mengesan lesi otak dengan MRI dengan berkesan seperti imbasan PET yang kosnya lebih tinggi dan lebih invasif untuk orang itu. Kami juga bekerjasama dengan AI untuk menawarkan pengambilan nota automatik kepada doktor. L'AI dapat mengenal pasti diagnosis, menjana mod klinikal dan mula meramalkan keseluruhan perjalanan pesakit: cIni adalah langkah besar ke hadapan untuk perubatan! “

Giliran Laure Blondel bercakap mengenai perkara ini.

Laure Blondel menerangkan bahawa GreenFlex AI belum lagi digunakan. Walau bagaimanapun, dia adalah sebahagian daripada pasukan yang mengkaji potensinya. Beliau menasihati syarikat dan organisasi untuk mengurangkan impak mereka melalui pilihan yang lebih bertanggungjawab dalam penggunaan mereka: “Sebagai sebuah agensi perunding, kami bekerjasama dengan syarikat dan organisasi mengenai topik pembangunan mampan. Kami mengkaji jangkaan pengguna untuk menasihati syarikat dan organisasi untuk mengenal pasti keperluan mereka dari segi penggunaan yang bertanggungjawab. Kami telah berusaha khususnya pada barometer penggunaan yang bertanggungjawab dan dengan ADEME selama hampir 20 tahun. Melalui kajian kami, kami dapat melihat bahawa pengguna membuat hubungan antara penggunaan mereka dan masa depan planet ini. Mereka membuat hubungan itu dan memerlukan bantuan. Adalah perlu bagi syarikat dan jenama untuk menyokong mereka dalam dimensi ini. Jadi mengapa tidak menggunakan kecerdasan buatan untuk membantu mereka?”

Sebagai kesimpulan bahagian pertama ini

Clément Fages mengakhiri bahagian pertama ini dengan menyebut video yang disyorkan oleh David Jeanne: “Lejar Mementingkan Diri”, video dalaman Google yang bocor pada 2018: “Ringkasnya, video itu mendedahkan potensi AI untuk berkembang ke arah pengurusan keputusan global bagi meningkatkan fungsi keseluruhan masyarakat kita. Pada masa yang sama, ia menyerlahkan keupayaan AI, pada peringkat individu, untuk membimbing kami dalam setiap pilihan yang kami buat pada peranti mudah alih kami atau dalam persekitaran digital kami. Sebagai contoh, dia mungkin mencadangkan: "Adakah anda mempertimbangkan untuk memilih Kolam Uber berbanding Uber?"

Foto oleh Vincent Bernard, Pemilik Produk di UX Republic 

Penggunaan AI: projek dan had

Melawan sisa makanan di Kasino menggunakan AI 

Clément Fages mempersoalkan Magalie Vaissiere tentang kemungkinan menggunakan AI untuk menguruskan produk awal dengan berkesan dan dengan itu mengurangkan pembaziran. Beliau menekankan bahawa inisiatif ini boleh memberi impak yang besar kepada semua kedai, menggalakkan pengguna untuk mengamalkan tingkah laku yang lebih bertanggungjawab. Clément tertanya-tanya sama ada subjek ini adalah sebahagian daripada keutamaan semasa kumpulan.

Magalie Vaissiere menjawab: “Sememangnya, AI memainkan peranan penting dalam mengesan kematangan buah-buahan dan sayur-sayuran kita, dengan ketara meningkatkan pengurusan pesanan, penambahan dan stok. Kami kini dalam fasa pendigitalan proses ini, dengan mengambil kira tingkah laku pengguna. Ini bertujuan untuk menggalakkan pilihan yang sihat dan diet seimbang, sambil meningkatkan kesedaran tentang tenaga dan aspek alam sekitar. Cabaran pertama adalah untuk memperoleh data ini, kemudian menyimpan dan memprosesnya dengan cara yang menjadikannya boleh digunakan oleh AI, sambil menjadikannya mudah difahami oleh pekerja kami."

Dia menggambarkan maksudnya dengan contoh konkrit di Kasino: "Dalam pendekatan kami, AI membolehkan kami menawarkan menu yang menghormati skor nutri, jejak karbon, sambil mengambil kira bajet pelanggan, sekali gus menawarkan jenaka pengalaman."

Penggunaan AI yang "bertanggungjawab" di Neopixl

Clément Fages menemu bual David Renoux dari Neopixl tentang pendekatan bertanggungjawab terhadap penggunaan AI dalam syarikat dan organisasi. David Renoux membalas. “AI menawarkan kami kemungkinan yang luar biasa, membawa aspek bertanggungjawab sebenar bergantung pada objektif yang ingin kami capai. Walau bagaimanapun, adalah penting untuk bertanya soalan berikut: adakah ia selamat, berdaulat dan ekologi? Berdasarkan sokongan saya terhadap syarikat besar selama enam tahun, objektifnya adalah untuk menentukan model ekonomi, memahami tujuannya, dan menentukan cara menghormati prinsip tertentu untuk memastikan keuntungan penggunaan ini." Beliau juga menegaskan bahawa penyimpanan besar-besaran data, foto dan video melibatkan penggunaan tenaga yang ketara. Jadi, katanya, cabarannya ialah mencari model yang betul dan menggunakan teknologi dengan bijak.

Pengurusan data La Redoute

Julie Hadengue menyerlahkan beberapa batasan AI dengan menyatakan: “AI bergantung sepenuhnya kepada data; ini menimbulkan persoalan penting tentang evolusi masyarakat, pengumpulan, keselamatan dan penggunaan data”. Banyak isu timbul, seperti tempat data diletakkan, cara ia disimpan, siapa yang mempunyai akses kepadanya, tadbir urus data ini dan sejauh mana kita boleh menjejaki respons yang dijana oleh AI. Mengenai pendekatan "AI terbuka" di La Redoute, keputusannya adalah kategorikal: menolak sebarang penyelesaian yang tidak menjamin keselamatan data, kerana mendedahkan maklumat pelanggan pada rangkaian terbuka tidak mungkin."

Had AI di Biogen

David Jeanne mengetengahkan isu utama: “Walaupun keselamatan data kesihatan adalah subjek penting, kebimbangan utama kami terletak pada kebolehpercayaan. Sebelum alat berasaskan AI diiktiraf sebagai peranti perubatan, adalah penting bagi kita untuk memastikan fungsi dalaman "kotak hitam" ini. Ketekalan diagnosis adalah penting: diagnosis yang dibuat pada satu masa mestilah sama enam bulan kemudian, dengan data, gejala dan pemerhatian yang sama. Prinsip kebolehulangan dan kebolehulangan ini adalah asas dalam bidang saintifik."

Tanggapan tanggungjawab di Greenflex

Laure Blondel dari Greenflex menyerlahkan tanggapan tanggungjawab dengan mengisytiharkan: "Kami sering bercakap tentang kesan alam sekitar, tetapi, dalam petikan, ia tidak penting berbanding dengan kesan penggunaan AI." Dia menyerlahkan tekanan yang semakin meningkat ke atas sumber planet, dengan menyatakan bahawa had kritikal baru-baru ini telah dilalui. Dalam konteks ini, beliau menekankan keperluan untuk mengambil makanan dengan cara yang lebih bijak dan bertanggungjawab, menyokong pendekatan "kurang, tetapi lebih baik". 

Pengesahan data di La Redoute 

Julie Hadengue menggariskan kepentingan pengesahan dengan menyatakan: “Kami menggunakan prinsip asas: menggunakan beberapa sumber. Kami menganggap bahawa tiga keputusan berbeza diperlukan untuk meyakinkan dan mengesahkan atau menafikan fakta yang dilaporkan oleh AI”. Dia kemudian menggambarkan pendekatan ini dengan memetik contoh chatbot, menyatakan bahawa semua respons yang dihasilkan oleh AI disahkan dengan teliti sebelum dihantar kepada pelanggan.

Fokus pada masa perbincangan dengan peserta

Soalan #1: “Jika perlu pergi ke belakang AI untuk vmenggembirakan kerja, apa gunanya?" 

  • Julie Hadengue mengimbas kembali bahawa "kita berada dalam era transformasi di mana AI masih menjadi kotak hitam". Di La Redoute, terdapat kerja untuk menjamin kerelevanan AI. 
  • David Jeanne dari Biogen memberikan penjelasan tentang tanggapan kawalan ini sebelum data dibentangkan kepada pelanggan: “Dalam pasukan saya, dalam UX, kami menggunakan AI sebagai rakan sekerja tambahan. Kami tidak menganggap hasil AI sebagai sesuatu yang pasti.”

Foto oleh Anton, Pereka Produk di UX Republic

Soalan #2: “Adakah terdapat perkara yang boleh anda bantu kami? berkongsi tentang AI "boleh dijelaskan", terutamanya dalam domain perubatan ? Mengenai tanggungjawab, kami mula melakukannya mendengar tentang undang-undang REEN untuk membuat syarikat yang lebih bertanggungjawab di sekitar data. Apa adakah perasaan awak?” 

  • David Jeanne dari Biogen bercakap: "Dalam sains, memastikan apa yang anda lihat adalah bahagian penting." 
  • David Renoux dari Neopixl menambah tentang data yang digunakan: “Apabila kita bercakap tentang penggunaan data, kita terus memikirkan data peribadi. Pada hakikatnya, saya mendapati bahawa AI membolehkan kita mendamaikan orang lain selain daripada pengguna: lpemantauan produk, tamat tempohnya dan banyak contoh lain membolehkan untuk memproses data dengan volum yang lebih besar dan membandingkannya dengan data pengguna yang telah kami miliki. AI akan mengeksploitasinya secara berbeza dan pergi lebih jauh dalam ramalan dan analisis”. 

Soalan #3: “Mengenai AI yang disebutkan, adakah mereka alat yang anda sedang bangunkan vatau adakah ia penyelesaian luaran?” 

  • Julie Hadengue membalas: "Di La Redoute, bergantung pada kematangan penyelidikan kami, kami sama ada menggunakan penyelesaian pihak ketiga atau kami membangunkan algoritma kami sendiri secara dalaman." 

>> Cari artikel lain dari UX-Conf di sini

 

 

Alexa Cuellar, Pereka UX di UX-Republic