Artikel ini menjejaki semula meja bulat “Perniagaan dan masyarakat: tempat manakah untuk manusia dalam revolusi AI?”, yang dianjurkan pada 19 September 2023 di Paris semasa edisi pertama UX-Conf – Human First. Dikendali oleh Clément Fages, wartawan digital, meja bulat pertama ini menghimpunkan lima penceramah:

• David Jeanne, Reka Bentuk Pengalaman Ketua di Biogen
• Julie Hadengue, Ketua Reka Bentuk di La Redoute
• Magali Vaissiere, Pengarah pemasaran dan digital e-dagang dalam Kumpulan Kasino
• Laure Blondel, Pengarah Perundingan Jenama, Produk dan Pengguna Pengurus di GreenFlex
• David Renoux, Pengarah Urusan di neopixl

Tema dan isu yang dibincangkan

• Persoalan etika dan kesan AI terhadap syarikat, pengguna, pekerja 
• Persoalan AI yang bertanggungjawab: Clément Fages menyebut artikel itu “Mengapa ChatGPT adalah a bom alam sekitar” (OBS). 
• Bagaimanakah AI boleh digunakan untuk mengoptimumkan masyarakat kita? 
• Apakah had AI? 

AI dibentangkan sebagai topik hangat pada masa ini dan digambarkan sebagai "masa depan teknologi digital yang akan memberi kesan kepada masyarakat kita". 

Penggunaan AI dalam syarikat pembesar suara

Penggunaan AI di Neopixl

David Renoux menjelaskan bahawa beliau menggunakan AI pada aplikasi mudah alih dalam sektor tenaga dan runcit: “Ia bertujuan untuk pekerja tetapi juga untuk pengedar.” AI juga digunakan dalam pemprosesan imej untuk mencari produk, untuk foto dan untuk menganalisis wajah.

Penggunaan pengecaman visual di La Redoute 

Julie Hadengue menjelaskan: “Di La Redoute, kami mempunyai keupayaan untuk menganalisis imej dan juga menentukan kategori mana ia termasuk, walaupun ia tidak semestinya dirujuk oleh atribut tertentu. Contohnya, jika anda mencari 'permaidani bilik mandi,' hasilnya sudah tentu akan lebih tertumpu pada permaidani bilik mandi. Kami juga menganalisis semua ulasan pelanggan untuk mencari corak yang betul . Jika seseorang menyebut 'sofa selesa,' perkataan 'selesa' tidak semestinya dikenal pasti, dan kami akan dapat menentukan sama ada ia ulasan positif atau negatif. Kami juga telah melancarkan ciri inspirasi: ini bermakna kami akan mencadangkan idea yang telah dipilih secara automatik.”

Penggunaan AI di Kasino 

Magali Vaissière menjelaskan: “Pertama, kami menggunakan AI untuk meningkatkan pengalaman pelanggan dengan menawarkan produk dan promosi yang lebih diperibadikan. Sebelum ini, kami bergantung pada algoritma yang sebahagian besarnya ditakrifkan oleh manusia. Kini, kami boleh merujuk silang profil pembeli dan memberikan cadangan terbaik untuk setiap pengguna. Kami juga telah membangunkan algoritma pembelajaran kendiri yang membolehkan kami mencadangkan produk alternatif kepada pelanggan jika sesuatu produk kehabisan stok.” Beliau menambah bahawa alternatif ini diterima oleh pengguna dalam 90% kes.

Di Biogen: meningkatkan kecerdasan manusia melalui AI

David Jeanne memperkenalkan skop penggunaan AI dalam bidang perubatan di Biogen: skop yang membolehkan peningkatan kecerdasan manusia melalui AI. “Di Biogen, kami mengusahakan penyakit neurologi dan AI membantu kami mengesannya dengan lebih cepat, terutamanya melalui pengimejan. Contohnya, hari ini kami dapat mengesan lesi otak dengan MRI seefektif imbasan PET, yang jauh lebih mahal dan jauh lebih invasif. Kami juga bekerjasama dengan AI untuk menawarkan doktor pencatatan nota automatik. AI mampu mengenal pasti diagnosis, menjana protokol klinikal dan mula meramalkan keseluruhan perjalanan pesakit: ini merupakan kemajuan besar untuk perubatan!”

Giliran Laure Blondel bercakap mengenai perkara ini.

Laure Blondel menjelaskan bahawa GreenFlex belum lagi menggunakan AI. Walau bagaimanapun, beliau merupakan sebahagian daripada pasukan yang mengkaji potensinya. Beliau menasihati syarikat dan organisasi tentang cara mengurangkan impak mereka melalui pilihan penggunaan yang lebih bertanggungjawab: “Sebagai agensi perunding, kami bekerjasama dengan syarikat dan organisasi mengenai isu pembangunan lestari . Kami mengkaji jangkaan pengguna untuk menasihati syarikat dan organisasi tentang cara mengenal pasti keperluan mereka dari segi penggunaan yang bertanggungjawab. Kami telah mengusahakan barometer penggunaan yang bertanggungjawab dan dengan ADEME (Agensi Peralihan Ekologi Perancis) selama hampir 20 tahun. Melalui penyelidikan kami, kami dapat melihat bahawa pengguna sedang menjalin hubungan antara penggunaan mereka dan masa depan planet ini. Mereka sedang menjalin hubungan ini dan memerlukan sokongan. Adalah penting bagi syarikat dan jenama untuk menyokong mereka dalam bidang ini. Jadi, mengapa tidak menggunakan kecerdasan buatan untuk membantu mereka?”

Sebagai kesimpulan bahagian pertama ini

Clément Fages menyimpulkan bahagian pertama ini dengan menyebut video yang disyorkan oleh David Jeanne: “The Selfish Ledger ,” sebuah video dalaman Google yang bocor pada tahun 2018: “Pendek kata, video ini mendedahkan potensi AI untuk berkembang ke arah pengurusan keputusan yang komprehensif bagi meningkatkan fungsi keseluruhan masyarakat kita. Pada masa yang sama, ia mengetengahkan keupayaan AI, pada peringkat individu, untuk membimbing kita dalam setiap pilihan yang kita buat pada peranti mudah alih kita atau dalam persekitaran digital kita. Contohnya, ia boleh mencadangkan: “Pernahkah anda mempertimbangkan untuk memilih Uber Pool dan bukannya Uber?”

Foto oleh Vincent Bernard, Pemilik Produk di UX Republic 

Penggunaan AI: projek dan had

Melawan sisa makanan di Kasino menggunakan AI 

Clément Fages mempersoalkan Magalie Vaissiere tentang kemungkinan menggunakan AI untuk menguruskan produk awal dengan berkesan dan dengan itu mengurangkan pembaziran. Beliau menekankan bahawa inisiatif ini boleh memberi impak yang besar kepada semua kedai, menggalakkan pengguna untuk mengamalkan tingkah laku yang lebih bertanggungjawab. Clément tertanya-tanya sama ada subjek ini adalah sebahagian daripada keutamaan semasa kumpulan.

Magalie Vaissiere menjawab: “Sememangnya, AI memainkan peranan penting dalam mengesan kematangan buah-buahan dan sayur-sayuran kita, dengan ketara meningkatkan pengurusan pesanan, penambahan dan stok. Kami kini dalam fasa pendigitalan proses ini, dengan mengambil kira tingkah laku pengguna. Ini bertujuan untuk menggalakkan pilihan yang sihat dan diet seimbang, sambil meningkatkan kesedaran tentang tenaga dan aspek alam sekitar. Cabaran pertama adalah untuk memperoleh data ini, kemudian menyimpan dan memprosesnya dengan cara yang menjadikannya boleh digunakan oleh AI, sambil menjadikannya mudah difahami oleh pekerja kami."

Dia menggambarkan maksudnya dengan contoh konkrit di Kasino: "Dalam pendekatan kami, AI membolehkan kami menawarkan menu yang menghormati skor nutri, jejak karbon, sambil mengambil kira bajet pelanggan, sekali gus menawarkan jenaka pengalaman."

Penggunaan AI yang "bertanggungjawab" di Neopixl

Clément Fages menemu bual David Renoux dari Neopixl tentang pendekatan bertanggungjawab terhadap penggunaan AI dalam syarikat dan organisasi. David Renoux membalas. “AI menawarkan kami kemungkinan yang luar biasa, membawa aspek bertanggungjawab sebenar bergantung pada objektif yang ingin kami capai. Walau bagaimanapun, adalah penting untuk bertanya soalan berikut: adakah ia selamat, berdaulat dan ekologi? Berdasarkan sokongan saya terhadap syarikat besar selama enam tahun, objektifnya adalah untuk menentukan model ekonomi, memahami tujuannya, dan menentukan cara menghormati prinsip tertentu untuk memastikan keuntungan penggunaan ini." Beliau juga menegaskan bahawa penyimpanan besar-besaran data, foto dan video melibatkan penggunaan tenaga yang ketara. Jadi, katanya, cabarannya ialah mencari model yang betul dan menggunakan teknologi dengan bijak.

Pengurusan data La Redoute

Julie Hadengue menyerlahkan beberapa batasan AI dengan menyatakan: “AI bergantung sepenuhnya kepada data; ini menimbulkan persoalan penting tentang evolusi masyarakat, pengumpulan, keselamatan dan penggunaan data”. Banyak isu timbul, seperti tempat data diletakkan, cara ia disimpan, siapa yang mempunyai akses kepadanya, tadbir urus data ini dan sejauh mana kita boleh menjejaki respons yang dijana oleh AI. Mengenai pendekatan "AI terbuka" di La Redoute, keputusannya adalah kategorikal: menolak sebarang penyelesaian yang tidak menjamin keselamatan data, kerana mendedahkan maklumat pelanggan pada rangkaian terbuka tidak mungkin."

Had AI di Biogen

David Jeanne mengetengahkan isu utama: “Walaupun keselamatan data kesihatan adalah subjek penting, kebimbangan utama kami terletak pada kebolehpercayaan. Sebelum alat berasaskan AI diiktiraf sebagai peranti perubatan, adalah penting bagi kita untuk memastikan fungsi dalaman "kotak hitam" ini. Ketekalan diagnosis adalah penting: diagnosis yang dibuat pada satu masa mestilah sama enam bulan kemudian, dengan data, gejala dan pemerhatian yang sama. Prinsip kebolehulangan dan kebolehulangan ini adalah asas dalam bidang saintifik."

Tanggapan tanggungjawab di Greenflex

Laure Blondel dari Greenflex menyerlahkan tanggapan tanggungjawab dengan mengisytiharkan: "Kami sering bercakap tentang kesan alam sekitar, tetapi, dalam petikan, ia tidak penting berbanding dengan kesan penggunaan AI." Dia menyerlahkan tekanan yang semakin meningkat ke atas sumber planet, dengan menyatakan bahawa had kritikal baru-baru ini telah dilalui. Dalam konteks ini, beliau menekankan keperluan untuk mengambil makanan dengan cara yang lebih bijak dan bertanggungjawab, menyokong pendekatan "kurang, tetapi lebih baik". 

Pengesahan data di La Redoute 

Julie Hadengue menggariskan kepentingan pengesahan dengan menyatakan: “Kami menggunakan prinsip asas: menggunakan beberapa sumber. Kami menganggap bahawa tiga keputusan berbeza diperlukan untuk meyakinkan dan mengesahkan atau menafikan fakta yang dilaporkan oleh AI”. Dia kemudian menggambarkan pendekatan ini dengan memetik contoh chatbot, menyatakan bahawa semua respons yang dihasilkan oleh AI disahkan dengan teliti sebelum dihantar kepada pelanggan.

Fokus pada masa perbincangan dengan peserta

Soalan #1: “Jika perlu pergi ke belakang AI untuk mengesahkan kerja, apakah gunanya?”

• Julie Hadengue mengimbas kembali bahawa "kita berada dalam era transformasi di mana AI masih menjadi kotak hitam". Di La Redoute, terdapat kerja untuk menjamin kerelevanan AI. 
• David Jeanne dari Biogen memberikan penjelasan tentang tanggapan kawalan ini sebelum data dibentangkan kepada pelanggan: “Dalam pasukan saya, dalam UX, kami menggunakan AI sebagai rakan sekerja tambahan. Kami tidak menganggap hasil AI sebagai sesuatu yang pasti.”

Foto oleh Anton, Pereka Produk di UX Republic

Soalan #2: “Adakah terdapat perkara yang boleh anda kongsikan dengan kami tentang AI yang “boleh dijelaskan”, terutamanya dalam bidang perubatan? Berkenaan tanggungjawab, kami mula mendengar tentang undang-undang REEN untuk menjadikan syarikat lebih bertanggungjawab terhadap data. Apakah pendapat anda tentang perkara ini?”

• David Jeanne dari Biogen bercakap: "Dalam sains, memastikan apa yang anda lihat adalah bahagian penting." 
• David Renoux dari Neopixl menambah tentang data yang digunakan: “Apabila kita bercakap tentang penggunaan data, kita terus memikirkan data peribadi. Pada hakikatnya, saya mendapati bahawa AI membolehkan kita mendamaikan orang lain selain daripada pengguna: lpemantauan produk, tamat tempohnya dan banyak contoh lain membolehkan untuk memproses data dengan volum yang lebih besar dan membandingkannya dengan data pengguna yang telah kami miliki. AI akan mengeksploitasinya secara berbeza dan pergi lebih jauh dalam ramalan dan analisis”. 

Soalan #3: “Berkenaan AI yang dinyatakan, adakah ia alat yang anda bangunkan sendiri atau adakah ia penyelesaian luaran?”

• Julie Hadengue membalas: "Di La Redoute, bergantung pada kematangan penyelidikan kami, kami sama ada menggunakan penyelesaian pihak ketiga atau kami membangunkan algoritma kami sendiri secara dalaman." 

>> Dapatkan lebih banyak artikel daripada UX-Conf di sini

 

 

Alexa Cuellar , Pereka UX di UX-Republic