Untuk memberikan pengiktirafan yang layak kepada wanita akademik yang memberi tumpuan kepada AI dan yang sudah lama dijangka, TechCrunch telah menerbitkan siri temu ramah yang memberi tumpuan kepada wanita yang luar biasa yang telah menyumbang kepada revolusi AI. Kami menerbitkan bahagian-bahagian ini sepanjang tahun kerana AI terus berkembang, menekankan kerja penting yang sering tidak diiktiraf. Baca lebih banyak profil di sini.
Mengenai Allison Cohen, pengurus projek AI terapan utama di Mila, sebuah komuniti berpusat di Quebec yang terdiri daripada lebih dari 1,200 penyelidik yang mengkhususkan diri dalam AI dan pembelajaran mesin. Beliau bekerjasama dengan penyelidik, saintis sosial, dan rakan-rakan luar untuk melaksanakan projek-projek AI yang memberi manfaat sosial. Portfolionya termasuk alat pendeteksi misogini, aplikasi untuk mengenalpasti aktiviti dalam talian dari mangsa perdagangan manusia yang disyaki, dan aplikasi pertanian untuk mengesyorkan amalan pertanian lestari di Rwanda.
Sebelum ini, Cohen adalah co-lead dalam penemuan dadah AI di Global Partnership on Artificial Intelligence, sebuah organisasi untuk membimbing pembangunan dan penggunaan AI yang bertanggungjawab. Beliau juga pernah menjadi perunding strategi AI di Deloitte dan perunding projek di Pusat Dasar Digital Antarabangsa, sebuah institut pemikir bebas Kanada.
Soalan dan Jawapan
Secara ringkas, bagaimana awal anda di bidang AI? Apa yang menarik anda kepada bidang ini?
Penemuan bahawa kita boleh memodelkan matematik segala-galanya dari mengenal pasti wajah hingga berunding perjanjian perdagangan telah mengubah cara saya melihat dunia, itulah yang membuat AI begitu menarik bagi saya. Ironinya, kini apabila saya bekerja dalam AI, saya melihat bahawa kita tidak — dan dalam banyak kes harus — menangkap jenis fenomena ini dengan algoritma.
Saya diperkenalkan kepada bidang ini semasa saya menamatkan ijazah sarjana di hal ehwal global di Universiti Toronto. Program itu direka untuk mengajar pelajar menavigasi sistem-sistem yang mempengaruhi perintah dunia — segala-galanya dari makroekonomi hingga undang-undang antarabangsa hingga psikologi manusia. Namun, semakin saya belajar tentang AI, saya sedar betapa pentingnya ia akan menjadi kepada politik dunia, dan betapa pentingnya saya untuk mengedukasi diri saya tentang topik tersebut.
Apa yang membolehkan saya memasuki bidang ini adalah pertandingan penulisan esei. Untuk pertandingan itu, saya menulis kertas yang menerangkan bagaimana dadah psikedelik akan membantu manusia tetap bersaing dalam pasaran buruh yang dipenuhi dengan AI, yang memenuhi syarat saya untuk menghadiri Simposium St. Gallen pada tahun 2018 (ia adalah karya penulisan kreatif). Jemputan saya, dan penyertaan saya dalam acara tersebut, memberi saya keyakinan untuk terus mengejar minat saya dalam bidang ini.
Kerja mana yang anda paling berbangga dalam bidang AI?
Salah satu projek yang saya urus melibatkan membina dataset yang mengandungi contoh-contoh ekspresi bias yang halus dan jelas terhadap wanita.
Untuk projek ini, penyusunan kakitangan dan pengurusan pasukan multidisiplin pakar pemprosesan bahasa semula jadi, ahli linguistik, dan pakar studi gender sepanjang kitaran projek adalah penting. Ini adalah sesuatu yang membuat saya sangat berbangga. Saya belajar dengan pengalaman sendiri mengapa proses ini adalah fundamental dalam membina aplikasi yang bertanggungjawab, dan juga mengapa dalam banyak kes ia tidak dilakukan cukup — ia adalah kerja keras! Jika anda boleh menyokong setiap pihak berkepentingan ini dalam berkomunikasi secara efektif merentasi disiplin, anda boleh memudahkan kerja yang menggabungkan tradisi-tradisi yang berusia berdekad-dekad dari sains sosial dan kecanggihan pembangunan dalam sains komputer.
Saya juga bangga bahawa projek ini diterima dengan baik oleh komuniti. Salah satu kertas kami mendapat pengiktirafan sorotan dalam bengkel pemodelan bahasa yang bertanggungjawab secara sosial di salah satu konferens AI utama, NeurIPS. Selain itu, kerja ini mengilhami satu proses antarabangsa serupa yang dikendalikan oleh AI Sweden, yang menyesuaikan kerja tersebut agar sesuai dengan konsep dan ekspresi misogini dalam masyarakat Sweden.
Bagaimana anda menavigasi cabaran industri teknologi yang didominasi oleh lelaki dan, dengan melanjutkan, industri AI yang didominasi oleh lelaki?
Sungguh malang bahawa dalam industri yang begitu berkemajuan, kita masih melihat dinamika gender yang bermasalah. Ia tidak hanya memberi kesan buruk kepada wanita — kita semua kalah. Saya agak terinspirasi oleh konsep yang dipanggil "teori pandangan feminis" yang saya pelajari dalam buku Sasha Costanza-Chock, "Design Justice."
Teori tersebut mendakwa bahawa komuniti yang terpinggirkan, yang pengetahuan dan pengalaman mereka tidak mendapat manfaat yang sama seperti orang lain, mempunyai kesedaran dunia yang boleh membawa perubahan yang adil dan inklusif. Tentu saja, tidak semua komuniti yang terpinggir sama, begitu juga pengalaman individu dalam komuniti tersebut.
Dengan itu, pelbagai pandangan dari kumpulan-kumpulan ini penting dalam membantu kita menavigasi, mencabar, dan membongkar pelbagai cabaran struktur dan ketidakadilan. Itulah sebabnya kegagalan untuk melibatkan wanita boleh menjadikan bidang AI eksklusif bagi sebahagian besar populasi, mengukuhkan dinamika kuasa di luar bidang tersebut juga.
Dari segi bagaimana saya mengendalikan industri yang didominasi oleh lelaki, saya dapati rakan sebaya sangat penting. Rakan-rakan ini adalah produk daripada hubungan yang kukuh dan saling percaya. Sebagai contoh, saya sangat bertuah memiliki kawan seperti Peter Kurzwelly, yang telah berkongsi kepakaran dalam podcasting untuk menyokong saya dalam penciptaan podcast yang dihasilkan dan berpusat pada wanita yang dipanggil "The World We’re Building." Podcast ini membolehkan kita meninggikan kerja lebih ramai wanita dan individu non-biner dalam bidang AI.
Apa nasihat yang anda beri kepada wanita yang ingin memasuki bidang AI?
Cari satu pintu terbuka. Ia tidak perlu dibayar, tidak perlu menjadi kerjaya dan ia juga tidak perlu seiring dengan latar belakang atau pengalaman anda. Jika anda dapat menemui pintu masuk, anda boleh menggunakannya untuk mengasah suara anda dalam ruang tersebut dan membina dari situ. Jika anda menjadi sukarelawan, berikan sepenuhnya — ia akan membolehkan anda menonjol dan mudah-mudahan mendapat bayaran untuk kerja anda secepat mungkin.
Ketika saya kehilangan pekerjaan saya semasa pandemik dan pengangguran mencapai puncaknya di Canada, sangat sedikit syarikat yang mencari bakat AI, dan yang sedang mencari pekerjaan tidak mencari pelajar hal ehwal global dengan pengalaman delapan bulan dalam perundingan. Sementara saya memohon pekerjaan, saya mula menjadi sukarelawan dengan sebuah organisasi etika AI.
Salah satu projek yang saya kerjakan semasa menjadi sukarelawan adalah tentang adakah perlu perlindungan hak cipta bagi seni yang dihasilkan oleh AI. Saya menghubungi seorang peguam di sebuah firma undang-undang AI Kanada untuk lebih memahami ruang ini. Beliau menghubungi saya dengan seseorang di CIFAR, yang menghubungi saya dengan Benjamin Prud’homme, pengarah eksekutif Pasukan AI Mila untuk Manusia. Sungguh menakjubkan untuk berfikir bahawa melalui satu siri pertukaran mengenai seni AI, saya belajar tentang peluang kerjaya yang sejak itu telah mengubah hidup saya.
Apa beberapa isu yang paling mendesak yang dihadapi AI ketika ia berkembang?
Saya mempunyai tiga jawapan untuk soalan ini yang agak berkaitan. Saya rasa kita perlu memahami:
- Bagaimana merangkumi hakikat bahawa AI dibina untuk ditingkatkan sambil memastikan bahawa alat-alat yang kita bina disesuaikan untuk memenuhi pengetahuan, pengalaman, dan keperluan tempatan.
- Jika kita hendak membangunkan alat-alat yang disesuaikan dengan konteks tempatan, kita perlu melibatkan ahli antropologi dan sosiologi dalam proses reka bentuk AI. Tetapi terdapat banyak struktur insentif dan halangan lain yang menghalang kerjasama antara disiplin yang bermakna. Bagaimanakah kita boleh mengatasi ini?
- Bagaimana kita boleh mempengaruhi proses reka bentuk dengan lebih mendalam daripada hanya menggabungkan kepakaran multidisiplin? Khususnya, bagaimana kita boleh mengubah struktur insentif supaya kita merekabentuk alat-alat yang dibina untuk mereka yang paling memerlukan dengan segera bukan bagi mereka yang data atau perniagaannya paling menguntungkan?
Apa beberapa isu yang pengguna AI perlu waspada?
Eksploitasi buruh adalah salah satu isu yang saya rasa tidak mendapat liputan yang mencukupi. Terdapat banyak model AI yang belajar dari data berlabel menggunakan kaedah pembelajaran bersepadu. Apabila model bergantung kepada data yang diberi label, terdapat orang yang harus melakukan pengepalaian ini (iaitu, seseorang menambah label “kucing” kepada imej kucing). Orang-orang ini (pemarkir) sering menjadi mangsa amalan eksploitasi. Untuk model-model yang tidak memerlukan data diberi label semasa proses latihan (seperti yang berlaku dalam sesetengah AI generatif dan model-model asas lain), dataset masih boleh dibina secara eksploitatif kerana pembangun seringkali tidak mendapatkan kebenaran, memberi pampasan atau penghargaan kepada pencipta data.
Saya akan mengesyorkan anda melihat kerja Krystal Kauffman, yang saya begembira melihatnya dijadikan tumpuan dalam siri TechCrunch ini. Beliau membuat kemajuan dalam menyokong hak-hak buruh pemarkir, termasuk gaji yang mencukupi, akhir kepada amalan penolakan massal, dan amalan penglibatan yang selaras dengan hak asasi manusia asas (sebagai tindak balas terhadap perkembangan seperti pengawasan yang menjejaskan).
Apa cara terbaik untuk membangunkan AI secara bertanggungjawab?
Orang sering mencari prinsip AI etika untuk mendakwa bahawa teknologi mereka adalah bertanggungjawab. Malangnya, refleksi etika hanya boleh bermula setelah sejumlah keputusan telah dibuat, termasuk tetapi tidak terhad kepada:
- Apa yang anda bina?
- Bagaimana anda membina?
- Bagaimana ia akan dilaksanakan?
Jika anda menunggu sehingga selepas keputusan-keputusan ini dibuat, anda akan telah terlepas peluang besar untuk membina teknologi yang bertanggungjawab.
Menurut pengalaman saya, cara terbaik untuk membina AI yang bertanggungjawab adalah menyedari — dari peringkat awal proses anda — bagaimana masalah anda ditakrifkan dan siapa yang kepentingannya dipertimbangkan; bagaimana orientasi itu menyokong atau mencabar dinamika kuasa sedia ada; dan komuniti mana yang akan diberdayakan atau dibezakan melalui penggunaan AI tersebut.
Jika anda ingin mencipta penyelesaian yang bermakna, anda harus menavigasi sistem kuasa ini dengan penuh kewaspadaan.
Bagaimanakah pelabur boleh mendorong untuk membangunkan AI secara bertanggungjawab?
Siasat tentang nilai-nilai pasukan. Jika nilai-nilai ditakrifkan, sekurang-kurangnya, sebahagian oleh komuniti tempatan dan terdapat taraf akauntabiliti kepada komuniti tersebut, lebih mungkin bahawa pasukan akan menggabungkan amalan bertanggungjawab.
