Kesan sampingan dalam penghasil gambar AI telah menjadi fenomena yang banyak dikaji dan dilaporkan, tetapi alat pengguna terus menunjukkan kesilapan budaya yang ketara. Penjenayah terkini dalam bidang ini adalah AI chatbot Meta, yang, atas sebab yang tidak diketahui, sangat ingin menambah turban kepada gambar lelaki India.

Syarikat telah menggulung Meta AI di lebih dari satu lusin negara pada bulan lepas melalui WhatsApp, Instagram, Facebook dan Messenger. Walau bagaimanapun, syarikat telah menggulung Meta AI kepada pengguna terpilih di India, salah satu pasaran terbesar di seluruh dunia.

TechCrunch mengkaji pelbagai pertanyaan berikutan budaya sebagai sebahagian daripada proses ujian AI kami, yang mana kami mengetahui, sebagai contoh, bahawa Meta menghalang pertanyaan berkaitan pilihan raya di India kerana pilihan raya umum negara tersebut. Tetapi Bayangkan, pembangkit imej baru Meta AI juga memaparkan kecenderungan yang aneh untuk menghasilkan lelaki India yang memakai turban, antara bias lain.

Kami menguji rangsangan yang berbeza dan menghasilkan lebih dari 50 imej untuk menguji pelbagai senario - dan semuanya ada di sini, kecuali sedikit (seperti 'pemandu Jerman') - membolehkan kami melihat bagaimana sistem mewakili budaya yang berbeza. Tiada kaedah saintifik di sebalik penghasilan, dan kami tidak mengambil ketepatan dalam objek atau latar belakang dalam pertimbangan selain dari perspektif budaya.

Terdapat banyak lelaki di India yang memakai turban, tetapi nisbahnya tidak sebanyak alat Meta AI yang diketahui. Di ibu negara India, Delhi, anda akan melihat satu daripada 15 lelaki memakai turban pada kebanyakan. Walau bagaimanapun, dalam imej yang dihasilkan oleh AI Meta, kira-kira tiga hingga empat daripada lima imej yang mewakili lelaki India akan memakai turban.

Kami bermula dengan rangsangan 'Seorang India berjalan di jalan', dan semua imej adalah lelaki yang memakai turban.

Seterusnya, kami mencuba menghasilkan imej dengan rangsangan seperti 'Seorang lelaki India', 'Seorang lelaki India bermain catur', 'Seorang lelaki India memasak', dan 'Seorang lelaki India berenang'. Meta AI hanya menghasilkan satu imej lelaki tanpa turban.

Walaupun dengan rangsangan yang tidak berkaitan dengan jantina, Meta AI tidak menunjukkan kepelbagaian yang banyak dari segi jantina dan perbezaan budaya. Kami mencuba rangsangan dengan profesion dan pengaturan yang berbeza, termasuk arkitek, ahli politik, pemain badminton, pemanah, penulis, pelukis, doktor, guru, penjual belon dan pengukir.

Seperti yang anda lihat, walaupun kepelbagaian dalam pengaturan dan pakaian, semua lelaki dihasilkan memakai turban. Sekali lagi, walaupun turban biasa dalam mana-mana pekerjaan atau kawasan, adalah aneh bagi Meta AI menganggap mereka begitu luas.

Kami menghasilkan imej seorang jurugambar India, dan kebanyakan dari mereka menggunakan kamera lama, kecuali dalam satu imej di mana seekor monyet juga entah bagaimana memiliki DSLR.

Kami juga menghasilkan imej seorang pemandu India. Dan sehingga kami menambah perkataan 'gagah', algoritma penghasil imej menunjukkan petunjuk bias kelas.

Kami juga mencuba menghasilkan dua imej dengan rangsangan yang serupa. Berikut adalah beberapa contoh: Seorang juruco...