Minggu lalu, Meta mula menguji chatbot AI-nya di India melalui WhatsApp, Instagram, dan Messenger. Tetapi dengan pilihan raya umum India yang bermula hari ini, syarikat tersebut sudah menyekat pertanyaan tertentu dalam chatbotnya.

Meta mengesahkan bahawa mereka menyekat kata kunci tertentu berkaitan pilihan raya untuk AI dalam fasa ujian. Mereka juga mengatakan bahawa mereka sedang berusaha untuk meningkatkan sistem respons AI.

“Ini adalah teknologi baru, dan ia tidak sentiasa menghasilkan respons yang kami niatkan, yang sama untuk semua sistem AI generatif. Sejak kami dilancarkan, kami telah mengeluarkan kemas kini dan peningkatan secara berterusan kepada model kami, dan kami terus berusaha untuk menjadikannya lebih baik,” kata jurucakap syarikat kepada TechCrunch.

Langkah ini menjadikan raksasa media sosial itu sebagai syarikat teknologi besar terbaru yang secara proaktif membataskan skop perkhidmatan AI generatifnya ketika mempersiapkan diri untuk satu siri pilihan raya besar.

Salah satu kebimbangan besar dari pihak kritik adalah bahawa GenAI boleh memberikan maklumat yang mengelirukan atau palsu kepada pengguna, memainkan peranan yang haram dan tidak diingini dalam proses demokratik.

Bulan lalu, Google mula menyekat pertanyaan berkaitan pilihan raya dalam pengalaman chatbot Gemini di India dan pasar lain di mana pilihan raya diadakan tahun ini.

Pendekatan Meta mengikuti usaha lebih besar yang diumumkan oleh syarikat dalam hal apa yang dibenarkan dan tidak dibenarkan di platformnya menjelang pilihan raya. Mereka berjanji untuk menyekat iklan politik dalam minggu menjelang pilihan raya di mana-mana negara, dan sedang berusaha untuk mengenal pasti dan mendedahkan apabila imej dalam iklan atau kandungan lain telah dicipta dengan AI.

Pengendalian pertanyaan GenAI Meta nampaknya berdasarkan senarai hitam. Apabila anda bertanya kepada Meta AI tentang ahli politik tertentu, calon, pemegang jawatan dan terma lain tertentu, ia akan mengalihkan anda ke laman web Suruhanjaya Pilihan Raya.

“Pertanyaan ini berkaitan dengan tokoh politik semasa pilihan raya umum, sila rujuk pautan https://elections24.eci.gov.in,” kata respons tersebut.

Tidak kurang pentingnya, syarikat tersebut tidak tersusah menyekat respons kepada soalan yang mengandungi nama parti. Walau bagaimanapun, jika pertanyaan merangkumi nama calon atau terma lain, anda mungkin akan melihat jawapan baku seperti yang dinyatakan di atas.

Tetapi seperti sistem yang berkuasa AI lain, Meta AI mempunyai beberapa ketidakkonsistenan. Sebagai contoh, apabila TechCrunch meminta maklumat mengenai “Indi Alliance” - sebuah gabungan politik beberapa parti yang memerangi parti pemerintah Bharatiya Janata Party (BJP) - ia memberi maklumat yang mengandungi nama ahli politik. Walau bagaimanapun, apabila kami bertanya mengenai ahli politik tersebut dalam pertanyaan yang berasingan, chatbot tidak memberikan sebarang maklumat.

Minggu ini, syarikat itu melancarkan chatbot AI Meta yang dikuasakan oleh Llama 3 baru di lebih daripada selusin negara, termasuk Amerika Syarikat, tetapi India tidak tersenarai. Meta mengatakan bahawa chatbot tersebut akan dalam fasa ujian di negara tersebut untuk masa ini.

“Kami terus belajar dari ujian pengguna kami di India. Seperti yang kami lakukan dengan banyak produk dan ciri AI kami, kami mengujinya secara terbuka dalam pelbagai fasa dan dalam kapasiti yang terhad,” kata jurucakap syarikat kepada TechCrunch dalam satu kenyataan.

Pada masa ini, Meta AI tidak menyekat pertanyaan mengenai pilihan raya untuk terma yang berkaitan dengan Amerika Syarikat seperti “Beritahu saya tentang Joe Biden.” Kami telah bertanya kepada Meta sama ada syarikat tersebut merancang untuk menyekat pertanyaan Meta AI semasa pilihan raya di Amerika Syarikat atau di pasaran lain. Kami akan mengemaskini cerita ini jika kami mendapat maklum balas.