Microsoft telah mengesahkan larangannya terhadap jabatan polis AS daripada menggunakan AI generatif untuk pengenalan wajah melalui Azure OpenAI Service, perkhidmatan yang diperuntukkan sepenuhnya diuruskan oleh perusahaan, berpusat pada teknologi OpenAI.

Bahasa yang ditambah pada hari Rabu ke dalam terma perkhidmatan untuk Azure OpenAI Service dengan lebih jelas melarang integrasi dengan Azure OpenAI Service daripada digunakan oleh atau untuk jabatan polis untuk pengenalan wajah di AS, termasuk integrasi dengan model analisis imej OpenAI yang sedia ada — dan mungkin akan datang.

Sepuntak ayat baru membincangkan "mana-mana penguatkuasa undang-undang di seluruh dunia," dan secara eksplisit melarang penggunaan "teknologi pengenalan wajah secara langsung" pada kamera mudah alih, seperti kamera badan dan kamera papan pemuka, untuk cuba mengenal pasti seseorang dalam persekitaran "liar, tidak terkawal."

Perubahan dalam dasar datang seminggu selepas Axon, pembuat produk teknologi dan senjata untuk ketenteraan dan penguatkuasa undang-undang, mengumumkan produk baru yang menggunakan model teks generatif GPT-4 OpenAI untuk merangkum audio dari kamera badan. Kritikus dengan cepat menunjukkan bahaya kemungkinan, seperti halusinasi (malah model AI generatif terbaik hari ini mencipta fakta-fakta) dan prasangka berdasarkan data latihan (yang amat mengkhawatirkan kerana orang berkulit berwarna jauh lebih cenderung dihentikan oleh polis daripada rakan sejawat mereka yang berkulit putih).

Tidak jelas sama ada Axon menggunakan GPT-4 melalui Azure OpenAI Service, dan, jika ya, sama ada dasar yang dikemaskini adalah sebagai tindak balas terhadap pelancaran produk Axon. OpenAI sebelum ini telah menghadkan penggunaan modelnya untuk pengenalan wajah melalui API-nya. Kami telah menghubungi Axon, Microsoft dan OpenAI dan akan mengemaskini pos ini jika kami menerima maklum balas.

Terma-terma baru membenarkan ruang yang cukup bagi Microsoft.

Larangan penuh terhadap penggunaan Azure OpenAI Service hanya berkaitan dengan jabatan polis di AS, bukan di peringkat antarabangsa, dan tidak termasuk pengenalan wajah yang dilakukan dengan kamera bergerak di persekitaran terkawal, seperti pejabat belakang (walaupun terma-terma melarang penggunaan pengenalan wajah oleh polis AS).

Itu selaras dengan pendekatan Microsoft dan rakan rapat OpenAI yang terkini terhadap kontrak berkaitan AI dalam penguatkuasaan undang-undang dan pertahanan.

Pada Januari, laporan oleh Bloomberg mendedahkan bahawa OpenAI sedang bekerjasama dengan Pentagon dalam beberapa projek termasuk keupayaan siber — satu pertukaran daripada larangan sebelumnya syarikat permulaan terhadap penyediaan AI kepada tentera. Di tempat lain, Microsoft telah mencadangkan penggunaan alat penghasilan imej OpenAI, DALL-E, untuk membantu Jabatan Pertahanan (DoD) membina perisian untuk melaksanakan operasi tentera, menurut The Intercept.

Azure OpenAI Service telah tersedia dalam produk Azure Government Microsoft pada bulan Februari, menambah ciri-ciri pematuhan dan pengurusan tambahan yang tertumpu kepada agensi kerajaan, termasuk penguatkuasa undang-undang. Dalam catatan blog, Candice Ling, SVP bahagian kerajaan Microsoft Federal, berjanji bahawa Azure OpenAI Service akan "dikemukakan untuk kelulusan tambahan" kepada DoD untuk beban kerja yang menyokong misi DoD.

Kemaskini: Selepas penerbitan, Microsoft mengatakan perubahan asal kepada terma perkhidmatan mengandungi ralat, dan sebenarnya larangan tersebut hanya terhadap pengenalan wajah di AS. Ini bukan larangan segera terhadap jabatan polis menggunakan perkhidmatan itu.