SEOUL, Korea Selatan (AP) — Syarikat-syarikat kecerdasan buatan terkemuka membuat satu janji baru dalam satu persidangan mini pada hari Selasa untuk membangun AI dengan selamat, sementara pemimpin dunia bersetuju untuk membina rangkaian institut keselamatan yang disokong secara awam untuk memajukan penyelidikan dan pengujian teknologi itu.

Google, Meta dan OpenAI adalah antara syarikat-syarikat yang membuat komitmen keselamatan secara sukarela di Persidangan AI Seoul, termasuk menarik beberapa dari sistem-sistem paling canggih mereka jika mereka tidak dapat mengawal risiko yang paling ekstrem.

Pertemuan dua hari ini adalah tindak lanjut kepada Persidangan Keselamatan AI pada bulan November di Bletchley Park di United Kingdom, dan datang di tengah-tengah usaha yang pesat oleh kerajaan dan badan-badan global untuk mereka bentuk pagar bagi teknologi itu atas kebimbangan tentang risiko yang ia hadapi terhadap kehidupan seharian dan kemanusiaan.

Pemimpin dari 10 negara dan Kesatuan Eropah akan "membentuk pemahaman yang sama mengenai keselamatan AI dan menyelaraskan kerja mereka dalam penyelidikan AI," kata kerajaan British, yang menjadi tuan rumah acara itu, dalam satu kenyataan. Rangkaian institut keselamatan itu akan termasuk institut yang sudah ditubuhkan oleh UK, AS, Jepun dan Singapura sejak pertemuan di Bletchley itu, kata kenyataan itu.

Ketua UM Antonio Guterres memberitahu sesi pembukaan bahawa tujuh bulan selepas pertemuan Bletchley Park "Kita telah melihat kemajuan teknologi yang mengubah hidup dan risiko baru yang mengancam nyawa — dari disinformasi hingga penyelidikan massal hingga peluang senjata autonomi mematikan."

Ketua UM berkata dalam suatu alamat video bahawa perlu ada pagar-pagar sejagat dan dialog berkala mengenai AI. "Kita tidak boleh mengherdik ke masa depan distopia di mana kuasa AI dikawal oleh beberapa orang — atau lebih teruk, oleh algoritma di luar pemahaman manusia," katanya.

Mistral AI Perancis, Zhipu.ai China, dan G42 dari Emiriah Arab Bersatu. Mereka berjanji untuk memastikan keselamatan model-model AI mereka yang paling maju dengan janji tadbir urus yang bertanggungjawab dan ketelusan awam.

Inilah bukan kali pertama syarikat-syarikat AI membuat komitmen keselamatan secara sukarela yang bersuara tinggi. Amazon, Google, Meta dan Microsoft adalah antara kumpulan yang bergabung tahun lalu kepada langkah-langkah keselamatan yang sukarela yang dimediasi oleh White House untuk memastikan produk mereka selamat sebelum melepaskannya.

Pertemuan Seoul itu datang ketika beberapa syarikat-syarikat itu melancarkan versi terkini model-model AI mereka.

Janji keselamatan itu termasuk menerbitkan kerangka-kerangka yang menentukan bagaimana syarikat-syarikat tersebut akan mengukur risiko model-model mereka. Dalam kes-kes ekstrem di mana risiko itu teruk dan "tidak dapat diterima," syarikat-syarikat AI harus menekan butang pembunuhan dan berhenti membangunkan atau menerapkan model-model dan sistem mereka jika mereka tidak dapat mengurangkan risiko tersebut.

Kerajaan di seluruh dunia telah bergegas merumuskan peraturan untuk AI walaupun teknologi itu membuat kemajuan pantas dan bersedia untuk mengubah banyak aspek kehidupan seharian, dari pendidikan dan tempat kerja hingga hak cipta dan privasi. Terdapat kebimbangan bahawa kemajuan dalam AI boleh memusnahkan pekerjaan, menyebar disinformasi atau digunakan untuk mencipta senjata biologi baru.

Pertemuan minggu ini hanya satu dari banyak usaha bagi tadbir urus AI. Majlis Umum Pertubuhan Bangsa-Bangsa Bersatu telah meluluskan resolusi pertamanya mengenai penggunaan selamat sistem-sistem AI, manakala Amerika Syarikat dan China baru-baru ini mengadakan perbincangan peringkat tinggi pertama mereka mengenai AI dan Perjanjian AI pertama di dunia EU dijangka berkuat kuasa pada tahun ini.

__

Chan menyumbang kepada laporan ini dari London. Penyunting Berita Berkaitan AP, Edith M. Lederer menyumbang dari Pertubuhan Bangsa-Bangsa Bersatu.