Berkampung dalam fail IPO Rubrik minggu ini - di antara bahagian mengenai bilangan pekerja dan penyata kos - terdapat sebutan yang memperincikan bagaimana syarikat pengurusan data ini memikirkan AI generatif dan risiko yang menyertainya: Rubrik diam-diam menubuhkan jawatankuasa pentadbiran untuk mengawasi bagaimana kecerdasan buatan dilaksanakan dalam perniagaannya.

Menurut Borang S-1, jawatankuasa pentadbiran AI baharu ini merangkumi pengurus dari pasukan kejuruteraan, produk, guaman, dan keselamatan maklumat Rubrik. Bersama-sama, pasukan-pasukan ini akan menilai potensi risiko undang-undang, keselamatan, dan perniagaan menggunakan alat AI generatif dan merenung "langkah-langkah yang boleh diambil untuk mengurangkan sebarang risiko tersebut," bacaan fail tersebut.

Sepertimana yang jelas, Rubrik bukanlah perniagaan AI pada intinya - produk AI tunggalnya, sejenis chatbot yang dipanggil Ruby yang dilancarkan pada November 2023, dibina atas API Microsoft dan OpenAI. Tetapi seperti ramai yang lain, Rubrik (dan pelabur-pelabur sedia ada dan akan datangnya) sedang mempertimbangkan masa depan di mana AI akan memainkan peranan yang semakin penting dalam perniagaannya. Inilah sebabnya mengapa kita perlu mengharapkan lebih banyak langkah seperti ini seterusnya.

Peningkatan pemerhatian kawalseliaan

Sesetengah syarikat sedang mengamalkan amalan terbaik AI untuk mengambil langkah pertama, tetapi yang lain akan didorong untuk melakukannya oleh peraturan seperti Akta AI EU.

Bernama "undang-undang AI komprehensif pertama dunia", undang-undang baharu ini - dijangkakan akan menjadi undang-undang merentas blok itu kemudian tahun ini - melarang beberapa kes penggunaan AI yang dianggap membawa "risiko yang tidak dapat diterima," dan mentakrifkan aplikasi "berisiko tinggi" lain. Rang undang-undang tersebut juga menggariskan peraturan kawalseliaan yang bertujuan untuk mengurangkan risiko yang mungkin membesar kecacatan seperti kecenderungan dan diskriminasi. Pendekatan penarafan risiko ini kemungkinan akan digunakan secara meluas oleh syarikat-syarikat yang mencari jalan maju yang berfikiran untuk mengadopsi AI.

Peguam privasi dan perlindungan data Eduardo Ustaran, seorang rakan kongsi di Hogan Lovells International LLP, mengharapkan Akta AI EU dan pelbagai kewajipannya akan memperkuatkan keperluan untuk pentadbiran AI, yang pada gilirannya akan memerlukan jawatankuasa. "Selain dari peranannya yang strategik untuk merangka dan mengawasi program kawalseliaan AI, dari perspektif operasi, jawatankuasa pentadbiran AI adalah alat penting dalam menangani dan mengurangkan risiko," katanya. "Ini kerana secara kolektif, sebuah jawatankuasa yang telah ditubuhkan dan didokong dengan baik seharusnya dapat meramalkan semua bidang risiko dan bekerjasama dengan perniagaan untuk menanganinya sebelum ia menjadi kenyataan. Pada satu tahap, jawatankuasa pentadbiran AI akan berperanan sebagai dasar bagi semua usaha kawalseliaan lain dan memberikan jaminan yang sangat diperlukan untuk mengelakkan kesenjangan pematuhan."

Dalam satu kertas dasar terkini mengenai implikasi Akta AI EU untuk pentadbiran korporat, perunding ESG dan pematuhan Katharina Miller bersetuju, mengesyorkan agar syarikat menubuhkan jawatankuasa pentadbiran AI sebagai langkah pematuhan.

Pemerhatian undang-undang

Kepatuhan bukan sahaja bertujuan untuk memuaskan pihak berwajib. Akta AI EU mempunyai gigi, dan "hukuman bagi ketidakpatuhan dengan Akta AI adalah signifikan," firma undang-undang British-American Norton Rose Fulbright mengingatkan.

Lingkupnya juga melampaui Eropah. "Syarikat-syarikat yang beroperasi di luar wilayah EU mungkin terikat kepada ketentuan Akta AI jika mereka menjalankan aktiviti berkaitan AI melibatkan pengguna atau data EU," memperingatkan firma undang-undang tersebut. Jika ia seperti GDPR, undang-undang ini akan memberi impak serantau, terutama di tengah-tengah kerjasama EU-AS yang meningkat mengenai AI.

Alatan AI boleh mencetuskan masalah bagi sebuah syarikat di luar undang-undang AI. Rubrik enggan berkongsi komen dengan TechCrunch, mungkin disebabkan tempoh senyap IPO, tetapi fail syarikat tersebut menyebut bahawa jawatankuasa pentadbiran AI-nya menilai pelbagai risiko.

Kriteria pemilihan dan analisis termasuk pertimbangan bagaimana penggunaan alatan AI generatif boleh mencetuskan isu berkaitan dengan maklumat sulit, data peribadi dan privasi, data pelanggan dan kewajipan kontrak, perisian sumber terbuka, hak cipta dan hak milik intelek lain, ketelusan, ketepatan output dan kebolehpercayaan, dan keselamatan.

Ingatlah bahawa keinginan Rubrik untuk menutup asas-asas undang-undang mungkin disebabkan oleh pelbagai sebab lain. Ia mungkin, sebagai contoh, juga wujud untuk menunjukkan bahawa ia secara bertanggungjawab menjangka isu-isu, yang kritikal kerana Rubrik sebelum ini telah berurusan bukan sahaja dengan kebocoran data dan hack, tetapi juga litigasi hak milik intelek.

Perkara optik

Syarikat-syarikat tidak hanya akan memandang AI melalui lensa pencegahan risiko. Akan ada peluang yang mereka dan pelanggan mereka tidak mahu terlepas. Itu salah satu sebab alat AI generatif sedang dilaksanakan walaupun mempunyai kelemahan yang jelas seperti "halusinasi" (iaitu kecenderungan untuk membuat maklumat).

Ia akan menjadi satu jalan raya yang halus bagi syarikat untuk menentukan. Di satu pihak, membanggakan penggunaan AI mereka boleh meningkatkan penilaian mereka, tidak kira betapa sebenarnya penggunaan tersebut atau apakah perbezaannya kepada hasil akhir mereka. Di pihak lain, mereka perlu membawa fikiran tenang tentang risiko-risiko yang mungkin berlaku.

"Kita berada pada titik kunci evolusi AI di mana masa depan AI bergantung sepenuhnya kepada samada orang awam akan mempercayai sistem AI dan syarikat yang menggunakannya," penasihat privasi pembuat perisian privasi dan keselamatan OneTrust, Adomas Siudika, menulis dalam pos blog mengenai topik tersebut.

Menubuhkan jawatankuasa pentadbiran AI kemungkinan akan menjadi sekurang-kurangnya satu cara untuk mencuba membantu dalam perkara kepercayaan tersebut.