Moderasi kandungan terus menjadi topik yang diperselisihkan dalam dunia media dalam talian. Peraturan baru dan kebimbangan awam kemungkinan akan membuatnya menjadi keutamaan untuk bertahun-tahun akan datang. Tetapi AI yang senjata dan kemajuan teknologi lain membuatnya semakin sukar untuk ditangani. Startup dari Cambridge, England, yang dikenali sebagai Unitary AI percaya bahawa mereka telah menemui cara yang lebih baik untuk menangani cabaran moderasi - dengan menggunakan pendekatan "multimodal" untuk membantu menguraikan kandungan dalam medium yang paling kompleks iaitu video.
Hari ini, Unitary mengumumkan $15 juta dalam dana untuk memanfaatkan momentum yang mereka lihat di pasaran. Siringan A - yang dipimpin oleh Creandum VC terkenal di Eropah, dengan penyertaan juga dari Paladin Capital Group dan Plural - datang ketika perniagaan Unitary sedang berkembang. Bilangan video yang diklasifikasikan telah meningkat tahun ini kepada 6 juta/hari dari 2 juta (meliputi berbilion imej) dan platform ini kini menambah lebih banyak bahasa selain Bahasa Inggeris. Mereka enggan mendedahkan nama pelanggan tetapi mengatakan ARR kini berada dalam jutaan.
Unitary menggunakan dana tersebut untuk mengembangkan ke wilayah lebih banyak dan untuk mengambil lebih ramai bakat. Unitary tidak mendedahkan penilaian nilainya; sebelum ini, mereka telah memperoleh kurang daripada $2 juta dan $8 juta tambahan dalam pendanaan asas; pelabur lain termasuk Carolyn Everson, bekas pegawai Meta.
Terdapat puluhan startup dalam beberapa tahun terakhir yang menggunakan pelbagai aspek kecerdasan tiruan untuk membina alat moderasi kandungan.
Dan apabila anda memikirkannya, skala cabaran dalam video adalah permohonan yang sesuai untuknya. Satu tentera yang terdiri daripada manusia tidak akan mampu menguraikan data puluhan dan ratu zetabyte yang dicipta dan dikongsi di platform seperti YouTube, Facebook, Reddit atau TikTok - tanpa bercakap lagi mengenai tapak temu janji, platform permainan, alat videoconferencing, dan tempat-tempat lain di mana video muncul, yang kesemuanya membentuk lebih daripada 80% daripada semua trafik dalam talian.
Sudut pandangan itu juga yang menarik minat pelabur. "Dalam dunia dalam talian, terdapat keperluan yang besar bagi pendekatan teknologi untuk mengenalpasti kandungan yang berbahaya," kata Christopher Steed, ketua pegawai pelaburan, Paladin Capital Group, dalam kenyataan.
Walau bagaimanapun, ia adalah ruang yang sesak. OpenAI, Microsoft (menggunakan AI sendiri, bukan OpenAI), Hive, ActiveFence / Spectrum Labs, Oterlu (kini menjadi sebahagian daripada Reddit), Sentropy (kini menjadi sebahagian daripada Discord), dan Rekognition Amazon hanyalah beberapa daripada banyak yang digunakan.
Dari pandangan Unitary AI, alat sedia ada tidak sekuat yang sepatutnya apabila berhadapan dengan video. Itu kerana alat telah dibangunkan sehingga kini biasanya memberi tumpuan kepada menguraikan data jenis tertentu atau yang lain - katakan, teks atau audio atau imej - tetapi tidak secara serentak. Ini membawa kepada banyak bendera palsu (atau sebaliknya tidak ada bendera).
"Apa yang inovatif tentang Unitary ialah kami memiliki model multimodal yang sejati," kata CEO Sasha Haco, yang menjadi penemu bersama syarikat dengan CTO James Thewlis. "Daripada menganalisis hanya siri bingkai, untuk memahami kesan dan sama ada video itu [contohnya] artistik atau ganas, anda perlu dapat mensimulasikan cara moderator manusia menonton video tersebut. Kami melakukan itu dengan menganalisis teks, bunyi, dan visual."
Pelanggan meletakkan parameter mereka sendiri untuk apa yang mereka ingin moderasi (atau tidak), dan Haco berkata mereka biasanya akan menggunakan Unitary bersama-sama dengan pasukan manusia, yang pada gilirannya sekarang akan perlu melakukan kurang kerja dan menghadapi kurang tekanan.
Moderasi "multimodal" nampak sangat jelas. Mengapa ia belum dilakukan sebelum ini?
Haco berkata satu sebabnya ialah “anda boleh mendapat jauh dengan model visual yang lebih lama.” Walau bagaimanapun, ia bermakna terdapat jurang di pasaran untuk berkembang.
Tetapi Haco mempunyai rekod yang menarik apabila berhadapan dengan subjek yang sukar, sukar dimengerti. Sebelum Unitary AI, Haco - yang memegang Ijazah Doktor Falsafah dalam fizik kuantum - bekerja dalam penyelidikan lubang hitam dengan Stephen Hawking. (Rupa-rupanya anda boleh melihatnya dalam dokumentari Netflix tentang imej pertama lubang hitam, yang dibuat menggunakan Teleskop Ciri-Ciri Cakrawala). Dia mempunyai keinginan untuk mengubah fokusnya untuk bekerja pada masalah di bumi, yang boleh sama sukar difahami seperti makhluk graviti spacetime.
“Epiphany”nya, katanya, ialah bahawa terlalu banyak produk di luar sana dalam moderasi kandungan, terlalu banyak bunyi, tetapi belum ada yang sepadan dengan apa yang pelanggan sebenarnya mahu.
Pengalaman Thewlis pula sedang digunakan secara langsung di Unitary: Beliau juga memegang Ijazah Doktor Falsafah, dalam penglihatan komputer dari Oxford, di mana keistimewaannya ialah "kaedah untuk pemahaman visual dengan kurang anotasi manual."
("Unitary" adalah rujukan berganda, saya fikir. Startup ini menyatukan beberapa parameter yang berbeza untuk lebih memahami video. Tetapi juga, ia mungkin merujuk kepada kerjaya terdahulu Haco: Operator Unitary digunakan dalam menggambarkan keadaan kuantum, yang pada asalnya rumit dan tidak dapat diramal - sama seperti kandungan dalam talian dan manusia.)
Kajian multimodal dalam AI telah berlangsung selama bertahun-tahun. Tetapi kami nampaknya sedang memasuki era di mana kita akan mula melihat banyak lagi aplikasi konsep tersebut. Contohnya: Meta baru minggu lalu merujuk kepada AI multimodal beberapa kali dalam kunci Connectnya meramalkan alat bantu AI barunya. Unitary dengan itu merentang persimpangan menarik itu antara penyelidikan berteknologi tinggi dan aplikasi dunia nyata.
“Kami pertama kali bertemu dengan Sasha dan James dua tahun lalu dan sangat terkesan,” kata Gemma Bloemen, seorang principal di Creandum dan ahli lembaga, dalam satu kenyataan. “Unitary telah muncul sebagai pemimpin awal yang jelas dalam bidang AI penting keselamatan kandungan, dan kami sangat bersemangat untuk menyokong pasukan yang luar biasa ini ketika mereka terus mempercepat dan berinovasi dalam teknologi klasifikasi kandungan.”
“Dari awal, Unitary mempunyai AI yang paling kuat untuk mengklasifikasikan kandungan yang berbahaya. Menjelang akhir tahun ini, syarikat itu telah mempercepat ke 7 angka ARR, hampir tidak didengar pada peringkat awal perjalanan ini,” kata Ian Hogarth, seorang rakan di Plural dan juga ahli lembaga.
