Iklim pembiayaan bagi syarikat cip AI, sekali secerah hari pertengahan Julai, mula kelam kabut apabila Nvidia menegaskan dominasinya.

Menurut laporan terkini, syarikat cip AS hanya mengumpulkan $881 juta dari Januari 2023 hingga September 2023 - turun daripada $1.79 bilion dalam tiga suku pertama tahun 2022. Syarikat cip AI Mythic kehabisan tunai pada tahun 2022 dan hampir terpaksa menghentikan operasi, manakala Graphcore, saingan yang pernah dikapitalisasi dengan baik, kini menghadapi kerugian yang meningkat.

Tetapi satu syarikat pemula nampaknya telah berjaya dalam ruang cip AI yang sangat kompetitif - dan semakin sesak.

Hailo, yang diasaskan pada tahun 2017 oleh Orr Danon dan Avi Baum, sebelum ini Ketua Teknologi bagi saluran tanpa wayar di Texas Instruments, mereka merancang cip khusus untuk menjalankan beban kerja AI pada peranti tepi. Cip Hailo melaksanakan tugas AI dengan penggunaan ingatan dan penggunaan kuasa yang lebih rendah daripada pemprosesan biasa, menjadikannya calon yang kuat untuk peranti padat, luar talian dan bertenaga bateri seperti kereta, kamera pintar dan robotik.

“Saya bersama-sama menubuhkan Hailo dengan misi untuk menjadikan keupayaan AI yang tinggi tersedia dalam skala di luar data pusat,” kata Danon kepada TechCrunch. “Pemproses kami digunakan untuk tugas seperti pengesanan objek, segmentasi semantik dan lain-lain, serta untuk penyempurnaan imej dan video berasaskan AI. Baru-baru ini, mereka telah digunakan untuk menjalankan model bahasa besar (LLMs) pada peranti tepi termasuk komputer peribadi, unit kawalan elektronik hiburan dan lain-lain.”

Ramai syarikat cip AI masih belum mendapat satu kontrak besar, apatah lagi puluhan atau ratusan. Tetapi Hailo mempunyai lebih dari 300 pelanggan hari ini, kata Danon, di industri seperti automotif, keselamatan, runcit, automatik industri, peranti perubatan dan pertahanan.

Dengan taruhan pada prospek masa depan Hailo, kumpulan penyokong kewangan, termasuk pengusaha Israel Alfred Akirov, pengimport automotif Delek Motors dan platform VC OurCrowd melabur $120 juta dalam Hailo minggu ini, sebagai sambungan kepada Siri C syarikat tersebut. Danon berkata bahawa modal baru ini akan "membolehkan Hailo memanfaatkan semua peluang di saluran" sambil "menetapkan landasan untuk pertumbuhan jangka panjang."

“Kami selari secara strategik untuk membawa AI ke peranti tepi dengan cara yang akan memperluaskan jangkauan dan kesan teknologi baru yang luar biasa ini,” kata Danon.

Sekarang, anda mungkin tertanya-tanya, adakah sebuah startup seperti Hailo betul-betul mempunyai peluang bertempur dengan raksasa cip seperti Nvidia, dan kepada tahap yang kurang pula Arm, Intel dan AMD? Seorang pakar, Christos Kozyrakis, profesor jurutera elektrik dan sains komputer di Stanford, berpendapat begitu - beliau percaya cip pemaju seperti Hailo akan menjadi "sangat diperlukan" apabila AI berkembang pesat.

“Jurang kecekapan tenaga antara CPU dan pemaju terlalu besar untuk diabaikan,” kata Kozyrakis kepada TechCrunch. “Anda menggunakan pemaju untuk kecekapan dengan tugas-tugas utama (contohnya AI) dan mempunyai pemproses atau dua sebagai sumber untuk dapat diprogram.”

Kozyrakis melihat kekekalan sebagai cabaran kepada kepemimpinan Hailo - sebagai contoh, jika seni bina model AI yang cip mereka direka untuk berjalan secara cekap menjadi ketinggalan zaman. Sokongan perisian juga boleh menjadi isu, kata Kozyrakis, jika majoriti pembangun tidak bersedia belajar menggunakan alat yang dibangunkan di sekitar cip Hailo.

“Kebanyakan cabaran yang berkaitan dengan cip khas adalah dalam ekosistem perisian,” kata Kozyrakis. “Di sinilah Nvidia, sebagai contoh, mempunyai kelebihan besar berbanding syarikat lain dalam AI, kerana mereka telah melabur dalam perisian untuk seni binaan mereka selama 15 tahun.”

Tetapi, dengan $340 juta di bank dan kira-kira 250 pekerja, Danon berasa yakin tentang jalan ke hadapan Hailo - sekurang-kurangnya dalam jangka pendek. Dia melihat teknologi startup ini mengatasi banyak cabaran yang dihadapi syarikat dengan inferens AI berasaskan awan, terutamanya kelewatan, kos dan skalabiliti.

“Model AI tradisional bergantung kepada infrastruktur berasaskan awan, sering menghadapi masalah kelewatan dan cabaran lain,” kata Danon. “Mereka tidak mampu memberi pandangan dan makluman secara real-time, dan ketergantungan mereka pada rangkaian membahayakan kebolehpercayaan dan integrasi dengan awan, yang membawa risiko berkenaan privasi data. Hailo sedang menangani cabaran ini dengan menawarkan penyelesaian yang beroperasi secara bebas daripada awan, menjadikan mereka mampu menangani jumlah pemprosesan AI yang lebih tinggi.”

Keingintahuannya kepada sudut pandangan Danon, saya bertanya tentang AI generatif dan kebergantungan yang tinggi terhadap awan dan pusat data jauh. Sudah pasti, Hailo melihat model awan atas ke bawah, pusat-centric (contohnya modus operandi OpenAI) sebagai ancaman wujud?

Danon berkata, sebaliknya, AI generatif sedang mendorong permintaan baru untuk perkakasan Hailo.

“Dalam beberapa tahun terakhir, kami telah melihat peningkatan permintaan untuk aplikasi AI tepi dalam kebanyakan industri dari keselamatan lapangan terbang hingga pembungkusan makanan,” katanya. “Lonjakan baru dalam AI generatif ini lebih meningkatkan permintaan ini, kerana kami melihat permintaan untuk memproses LLM secara tempatan oleh pelanggan bukan sahaja dalam industri komputer dan automotif, tetapi juga dalam automatik industri, keselamatan dan lain-lain.”

Bagaimana pula dengan itu.