NeuBird sedang membangunkan penyelesaian KI generative untuk persekitaran cloud-native kompleks

Pengasas NeuBird Goutham Rao dan Vinod Jayaraman datang dari Portworx, sebuah penyelesaian simpanan cloud-native yang akhirnya dijual kepada PureStorage pada tahun 2019 dengan nilai $370 juta. Ini adalah keberhasilan keluaran ketiga mereka.

Ketika mereka mencari cabaran startup berikutnya tahun lalu, mereka melihat peluang untuk menggabungkan pengetahuan cloud-native mereka, terutamanya dalam operasi IT, dengan bidang KI generative yang berkembang pesat.

Hari ini NeuBird mengumumkan pelaburan $22 juta dari Mayfield untuk membawa idea ini ke pasaran. Ini adalah jumlah yang besar untuk sebuah startup peringkat awal, tetapi syarikat itu mungkin bergantung kepada pengalaman pengasas untuk membina syarikat yang berjaya.

Rao, CEO, berkata bahawa walaupun komuniti cloud-native telah melakukan kerja yang baik dalam menyelesaikan banyak masalah yang sukar, ia telah mencipta tahap kompleksiti yang semakin meningkat sepanjang masa.

"Kita telah melakukan kerja yang luar biasa sebagai komuniti sepanjang lebih daripada 10 tahun dalam membangunkan senibina cloud-native dengan reka bentuk berorientasikan perkhidmatan. Ini menambah lapisan, yang baik. Itu adalah cara yang betul untuk merekabentuk perisian, tetapi ini juga datang dengan kos peningkatan telemetri. Terdapat terlalu banyak lapisan dalam struktur," kata Rao kepada TechCrunch.

Mereka membuat kesimpulan bahawa tahap data ini menjadikan ia mustahil untuk jurutera manusia menjumpai, mendiagnosis dan menyelesaikan masalah pada skala dalam organisasi besar. Pada masa yang sama, model bahasa besar sedang mula matang, jadi pengasas memutuskan untuk menggunakannya dalam menyelesaikan masalah.

"Kita menggunakan model bahasa besar dengan cara yang sangat unik untuk mampu menganalisis ribuan dan ribuan metrik, amaran, log, jejak dan maklumat konfigurasi aplikasi dalam masa beberapa saat dan mampu mendiagnosis keadaan alam sekitar, mengesan jika ada masalah dan mencari penyelesaian," katanya.

Syarikat itu pada dasarnya sedang membangunkan pembantu digital yang dipercayai untuk pasukan kejuruteraan. "Jadi ini adalah rakan sekerja digital yang bekerja bersama SREs dan jurutera ITOps, dan memantau semua amaran dan log mencari isu," katanya. Matlamat adalah untuk mengurangkan masa yang diambil untuk merespons dan menyelesaikan insiden dari jam ke minit, dan mereka percaya dengan menggunakan KI generative dalam menyelesaikan masalah, mereka dapat membantu syarikat mencapai matlamat itu.

Pengasas memahami batasan model bahasa besar, dan cuba mengurangkan tindakbalas mempermainkan atau salah dengan menggunakan set data terhad untuk melatih model, dan dengan mendirikan sistem lain yang membantu memberikan tindak balas yang lebih tepat.

"Kerana kita menggunakan ini dalam cara yang sangat terkawal untuk satu kes penggunaan yang sangat khusus untuk persekitaran yang kita kenali, kita boleh menyemak semula keputusan yang datang dari KI, sekali lagi melalui pangkalan data vektor dan lihat jika ia membuat kefahaman dan jika kita tidak selesa dengan itu, kita tidak akan mengesyorkan kepada pengguna."

Pelanggan boleh menyambung secara langsung ke sistem awan berbeza mereka dengan memasukkan kredensial mereka, dan tanpa memindahkan data, NeuBird boleh menggunakan akses untuk menyemak semula berbanding maklumat yang ada untuk mencari penyelesaian, mengurangkan kesukaran keseluruhan yang berkaitan dengan mendapatkan data yang khusus untuk syarikat untuk bekerja. 

NeuBird menggunakan pelbagai model, termasuk Llama 2 untuk menganalisis log dan metrik. Mereka menggunakan Mistral untuk analisis lain. Syarikat itu sebenarnya mengubah setiap interaksi bahasa semulajadi menjadi pertanyaan SQL, yang pada dasarnya mengubah data tak terstruktur kepada data berstruktur. Mereka percaya bahawa ini akan memberi hasil kejituan yang lebih besar.

Startup peringkat awal sedang berkerja dengan rakan reka bentuk dan alfa pada masa ini menambah baik idea mereka semasa mereka berusaha untuk membawa produk ke pasaran pada tahun ini. Rao berkata mereka mengambil sejumlah wang yang besar dari awal kerana mereka mahu ruang untuk menyelesaikan masalah tanpa perlu bimbang tentang mencari lebih banyak wang terlalu cepat.