Pinecone, startup pangkalan data vektor yang diasaskan oleh Edo Liberty, bekas ketua Amazon AI Labs, telah lama menjadi pemimpin dalam membantu perniagaan mengembangkan model bahasa besar (LLM) dengan data mereka sendiri. Baru-baru ini, syarikat tersebut mengubah sepenuhnya produknya untuk melancarkan Pinecone Serverless, yang membebaskan pelanggannya daripada memikirkan menguruskan pengimplementasian mereka dan mengukurannya. Hari ini, Pinecone serverless keluar dari beta dan kini tersedia secara umum.
Liberty mencatat bahawa pelanggan awal syarikat kini berpindah dari bereksperimen dengan AI generatif kepada ingin melancarkan produk AI mereka sendiri. Syarikat tersebut melihat syarikat-syarikat berusaha dengan kompleksiti membina aplikasi baru sambil juga mencari cara terbaik untuk melancarkan mereka ke dalam pengeluaran.
“Gelombang pertama aplikasi tahap produksi sedang muncul ke pasaran sekarang dan dalam tempoh enam hingga sembilan bulan akan datang. Apa yang lebih daripada 5,000 pelanggan kami katakan dengan jelas kepada kami ialah bahawa mereka memerlukan alat yang ditujukan, dioptimumkan, dan khusus yang sangat baik dalam melakukan carian vektor, melakukan RAG, mengekstrak pengetahuan, dan menghasilkan konteks untuk model bahasa ini. Apa yang mereka benar-benar katakan ialah: hei, saya perlukan skala, saya perlukan prestasi, dan saya perlukan kos agar saya boleh berfikir mengenai produk yang saya sedang bangunkan.”
Liberty menekankan bahawa Pinecone telah meluangkan banyak masa untuk menyediakan produk untuk implementasi pengeluaran – semua sambil menjadikannya lebih berpatutan. Syarikat itu sebenarnya percaya bahawa pelanggan yang menggunakan Pinecone serverless boleh mengurangkan kos mereka sehingga 50 kali ganda, sebahagian kerana pasukan tersebut mengubah senibina sistem menjadi perkhidmatan serata yang memisahkan penyimpanan dan pengiraan. Dengan itu, pelanggan Pinecone hanya membayar apabila mereka benar-benar menggunakan masa CPU, dengan syarikat tersebut mengatur kapasiti tersebut di bahagian belakang.
“Kerana kami menjalankan segala-galanya sebagai perkhidmatan, keupayaan kami mengatur semua itu membolehkan kami menagih orang untuk tepat apa yang mereka gunakan – dan bukan lebih. Itu sangat jarang dan sangat sukar dilakukan,” kata Liberty.
Semasa pra-tinjau awam, pelanggan Pinecone juga meminta beberapa ciri tambahan. Salah satunya ialah Titik Akhir Persendirian, yang dilancarkan dalam pra-tinjau awam hari ini. Ini membolehkan syarikat mencipta hubungan langsung ke awan peribadi maya mereka di Amazon melalui AWS PrivateLink, yang tidak mendedahkan data mereka kepada internet awam untuk memastikan data itu kekal dalam pelbagai tatacara pentadbiran dan kepatuhan yang syarikat mungkin perlu mematuhi.
Sesetengah syarikat yang sudah menggunakan Pinecone serverless termasuk Gong, Help Scout, New Relic, Notion, TaskUS dan You.com.
“Notion memimpin revolusi produktiviti AI,” kata Pengasas dan COO Notion, Akshay Kothari. “Pelancaran ciri AI pertama di pasaran kami dimungkinkan oleh Pinecone serverless. Teknologi mereka membolehkan AI Q&A kami memberikan jawapan segera kepada jutaan pengguna, diperoleh dari berbilion dokumen. Yang terbaik, perpindahan kami ke senibina terkini mereka telah mengurangkan kos kami sebanyak 60%, memajukan misi kami untuk menjadikan pembuatan perisian berkegunaan meluas.”
