Ampere bekerjasama dengan Qualcomm untuk melancarkan server AI berasaskan Arm

Ampere dan Qualcomm bukanlah rakan sekerja yang paling jelas. Kedua-duanya, bagaimanapun, menawarkan cip berasaskan Arm untuk menjalankan pelayan data center (walaupun pasaran terbesar Qualcomm masih ke atas telefon bimbit). Tetapi seperti yang diumumkan oleh kedua-dua syarikat hari ini, mereka kini bergabung untuk menawarkan sebuah pelayan yang difokuskan pada AI yang menggunakan CPU Ampere dan cip inferensi AI Cloud 100 Ultra Qualcomm untuk menjalankan model - bukan latihan -.

Seperti setiap pengeluar cip lain, Ampere mencari keuntungan daripada peningkatan AI. Fokus syarikat itu, bagaimanapun, sentiasa terletak pada cip pelayan yang cepat dan berkuasa cip, jadi walaupun ia boleh menggunakan IP Arm untuk menambah beberapa ciri-ciri ini ke cipnya, itu bukanlah satu kepakaran utama. Itulah sebabnya mengapa Ampere memutuskan untuk bekerjasama dengan Qualcomm (dan SuperMicro untuk mengintegrasikan kedua-dua penyelesaian itu), kata CTO Arm Jeff Wittich kepada saya.

'Idea di sini adalah bahawa walaupun saya akan menunjukkan kepada anda prestasi yang hebat untuk CPU Ampere menjalankan inferensi AI hanya pada CPU, jika anda ingin meluaskan kepada model yang lebih besar - banyak ratus juta parameter model, sebagai contoh - sama seperti semua beban kerja lain, AI bukan satu saiz sesuai untuk semua,' kata Wittich kepada TechCrunch. 'Kami telah bekerjasama dengan Qualcomm bagi penyelesaian ini, menggabungkan CPU Ampere kami yang sangat efisien untuk melakukan banyak tugas umum yang anda jalankan bersamaan dengan inferencing, dan kemudian menggunakan kad mereka yang sangat berkesan, kami mendapat penyelesaian peringkat pelayan.'

Kredit Gambar: Ampere

Berkenaan dengan bermitra dengan Qualcomm, Wittich berkata bahawa Ampere ingin menyusun penyelesaian terbaik.

'Kerjasama yang sangat baik yang kami miliki dengan Qualcomm di sini,' katanya. 'Ini adalah salah satu perkara yang kami telah bekerja, saya fikir kami berkongsi banyak minat yang sangat serupa, itulah sebabnya saya fikir ini sangat menarik. Mereka sedang membina penyelesaian yang sangat berkesan di pelbagai bahagian pasaran. Kami membina penyelesaian yang sangat berkesan di sisi CPU pelayan.'

Kemitraan Qualcomm adalah sebahagian daripada kemaskini jadual tahunan Ampere. Sebahagian daripada jadual itu adalah cip AmpereOne baru 256-core, yang dibina dengan proses 3nm moden. Cip-cip baru itu belum tersedia secara umum lagi, tetapi Wittich berkata mereka sudah sedia di kilang dan sepatutnya akan dilancarkan pada penghujung tahun ini.

Di atas kore-kore tambahan, ciri-ciri menentukan generasi baru cip AmpereOne ini adalah RAM DDR5 12-saluran, yang membolehkan pelanggan pusat data Ampere menyesuaikan akses memori pengguna mereka mengikut keperluan mereka.

div>

Promosi jualan di sini bukan sahaja prestasi, tetapi juga penggunaan tenaga dan kos menjalankan cip-cip ini di pusat data. Ini terutama benar apabila ia berkaitan dengan inferensi AI, di mana Ampere suka membandingkan prestasinya dengan GPU A10 Nvidia.

Kredit Gambar: Ampere

Ampere juga mengumumkan kemitraan lain hari ini. Syarikat ini sedang bekerja dengan NETINT untuk membina penyelesaian bersama yang menggabungkan CPU Ampere dengan cip pemprosesan video NETINT. Pelayan baru ini akan dapat menranskod 360 saluran video langsung secara serentak, semuanya sambil juga menggunakan model teks lisan OpenAI Whisper untuk mensubjudul 40 saluran.

'Kami memulakan langkah ini enam tahun yang lalu kerana jelas bahawa ia adalah langkah yang betul,' kata CEO Ampere Renee James dalam pengumuman hari ini. 'Kuasa rendah dahulu adalah sinonim dengan prestasi yang rendah. Ampere membuktikan bahawa itu tidak benar. Kami telah menjadi pelopor hingga garis hadapan efisiensi pengkomputeran dan memberikan prestasi melebihi CPU warisan dalam sampul pengkomputeran yang berkesan.'

div>