BISNISASIA.CO.ID, JAKARTA – Menjelang Embedded World 2025, Neuchips, penyedia Application-Specific Integrated Circuits (ASIC) terkemuka untuk Kecerdasan Buatan (AI), mengumumkan kemitraannya dengan Vecow dan Golden Smart Home (GSH) Technology Corp., perusahaan milik ShareGuru.
Kolaborasi ini bertujuan untuk merevolusi pengolahan data SQL dengan solusi yang aman, privat, dan hemat energi. Solusi tersebut memungkinkan analisis data secara instan dari database internal melalui permintaan dalam bahasa alami.
Para pengunjung dapat bergabung dengan Neuchips dan Vecow di Hall 3, Booth #3-449 di Embedded World 2025 (11-13 Maret, Nuremberg, Jerman).
“Kolaborasi kami dengan Vecow dan GSH mencerminkan masa depan implementasi AI di sektor industri,” ujar Ken Lau, CEO Neuchips.
“Di Embedded World 2025, pengunjung stan pameran Vecow dapat mengeksplorasi fitur unggulan kartu akselerator Viper AI—termasuk dukungan 12 miliar parameter model AI dengan konsumsi daya hanya 45 W. Solusi ini melengkapi Sistem Edge AI Computing Vecow untuk industri serta platform ShareGuru SLM dari GSH. Kombinasi canggih ini memungkinkan pemrosesan AI yang aman dan efisien atas data milik sendiri, sesuai dengan kebutuhan industri modern. Kami bangga bermitra dengan Vecow untuk membawa inovasi AI generatif ke dalam aplikasi bisnis perusahaan.”
Solusi AI Generatif untuk Pengolahan Data yang Lebih Efisien
Seiring dengan meningkatnya kebutuhan AI generatif yang berjalan secara luring (on-premise), permintaan terhadap model LLM multiformat juga terus bertumbuh. Joseph Huang, Executive Vice President Vecow, menyatakan, “Sebagai penyedia solusi komputasi AI edge, Vecow bekerja sama dengan Neuchips untuk mengembangkan solusi LLM berbasis Retrieval-Augmented Generation (RAG).
Dengan teknologi ini, pengguna dapat mengakses data terkini tanpa harus bergantung pada model AI yang telah dilatih sebelumnya. Hasil yang diperoleh pun lebih relevan dan berkualitas tinggi. Klien kami membutuhkan solusi AI yang hemat biaya, ringkas, dan efisien dalam konsumsi daya, sekaligus memiliki performa lebih baik dibandingkan solusi GPU berbasis komputasi awan.”
Mengatasi Tantangan dalam Pengolahan Data AI
Seiring dengan meningkatnya kompleksitas database dan keterbatasan keahlian SQL, banyak perusahaan kesulitan dalam melakukan analisis data yang cepat dan akurat. Selain itu, penggunaan model AI daring sering kali tidak memungkinkan karena risiko keamanan dan privasi data.
Untuk mengatasi tantangan ini, solusi inovatif berbasis AI generatif telah dikembangkan dengan memanfaatkan platform Vecow ECX-3100 RAG Edge AI Inference Workstation, yang mendukung komputasi AI berbasis RAG. Solusi ini beroperasi dengan GSH ShareGuru QA 2.0, didukung oleh platform ShareGuru SLM, serta menggunakan kartu akselerator Neuchips LLM—Gen AI seri Viper.
Jika dikombinasikan, solusi ini memungkinkan penggunaan bahasa alami untuk mengajukan permintaan SQL, sehingga mempermudah aksesibilitas dan efisiensi, sekaligus mengurangi kebutuhan akan keahlian SQL. Keunggulan utama dari solusi ini meliputi:
- Privasi dan keamanan data maksimum – Kartu akselerator luring dari Neuchips beroperasi secara lokal dengan platform ShareGuru.
- Akurasi tinggi – Permintaan SQL divalidasi dengan dukungan AI untuk hasil yang lebih akurat.
- Efisiensi energi optimal – Seri Viper dari Neuchips memiliki konsumsi daya hanya 45 W dengan dukungan hingga 12 miliar parameter AI.
Kartu Akselerator AI Seri Viper Neuchips
Diluncurkan di COMPUTEX 2024, seri Viper dapat mengalihkan hingga 990% beban komputasi AI generatif dari CPU, sehingga memungkinkan pemanfaatan penuh LLM. Seri ini juga menawarkan keunggulan berikut:
- Kapasitas memori tambahan hingga 32 GB
- Dukungan bawaan untuk Model Bahasa Terstruktur BF16
- Cip akselerator Gen AI Raptor dari Neuchips, yang pertama kali diperkenalkan di CES 2024
Menjelang tahun 2026, Neuchips berkomitmen untuk terus mengembangkan ASIC multiformat yang lebih hemat energi guna meningkatkan kinerja AI generatif bagi berbagai industri.
