BISNISASIA.CO.ID, JAKARTA — Dataiku memperluas kapabilitas platformnya dengan menghadirkan dukungan terhadap model NVIDIA Nemotron, sekaligus meluncurkan framework open source Kiji Inspector untuk meningkatkan transparansi dan tata kelola agen AI enterprise.
Langkah ini dilakukan seiring meningkatnya adopsi agen AI dalam berbagai proses bisnis kritikal, di mana perusahaan tidak hanya dituntut menghadirkan performa tinggi, tetapi juga kemampuan untuk memahami dan memvalidasi proses pengambilan keputusan sistem tersebut.
Melalui inisiatif open source 575 Lab, Dataiku memperkenalkan Kiji Inspector sebagai salah satu framework awal yang dirancang khusus untuk explainability pada sistem agentic AI. Model NVIDIA Nemotron menjadi keluarga model pertama yang didukung dalam implementasi ini.
Kiji Inspector menghadirkan kemampuan explainability bawaan yang memungkinkan perusahaan memahami cara kerja agen AI, sekaligus mengatasi fenomena black box yang selama ini menjadi tantangan utama dalam penerapan AI di lingkungan enterprise.
Teknologi ini memanfaatkan pendekatan Sparse Autoencoder untuk menganalisis proses internal model saat agen AI mengambil keputusan. Hasil analisis tersebut kemudian diterjemahkan menjadi penjelasan yang dapat ditelusuri, divalidasi, serta mudah dipahami tanpa mengorbankan performa sistem.
Director of 575 Lab Dataiku, Hannes Hapke, mengatakan bahwa banyak organisasi mulai mengandalkan agen AI dalam keputusan yang berdampak pada aspek penting seperti pendapatan, keselamatan, hingga kepatuhan.
“Tanpa explainability, memperluas penggunaan AI sama dengan meningkatkan ketidakpastian. Dengan Kiji Inspector untuk model open source NVIDIA Nemotron, organisasi kini dapat mengaudit dan menyempurnakan sistem sebelum risiko terjadi,” ujarnya.
Kolaborasi ini juga memperkuat kemitraan antara Dataiku dan NVIDIA dalam menghadirkan solusi AI generatif dan agentic yang siap digunakan pada skala produksi. Model NVIDIA Nemotron dinilai memiliki performa tinggi serta kapabilitas lanjutan untuk mendukung sistem AI di lingkungan enterprise.
Director of Generative AI NVIDIA, Amanda Saunders, menekankan pentingnya transparansi dalam pengembangan agen AI otonom.
“Kepercayaan terhadap AI harus dibangun dari transparansi dan akuntabilitas. Model terbuka seperti NVIDIA Nemotron memberikan visibilitas terhadap cara sistem bekerja, yang kemudian diperkuat dengan Kiji Inspector,” jelasnya.
Pendekatan explainable AI Dataiku sendiri telah digunakan oleh lebih dari 750 pelanggan enterprise, termasuk SLB, perusahaan teknologi energi global.
Global Innovation Manager Data & AI SLB, Sampath Reddy, menyatakan bahwa transparansi menjadi faktor penting dalam memastikan adopsi AI di sektor operasional.
“AI baru memberikan nilai ketika pengguna dapat memahami dan mempercayai keputusannya. Dengan tata kelola yang jelas, agen AI dapat langsung diterapkan dalam sistem operasional sehari-hari,” ujarnya.
Dengan dukungan terhadap NVIDIA Nemotron, Dataiku memungkinkan perusahaan memanfaatkan model AI open source berperforma tinggi tanpa mengorbankan aspek transparansi. Ke depan, explainability diperkirakan akan menjadi fondasi utama dalam pengembangan AI enterprise, terutama dalam menghadapi tuntutan regulasi dan kebutuhan akan keunggulan kompetitif.
