Courtesy of Forbes

Bagaimana Platform Engineering Menjadi Kunci Pengembangan AI di Perusahaan

Artikel ini bertujuan menjelaskan bagaimana platform engineering harus bertransformasi untuk mendukung pengembangan dan penerapan AI secara aman, efisien, dan skala besar di perusahaan, dan mengapa pendekatan ini penting untuk menjaga keandalan, keamanan, serta biaya yang terkendali saat mengadopsi teknologi AI generatif dan foundation models.

09 Des 2025, 20.00 WIB

59 dibaca

Ikhtisar 15 Detik

Platform engineering harus beradaptasi untuk memenuhi kebutuhan unik AI.
Penerapan prinsip DevOps ke AIOps dapat meningkatkan kecepatan dan keamanan dalam pengembangan AI.
Pentingnya membangun infrastruktur data yang mendukung berbagai jenis data untuk meningkatkan kemampuan AI.

Platform engineering adalah sebuah pendekatan yang memungkinkan pengembang untuk membangun, mengoperasikan, dan mengelola perangkat lunak dengan cepat dan aman menggunakan workflow yang standar. Namun, beban kerja AI berbeda dengan aplikasi tradisional karena butuh kebutuhan komputasi, penyimpanan, dan siklus hidup yang berbeda. Contohnya, pembuatan ringkasan teks deterministik menggunakan CPU, sementara pelatihan model besar memerlukan GPU yang berbeda.

Dengan adanya layanan foundation model seperti AWS Bedrock, banyak perusahaan tidak lagi perlu membangun dan melatih model bahasa besar secara internal. Oleh sebab itu, peran platform engineering berubah menjadi pengaktif konsumsi AI yang aman, efisien, dan scalable di dalam organisasi engineering dan riset. Pendekatan ini membantu percepatan produk sambil memastikan tingkat keandalan dan keamanan yang tinggi.

Dalam praktiknya, penggunaan GPU dan cloud GPU khusus seperti CoreWeave harus dikelola untuk memastikan infrastruktur tetap scalable, diawasi dengan baik, dan sesuai dengan standar keamanan dan kepatuhan. Selain itu, data yang digunakan oleh AI kini melibatkan berbagai jenis data tidak terstruktur seperti suara, teks, video, dan gambar, sehingga infrastruktur data harus menerapkan versioning, lineage, dan governance agar dapat dipercaya dan dipatuhi.

Teknologi seperti vector databases sangat berguna untuk sistem retrieval-augmented generation (RAG) dalam menyimpan dan mengambil embedding secara efisien, meningkatkan akurasi aplikasi berbasis pengetahuan. Penggunaan feature stores juga dianjurkan untuk pengelolaan data kontekstual dan personalisasi pada model AI secara lebih konsisten dan adaptif.

Observabilitas AI kini harus lebih lengkap dari sekadar metrik infrastruktur tradisional. Termasuk di dalamnya pengukuran kualitas model, hasil bisnis, sinyal pengalaman pengguna, dan pengamanan dengan testing terhadap serangan prompt injection. Standarisasi, RBAC, dan integrasi kebijakan regulasi seperti HIPAA dan GDPR juga menjadi bagian penting dalam membangun pondasi AI yang terpercaya dan dapat diandalkan di perusahaan.

Referensi:
[1] https://www.forbes.com/councils/forbestechcouncil/2025/12/09/how-to-apply-devops-principles-to-aiops-platform-engineering-for-ai/

Analisis Ahli

Priya Sawant

"Platform engineering harus beradaptasi dan menjadi penghubung utama antara software tradisional dan sistem AI cerdas, memastikan pengembangan dan operasi AI berjalan sesuai standar keamanan dan kepatuhan di skala enterprise."

Analisis Kami

"Transformasi platform engineering untuk AI bukan sekadar evolusi teknis, melainkan revolusi mindset yang harus diadopsi oleh organisasi agar tetap relevan dan kompetitif. Mengintegrasikan prinsip DevOps ke dalam AIOps dan membangun infrastruktur data yang kuat adalah kunci utama untuk mewujudkan pengembangan AI yang handal dan terukur dalam skala besar."

Prediksi Kami

Ke depan, platform engineering akan menjadi pusat pengembangan AI perusahaan, mendukung alat dan proses yang memastikan AI dapat dikembangkan, dioperasikan, dan dipantau dengan aman dan efisien, sehingga meningkatkan adopsi teknologi AI secara luas dan mengurangi risiko bisnis terkait.