CISO Ungkap Ancaman Serius di Balik Pabrik AI yang Berkembang Pesat

GELORA.ME - Dunia bisnis kini tengah memasuki fase baru di mana Kecerdasan Buatan (AI) tidak lagi sekadar proyek percontohan, melainkan telah menjadi tulang punggung operasional. Perkembangan ini melahirkan konsep "Pabrik AI", sebuah infrastruktur berskala besar yang mengindustrialisasi siklus hidup AI, mulai dari pengumpulan data hingga penyebaran model. Namun, di balik efisiensi dan kecepatan yang ditawarkan, muncul tantangan keamanan yang kritis dan sering terabaikan: keamanan pada saat AI beroperasi atau runtime.

Ancaman Nyata di Balik Skala Besar

Jayant Dave, Chief Information Security Officer (CISO) Check Point Software, mengungkapkan bahwa fokus utama para pemimpin teknologi kini telah bergeser. Bukan lagi sekadar menyediakan daya komputasi yang memadai, melainkan memastikan beban kerja AI yang masif terlindungi dari serangan canggih yang menargetkan model dan infrastrukturnya secara langsung.

"Tantangan utama bagi CIO modern saat ini bukanlah pengadaan GPU (Unit Pemrosesan Grafis) yang memadai. Mereka harus memastikan beban kerja masif yang berjalan di atasnya tidak disusupi oleh serangan injeksi prompt, peracunan model (model poisoning), atau pelanggaran infrastruktur," jelasnya.

Kekhawatiran ini bukannya tanpa dasar. Data dari laporan Gartner mengonfirmasi bahwa ancaman tersebut sudah menjadi kenyataan. Sekitar 32% organisasi dilaporkan telah mengalami serangan yang melibatkan manipulasi prompt, sementara 29% lainnya menghadapi serangan langsung ke infrastruktur GenAI mereka dalam satu tahun terakhir. Fakta ini menciptakan kecemasan yang signifikan, di mana hampir separuh organisasi (49%) merasa sangat rentan.

Keterbatasan Pendekatan Keamanan Konvensional

Masalahnya, banyak solusi keamanan tradisional tidak dirancang untuk memahami kompleksitas dunia AI. Pendekatan yang "buta AI" ini sering kali gagal mengurai pola lalu lintas unik dari Protokol Konteks Model (MCP) atau mekanisme canggih seperti Retrieval-Augmented Generation (RAG). Kesenjangan kemampuan inilah yang membuka celah bagi penyerang dan membuat banyak organisasi berada dalam posisi bertahan yang lemah.

Oleh karena itu, menurut Dave, diperlukan perubahan paradigma mendasar. Keamanan tidak boleh lagi dipandang sebagai fitur tambahan, melainkan harus menjadi fondasi yang terintegrasi sejak awal dalam arsitektur Pabrik AI.

Tiga Pilar Penting untuk Keamanan Runtime AI

Untuk membangun pertahanan yang efektif, Dave menekankan tiga pilar kunci yang harus diperkuat secara bersamaan: visibilitas, isolasi, dan performa. Implementasinya melibatkan pendekatan teknis yang lebih spesifik dan proaktif.

Pertama, di tingkat infrastruktur, diperlukan pendekatan Zero-Impact Infrastructure Security. Konsep ini memanfaatkan telemetri dari NVIDIA DOCA Argus yang diproses di BlueField DPU, sehingga pemantauan keamanan real-time dan isolasi beban kerja dapat dilakukan tanpa mengganggu kinerja GPU yang berharga.

Kedua, perlindungan harus ditingkatkan di lapisan aplikasi. Seiring AI yang semakin otonom dan "agenik", penggunaan Web Application Firewall (WAF) yang disesuaikan kini dapat memberikan perlindungan runtime untuk input dan output model bahasa besar (LLM), secara efektif mencegah berbagai ancaman di tingkat aplikasi.

"Revolusi AI harus diamankan di tingkat runtime, atau tidak akan aman sama sekali," tegas Dave menegaskan urgensi dari pendekatan baru ini.

Menyatukan Visi Keamanan dan Operasional

Pilar ketiga yang tak kalah penting adalah mengelola faktor manusia, terutama dalam mencegah kebocoran data sensitif secara real-time melalui solusi Data Loss Prevention (DLP) untuk memastikan kepatuhan regulasi. Pesan strategisnya jelas: era di mana tim infrastruktur dan keamanan bekerja secara terpisah sudah berakhir.

Membangun Pabrik AI yang tangguh memerlukan kepemimpinan yang menyatukan visi antara performa tinggi dan pertahanan siber yang kokoh. Hanya dengan integrasi yang erat sejak tingkat runtime, organisasi dapat memanen manfaat revolusi AI secara berkelanjutan dan aman, tanpa mengorbankan stabilitas operasional mereka.