Bulan Februari lalu, media massa ramai memberitakan aksi blokir oleh beberapa negara dan sejumlah perusahaan terhadap chatbot AI asal China, DeepSeek. Langkah ini ditempuh karena adanya kekhawatiran akan potensi kebocoran data sensitif di luar kendali organisasi.

Kejadian ini menegaskan kerentanan data perusahaan jika karyawan mengakses LLM (Large Language Model) tanpa mekanisme proteksi yang memadai.

Di tengah kekhawatiran itu, F5 memperkenalkan AI Gateway sebagai “guardrail” wajib bagi perusahaan yang hendak mengadopsi AI.

Dalam peluncuran solusi F5 Application Delivery and Security Platform, Surung Sinamo, Country Manager F5 Indonesia, menjelaskan bahwa AI Gateway dikembangkan untuk mencegah risiko kebocoran data dan penyalahgunaan model AI.

Melindungi Integritas Model AI

“AI Gateway ini sebenarnya berfungsi sebagai AI guardrails,” ujarnya. Salah satu fungsi utamanya adalah melindungi integritas model AI. Surung menekankan, “Salah satu fungsi AI Gateway ini memastikan LLM-nya itu, atau ‘otak’ dari AI-nya itu, ter-protect.”

Lebih jauh, AI Gateway juga mengatur akses ke LLM agar sesuai kebutuhan perusahaan. Tanpa guardrail, seorang pegawai bisa saja mengirimkan pertanyaan di luar konteks, misalnya mengakses chatbot untuk keperluan pribadi, padahal ia bekerja di lembaga yang merupakan entitas keuangan.

“AI Gateway ini memastikan akses terhadap LLM ini juga terkontrol. Jangan sampai prompt-nya terserah apa, padahal ini untuk kepentingan banking, misalnya,” jelas Surung kepada para wartawan yang hadir di sesi wawancara terbatas. Dengan demikian, perusahaan dapat menentukan data apa saja yang boleh diproses dan mengarahkan permintaan ke model yang tepat.

Menghindari Bill Shock, Menegakkan UU PDP

Fitur krusial lainnya adalah data masking otomatis. “Ada kemungkinan kalau guardrail-nya nggak perfect, bukan LLM-nya yang bermasalah, tapi guardrail-nya belum sempurna, sehingga PII data keluar. Nah, AI Gateway ini bisa memastikan PII data itu di-masking misalkan,” jelas Surung. Fitur ini secara aktif mencegah informasi pribadi pelanggan, seperti nomor rekening atau nomor telepon, terpapar ke model AI publik.

Lebih lanjut, AI Gateway juga menyediakan routing cerdas dan caching untuk efisiensi biaya. Surung memberikan contoh penggunaan fitur caching,“Misalkan, kalau pertanyaan A pernah diajukan oleh user lain, kenapa tidak menggunakan respons yang sudah ada saja melalui caching? Dengan demikian, kita bisa menekan penggunaan token yang berbiaya tinggi.” Cara ini akan menghindarkan perusahaan dari “bill shock” akibat konsumsi token LLM yang tak terkontrol.

Sementara, konteks lokal bagi AI Gateway diperkuat oleh UU PDP (Perlindungan Data Pribadi), yang mewajibkan setiap perusahaan untuk menjaga kerahasiaan dan integritas data pelanggan. Di era “shadow AI”, di mana karyawan bisa saja menggunakan LLM di luar pengawasan, AI Gateway F5 ini berperan sebagai mekanisme utama untuk menegakkan kebijakan tersebut. Tanpa proteksi semacam ini, potensi kebocoran data pelanggan atau rahasia perusahaan tidak hanya melanggar UU PDP, tetapi juga berisiko menimbulkan sanksi hukum dan kerugian reputasi.

ADC 3.0 Padukan Networking dan Security

AI Gateway sendiri merupakan bagian dari solusi Application Delivery Controller (ADC) terbaru dari F5. Solusi generasi terbaru ini, atau ADC 3.0, dinamai F5 Application Delivery and Security Platform.

Solusi ini diperkenalkan untuk menjawab kebutuhan aplikasi modern, yang dibangun dengan microservices dan Kubernetes, serta tantangan keamanan di era aplikasi AI yang arsitekturnya sangat terdistribusi.

Surung Sinamo menjelaskan, “ADC 3.0 ini kita beri nama F5 Application Delivery and Security Platform. Kenapa kita bilang Application Delivery and Security Platform? Karena di platform ini kita converge networking dan security.”

Platform ini mengombinasikan berbagai fungsi dalam satu konsol terpadu. Dari sisi delivery, tersedia load balancing, DNS, CDN, API gateway, dan multi-cloud networking; sedangkan dari sisi security, kemampuannya mencakup access security, AI Gateway, data leak prevention, network firewall, serta WAF yang terdiri dari web application firewall, API protection, bot protection, dan DDoS . Selain itu, ADC 3.0 menerapkan prinsip Zero Trust agar kebijakan keamanan konsisten di semua lingkungan, dan menawarkan Automation & Analytics melalui rich analytics dari unified logs serta full lifecycle automation untuk DevOps, SecOps, dan NetOps .

Surung juga menekankan bahwa sebelum ADC 3.0, perusahaan biasanya mengelola banyak point solution terpisah, load balancer brand A, DNS brand B, API gateway brand C. Hal ini dapat berujung pada data yang terpisah-pisah (data silo) dan proses manual. “Biasanya point solution terpisah… sementara di sini semuanya ada di satu consolidated platform sehingga memudahkan integrasi, korelasi log, dan otomatisasi end-to-end tanpa silo,” imbuhnya.

Manfaat untuk Penyedia dan End User Aplikasi

Surung memaparkan bahwa yang pertama kali merasakan manfaat dari platform ini memang bukan pengguna akhir, melainkan penyedia aplikasi. Dengan ADC 3.0, operasi networking dan security menjadi lebih sederhana dan otomatis, “Sehingga tim TI dapat fokus untuk mengembangkan aplikasinya, tidak repot mengurus day-to-day operation-nya lagi,” ujar Surung. Penyederhanaan ini memangkas waktu dan biaya operasional, meminimalkan kebutuhan akan point solution yang beragam, dan memfasilitasi kolaborasi lintas tim DevOps, SecOps, dan NetOps dalam satu platform terpadu.

Sementara itu, pengguna akhir disebut Surung Sinamo akan merasakan user experience yang lebih konsisten, cepat, dan andal. Karena penyedia aplikasi kini dapat merilis fitur baru dengan lebih cepat dan melakukan troubleshooting secara otomatis, risiko gangguan layanan atau downtime dapat diminimalkan. Dengan demikian, end user menikmati aplikasi yang selalu responsif dan aman, tanpa harus mengalami interupsi akibat celah keamanan atau konfigurasi yang tidak sinkron.

Dengan menyatukan delivery dan security serta menambahkan automasi cerdas berbasis AI, F5 Application Delivery and Security Platform membantu perusahaan menghadirkan layanan aplikasi modern yang andal dan aman di era AI.