Autonomous Breach dan Keamanan AI Agent: Mengapa Pendekatan Deteksi Perlu Beradaptasi

Agen AI kini tidak hanya membantu pekerjaan manusia, tetapi juga dapat menjalankan rangkaian tindakan secara mandiri. Dalam keamanan siber, kemampuan ini mengubah cara serangan dapat berlangsung, terutama ketika AI agent dapat menjalankan beberapa tahapan tanpa menunggu arahan manusia di setiap langkah.

Executive Summary

• Riset SailPoint mencatat 82% organisasi telah mengadopsi AI agent, sementara temuan Gravitee menunjukkan hanya 14,4% yang memiliki persetujuan keamanan penuh.

• Dalam kasus GTG-1002, agen AI menjalankan 80-90% aktivitas selama proses serangan pada sekitar 30 organisasi. Operator manusia hanya terlibat pada beberapa keputusan strategis.

• Ransomware JadePuffer menyelesaikan seluruh tahapan serangan tanpa operator manusia dan memperbaiki kegagalan payload dalam 31 detik.

• Serangan yang dapat berlangsung semakin cepat membuat target MTTD 15 menit pada tier kritis SOC menjadi kurang memadai bila tidak disertai automated response.

• Organisasi perlu menyesuaikan detection, memetakan kontrol ke kerangka ancaman AI seperti MITRE ATLAS, serta mengelola identity setiap AI agent.

Kenapa Pengawasan AI Agent Belum Mengikuti Kecepatan Adopsinya?

AI generatif umumnya bekerja dengan merespons instruksi pengguna. Setelah menghasilkan respons, prosesnya selesai dan sistem menunggu perintah berikutnya. AI agent bekerja dengan pola berbeda. Agen menerima tujuan, lalu menentukan sendiri langkah yang diperlukan, mengakses sistem internal, dan menjalankan serangkaian tindakan lintas infrastruktur tanpa menunggu instruksi di setiap tahap.

Adopsi AI agent di lingkungan bisnis berkembang lebih cepat daripada kontrol keamanannya. Berdasarkan Survei SailPoint dan Dimensional Research terhadap 353 profesional TI, sebanyak 82% organisasi yang disurvei telah menggunakan AI agent. Dari jumlah tersebut, 53% melaporkan agen mengakses informasi sensitif, dan 58% mengatakan akses tersebut terjadi setiap hari. Selain itu, 23% responden melaporkan agen mereka pernah dimanipulasi hingga membocorkan kredensial akses.

Kesenjangan yang sama terlihat dari sisi tata kelola. Menurut Laporan State of AI Agent Security Gravitee yang mensurvei 919 eksekutif dan praktisi, sebanyak 81% tim sudah menggunakan AI agent di lingkungan produksi, tetapi hanya 14,4% yang menyatakan seluruh AI agent yang mereka gunakan telah memperoleh persetujuan keamanan.

Sebanyak 88% organisasi juga melaporkan atau menduga insiden keamanan terkait AI agent dalam satu tahun terakhir. Dalam kondisi seperti ini, AI agent dapat beroperasi sebelum kebijakan dan batas akses ditetapkan dengan jelas. Ketika AI agent internal memiliki hak akses luas tanpa pengawasan yang memadai, organisasi juga perlu memperhitungkan skenario ketika penyerang menggunakan AI agent untuk menjalankan serangan secara mandiri.

Apa Itu Autonomous Breach, dan Kenapa Pola Serangan Ini Berbeda?

Dari Serangan Berbantuan AI ke Autonomous Breach

Autonomous breach merujuk pada serangan ketika AI agent dapat menjalankan sebagian besar tahapan secara mandiri. Pada serangan berbasis AI, operator manusia tetap memandu setiap langkah teknis. Sebaliknya, pada autonomous breach, AI agent dapat menjalankan tahapan seperti memeriksa kerentanan dan mengekstrak data secara mandiri tanpa panduan di setiap langkah. Peran operator manusia bergeser dari mengarahkan setiap keputusan menjadi memberikan persetujuan pada beberapa keputusan strategis.

GTG-1002 dan Perubahan Peran Operator Manusia

Pada November 2025, Laporan Intelijen Ancaman Anthropic mengungkap operasi spionase siber GTG-1002, yang kini tercatat sebagai MITRE ATT&CK Campaign C0062. Kelompok threat actor ini memanfaatkan Claude Code dan Model Context Protocol (MCP) untuk menjalankan 80-90% aktivitas secara mandiri. Aktivitas ini mencakup sekitar 30 organisasi di sektor teknologi, keuangan, manufaktur kimia, dan pemerintahan. Operator manusia hanya berperan memilih target dan menyetujui keputusan di empat hingga enam titik per intrusi.

Kasus ini menunjukkan bahwa AI agent tidak harus diarahkan manusia pada setiap langkah untuk menjalankan serangan. Kemampuan menjalankan serangkaian tindakan tanpa arahan manusia juga terlihat pada ransomware dan pemerasan data, dengan proses serangan yang dapat berlangsung lebih cepat.

Apa Dampaknya Ketika Autonomous Breach Lolos dari Pengawasan?

JadePuffer dan Risiko Data yang Tidak Dapat Dipulihkan

Temuan Sysdig Threat Research Team pada Juli 2026 mengenai ransomware JadePuffer menunjukkan bagaimana AI agent dapat mengeksekusi pemerasan database secara mandiri. AI agent ini mengeksploitasi CVE-2025-3248 pada server Langflow, memanen kredensial cloud dan API key, mengenkripsi 1.342 records konfigurasi pada database Nacos, lalu menghapus data asli. Karena kunci enkripsi tidak pernah disimpan oleh agen, data korban tetap tidak dapat dipulihkan meskipun tebusan dibayar.

Ketika Kecepatan Serangan Melampaui Asumsi Waktu Deteksi

Masalahnya bukan hanya AI agent dapat menjalankan serangan sendiri, tetapi juga seberapa cepat agen dapat melanjutkan ke langkah berikutnya ketika terjadi kegagalan. Saat pembuatan akun backdoor gagal, JadePuffer mendiagnosis masalah dan menghasilkan payload perbaikan dalam 31 detik. Dengan kecepatan seperti ini, target MTTD 15 menit pada tier kritis SOC menjadi kurang memadai tanpa automated response, karena sebagian tahapan serangan dapat berlangsung sebelum analis sempat merespons.

Perbedaan kecepatan ini menunjukkan bahwa kontrol keamanan juga perlu mampu merespons secara otomatis. Ketika AI agent dapat menjalankan beberapa tindakan dalam hitungan detik, organisasi tidak lagi cukup mengandalkan pengawasan manual yang menunggu analis meninjau alert.

Kontrol Keamanan Apa yang Perlu Disesuaikan untuk Autonomous Breach?

Berdasarkan dua kasus ini, ada tiga area kontrol yang perlu mendapat perhatian organisasi, yaitu kecepatan detection dan response, cakupan detection terhadap teknik serangan berbasis AI, serta identity dan privilege setiap AI agent.

Menyesuaikan Detection dengan Kecepatan Eksekusi AI Agent

Area pertama adalah menyatukan detection dan response ke dalam alur otomatis. Menemukan anomali pada telemetri tidak banyak membantu bila tindakan penahanan (containment) masih menunggu persetujuan manual. Ketika AI agent dapat menjalankan beberapa tahapan serangan dalam hitungan detik, sistem detection harus langsung memicu automated response untuk mengisolasi host atau mencabut token sebelum data sempat dieksfiltrasi.

Memetakan Detection ke Kerangka Ancaman AI

Area kedua adalah memastikan aturan detection mencakup teknik serangan yang relevan. Aturan konvensional belum tentu mengenali teknik spesifik pada sistem AI, seperti tool misuse atau goal hijacking. Kerangka Kerja MITRE ATLAS memetakan 16 taktik serta 197 teknik dan sub-teknik ancaman AI, sementara Pedoman Mitigasi Agen AI OWASP menyediakan panduan mitigasi. Tim SOC perlu memetakan detection rules internal terhadap kedua kerangka tersebut untuk menutup blindspot pemantauan.

Mengelola Identitas, Akses, dan Aktivitas Setiap AI Agent

Area ketiga adalah tata kelola akses dan identitas non-manusia (Non-Human Identity). Data Gravitee mencatat hanya 21,9% tim yang memberikan setiap AI agent identity yang terpisah, sedangkan 45,6% organisasi masih memakai shared API keys. Kondisi ini membuat aktivitas lintas sistem sulit ditelusuri. Karena itu, setiap AI agent perlu memiliki identity tersendiri, privilege yang dibatasi sesuai fungsinya, dan pencatatan log aktivitas terpusat sebagai baseline keamanan.

Ketiga area ini tidak berdiri sendiri. Detection yang cepat tetap sulit diandalkan bila rule-nya tidak mencakup teknik serangan yang relevan, sementara automated response akan sulit dikendalikan bila identity dan privilege setiap agent tidak jelas.

Bagaimana Cisometric Membantu Menangani Risiko Ini

Dalam operasional sehari-hari, ketiga area ini membutuhkan dukungan monitoring, detection, response, dan AI Governance yang saling terhubung.

Cisometric menyediakan layanan SOC yang didukung tim analis dengan sertifikasi CISSP, OSCP, dan CEH. Layanan ini menerapkan SLA bertingkat dengan target MTTD 5 menit untuk insiden berkategori Critical. Sebagai entitas terdaftar di BSSN dan ASPI, Cisometric menyelaraskan pemantauan aktif dengan ketentuan ketahanan siber nasional.

Bagi organisasi yang sudah menggunakan atau sedang memperluas penggunaan AI agent, Cisometric juga menyediakan layanan yang lebih spesifik untuk kebutuhan ini melalui integrasi SOC dan layanan AI Governance:

• Asesmen kesenjangan kemampuan deteksi terhadap kecepatan serangan otonom.

• Pemetaan taksonomi risiko dan guardrails operasional sesuai kerangka MITRE ATLAS dan OWASP.

• Penataan tata kelola identity dan batas kewenangan agen, selaras dengan standar ISO/IEC 42001:2023, NIST AI RMF, dan COBIT 2019.

• Pengujian ketahanan dan kesiapan audit berkala oleh personel dengan sertifikasi CISA, CISSP, ISO 42001 Lead Implementer, AAIA (Advanced in AI Audit) dan AAIR (Advanced in AI Risk).

Organisasi yang ingin mengevaluasi kesiapan detection dan tata kelola AI agent dapat menghubungi Cisometric untuk konsultasi awal.

Artikel ini disusun untuk keperluan edukasi dan kesadaran keamanan siber. Informasi mengenai regulasi Indonesia, termasuk Undang-Undang Pelindungan Data Pribadi No. 27/2022 Pasal 35, POJK No. 11/POJK.03/2022, dan SEOJK No. 29/SEOJK.03/2022, disajikan berdasarkan interpretasi teks peraturan dan bukan merupakan nasihat hukum. Konsultasikan penerapan spesifik dengan penasihat hukum yang berkualifikasi.

FAQ

Apa Perbedaan Serangan Berbasis AI dan Autonomous Breach?

Pada serangan berbantuan AI, operator manusia memandu setiap langkah teknis sementara AI bertindak sebagai pendukung. Pada autonomous breach, AI agent dapat menjalankan sebagian besar tahapan serangan secara mandiri, sehingga keterlibatan manusia dapat terbatas pada beberapa keputusan strategis.

Mengapa Metrik MTTD Konvensional Tidak Memadai Menghadapi Agen Otonom?

Target MTTD biasanya ditetapkan berdasarkan seberapa cepat organisasi dapat mendeteksi dan merespons aktivitas berbahaya. Ketika AI agent dapat menjalankan beberapa langkah serangan dalam hitungan detik, organisasi perlu melengkapi target respons dengan automated response.

Apakah ancaman autonomous breach hanya relevan bagi organisasi berskala enterprise?

Tidak. Kasus JadePuffer menunjukkan bahwa serangan berbasis AI agent juga dapat memanfaatkan infrastruktur yang terekspos dan belum diamankan dengan baik. Karena itu, risiko ini tidak hanya relevan bagi organisasi enterprise. Organisasi dengan skala lebih kecil juga perlu memperhatikan exposure, patching, dan access control pada sistem yang menjalankan AI.

Apa Langkah Awal Mengamankan Operasional AI Agent?

Langkah awal adalah melakukan inventarisasi menyeluruh untuk memetakan seluruh agen aktif beserta sistem yang diaksesnya. Setelah itu, organisasi perlu memberikan setiap agen identity yang unik, membatasi hak akses sesuai prinsip least privilege, dan mengaktifkan pencatatan log aktivitas terpusat untuk keperluan audit.