Teknologi Artificial Intelligence (AI) atau kecerdasan buatan kini berkembang sangat cepat di dunia bisnis. Banyak perusahaan mulai menggunakan AI untuk membantu pekerjaan sehari-hari, mulai dari membuat laporan otomatis, membantu customer service, hingga mempercepat proses coding dan analisis data.
Namun di balik manfaat besar tersebut, muncul risiko keamanan baru yang sering kali belum disadari banyak perusahaan.
Untuk menjawab tantangan ini, Darktrace memperkenalkan solusi terbaru bernama Darktrace / SECURE AI, sebuah platform keamanan yang dirancang khusus untuk melindungi penggunaan AI di lingkungan perusahaan.
Mengapa Keamanan AI Menjadi Sangat Penting?
Saat ini AI sudah masuk ke hampir semua bagian perusahaan, seperti:
-
aplikasi SaaS,
-
chatbot internal,
-
tools otomatisasi,
-
sistem cloud,
-
hingga platform coding berbasis AI.
Masalahnya, penggunaan AI berkembang jauh lebih cepat dibanding kemampuan tim IT dan keamanan dalam mengawasinya.
Banyak karyawan mulai menggunakan AI tanpa izin resmi perusahaan. Fenomena ini disebut sebagai Shadow AI, yaitu penggunaan AI secara diam-diam tanpa pengawasan.
Akibatnya:
-
data sensitif bisa bocor,
-
AI dapat mengakses informasi penting,
-
muncul risiko keamanan baru yang sulit dipantau.
Keamanan tradisional seperti antivirus dan firewall sering kali tidak mampu memahami perilaku AI yang sangat dinamis dan kompleks.
Kondisi Penggunaan AI di Perusahaan Saat Ini
Berdasarkan laporan terbaru dari Darktrace tentang keamanan AI, situasinya cukup mengkhawatirkan.
Hasil survei terhadap 1.500 profesional keamanan siber menunjukkan bahwa:
-
63% perusahaan belum memiliki kebijakan penggunaan AI,
-
bahkan sebagian perusahaan tidak memiliki rencana membuat aturan AI sama sekali.
Darktrace juga menemukan peningkatan besar dalam aktivitas upload data ke layanan AI generatif seperti chatbot dan tools AI online.
Dalam satu bulan saja, terjadi kenaikan:
-
39% aktivitas upload data ke layanan AI,
-
dengan ukuran rata-rata file mencapai 75MB.
Ini menunjukkan bahwa banyak data perusahaan kemungkinan besar keluar ke platform AI tanpa pengawasan yang jelas.
Tantangan Baru: Shadow AI
Shadow AI kini menjadi ancaman serius.
Bukan hanya karyawan yang menggunakan ChatGPT tanpa izin, tetapi juga:
-
AI di aplikasi pihak ketiga,
-
sistem otomatis berbasis AI,
-
server AI tersembunyi,
-
hingga AI Agent yang berjalan sendiri.
Masalah terbesar adalah perusahaan sering tidak sadar bahwa sistem tersebut sedang aktif.
Tanpa pengawasan yang baik:
-
data penting bisa bocor,
-
AI dapat membuat keputusan berbahaya,
-
akses sistem dapat disalahgunakan,
-
dan hacker bisa memanfaatkan celah tersebut.
Mengapa AI Sulit Diamankan?
Berbeda dengan software biasa, AI bekerja seperti manusia:
-
belajar dari data,
-
berinteraksi secara dinamis,
-
membuat keputusan sendiri,
-
bahkan bisa berubah perilaku seiring waktu.
Karena itu, metode keamanan lama yang hanya mencari pola serangan tidak lagi cukup.
Darktrace menilai keamanan AI membutuhkan pendekatan baru yang bisa memahami:
-
bagaimana AI bekerja,
-
bagaimana AI berinteraksi dengan pengguna,
-
data apa yang diakses,
-
dan kapan perilaku AI mulai mencurigakan.
Apa Itu Darktrace / SECURE AI?
Darktrace / SECURE AI adalah platform keamanan AI yang membantu perusahaan:
-
memantau penggunaan AI,
-
mendeteksi aktivitas berbahaya,
-
melindungi data sensitif,
-
dan mengontrol AI secara real-time.
Platform ini menggunakan teknologi Self-Learning AI, yaitu AI yang belajar memahami perilaku normal di perusahaan.
Jadi ketika ada aktivitas AI yang tidak biasa, sistem bisa langsung mendeteksinya.
4 Fungsi Utama Darktrace / SECURE AI
1. Memantau Prompt AI
Prompt adalah perintah atau pertanyaan yang diberikan ke AI.
Contohnya:
-
meminta AI membuat kode program,
-
meminta ringkasan data,
-
atau meminta analisis dokumen.
Masalahnya, prompt bisa digunakan untuk:
-
mencuri data,
-
memanipulasi AI,
-
atau menjalankan perintah berbahaya.
Darktrace dapat memantau seluruh aktivitas prompt dari berbagai platform seperti:
-
Microsoft Copilot,
-
ChatGPT Enterprise,
-
AWS Bedrock,
-
Salesforce,
-
dan Microsoft 365.
Jika ada prompt mencurigakan, sistem dapat:
-
memberi peringatan,
-
memblokir aktivitas,
-
atau menghentikan tindakan AI secara otomatis.
2. Mengamankan Identitas AI Agent
Saat ini banyak perusahaan mulai menggunakan AI Agent, yaitu AI yang dapat bekerja otomatis seperti manusia.
AI Agent bisa:
-
membaca data,
-
mengakses cloud,
-
mengirim file,
-
hingga menjalankan tugas otomatis.
Masalahnya, AI Agent juga bisa memiliki akses berlebihan tanpa disadari.
Darktrace membantu perusahaan melihat:
-
AI Agent mana yang aktif,
-
data apa yang diakses,
-
aktivitas apa yang dilakukan,
-
dan apakah perilakunya aman.
Jika ada aktivitas mencurigakan, sistem dapat langsung mendeteksinya.
3. Mengawasi Risiko Saat Pengembangan AI
Ketika perusahaan membuat sistem AI baru, sering kali terjadi:
-
kesalahan konfigurasi,
-
akses terlalu luas,
-
atau celah keamanan yang tidak terlihat.
Darktrace membantu memantau proses pengembangan AI sejak awal agar:
-
konfigurasi tetap aman,
-
akses tidak berlebihan,
-
dan risiko bisa ditemukan sebelum AI digunakan secara resmi.
4. Menemukan dan Mengontrol Shadow AI
Darktrace juga mampu mendeteksi penggunaan AI tersembunyi di perusahaan.
Sistem dapat menemukan:
-
AI ilegal,
-
chatbot tanpa izin,
-
server AI tersembunyi,
-
hingga koneksi mencurigakan ke layanan AI eksternal.
Dengan begitu perusahaan bisa:
-
membatasi penggunaan AI yang berisiko,
-
mengarahkan pengguna ke platform resmi,
-
dan mengurangi kebocoran data.
Mengapa Solusi Ini Penting?
Saat ini AI berkembang jauh lebih cepat dibanding aturan dan sistem keamanan perusahaan.
Tanpa pengawasan yang baik:
-
data rahasia bisa bocor,
-
AI dapat disalahgunakan,
-
dan serangan siber berbasis AI akan semakin sulit dihentikan.
Darktrace percaya bahwa keamanan AI harus menjadi bagian penting dari strategi keamanan perusahaan modern.
Kesimpulan
AI memang membawa banyak manfaat bagi bisnis, tetapi juga menghadirkan risiko keamanan baru yang sangat besar.
Perusahaan kini membutuhkan:
-
visibilitas penuh terhadap penggunaan AI,
-
pengawasan real-time,
-
perlindungan data,
-
serta kontrol terhadap Shadow AI dan AI Agent.
Melalui Darktrace / SECURE AI, perusahaan dapat menggunakan AI dengan lebih aman, terkontrol, dan sesuai kebutuhan bisnis.
Di masa depan, keamanan AI bukan lagi pilihan tambahan, melainkan kebutuhan utama bagi perusahaan yang ingin tetap aman di era digital.
darktrace Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi darktrace.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
