Pengendalian Risiko Kebocoran Data pada Perusahaan di Tengah Maraknya Penggunaan AI Generatif

Penggunaan AI generatif seperti ChatGPT, Gemini, Claude, hingga Copilot kini merambah hampir semua lini bisnis, mulai dari penyusunan laporan, analisis data, sampai layanan pelanggan. Namun di balik kemudahan itu, sebuah penelitian terbaru mengingatkan bahwa teknologi ini menyimpan risiko besar yang sering luput dari perhatian: kebocoran data.

Penelitian yang dilakukan dengan pendekatan kualitatif deskriptif ini menelusuri berbagai sumber literatur, mulai dari jurnal ilmiah, laporan industri, hingga regulasi perlindungan data, untuk memetakan risiko yang muncul akibat penggunaan AI generatif di lingkungan organisasi. Analisis dilakukan menggunakan matriks risiko 5×5 yang mengukur kemungkinan terjadinya risiko dan besarnya dampak yang ditimbulkan.

Hasilnya cukup mengejutkan: kebocoran data perusahaan dan kebocoran data pelanggan sama-sama meraih skor risiko tertinggi, 25 dari skala maksimal, dan masuk kategori “ekstrem”. Artinya, potensi kedua risiko ini terjadi sangat tinggi sekaligus berdampak sangat besar bagi organisasi.

Fenomena ini bukan isapan jempol. Kasus Samsung pada Maret 2023 menjadi contoh nyata hanya dalam waktu kurang dari sebulan setelah karyawan diizinkan memakai ChatGPT, tiga insiden kebocoran data terjadi, mulai dari kode sumber internal hingga transkrip rapat strategi bisnis rahasia yang tanpa sadar “diserahkan” ke platform AI publik. Akibatnya, Samsung terpaksa melarang total penggunaan AI generatif eksternal.

Selain dua risiko ekstrem tersebut, penelitian juga mengidentifikasi tiga ancaman lain: pelanggaran regulasi perlindungan data (kategori tinggi), serangan siber berbasis AI (kategori tinggi), dan kesalahan pengambilan keputusan akibat informasi yang tidak akurat dari AI (kategori sedang).

Menariknya, penyebab utama membesarnya risiko ini bukan semata soal teknologi, melainkan faktor manusia. Banyak karyawan memasukkan data sensitif ke platform AI tanpa menyadari konsekuensinya, ditambah minimnya kebijakan perusahaan soal penggunaan AI dan lemahnya pengawasan keamanan informasi.

Sebagai solusi, penelitian ini merekomendasikan beberapa langkah mitigasi:

1. Menyusun kebijakan resmi tentang jenis data yang boleh dan tidak boleh dimasukkan ke platform AI.

2. Meningkatkan literasi dan kesadaran keamanan informasi karyawan melalui pelatihan berkala.

3. Menerapkan sistem Data Loss Prevention (DLP) untuk mendeteksi dan mencegah kebocoran data.

4. Memperkuat pengendalian hak akses dengan prinsip least privilege.

5. Beralih ke platform AI versi enterprise yang punya standar keamanan lebih tinggi.

6. Melakukan audit dan evaluasi berkala terhadap efektivitas sistem keamanan.

7. Membangun tata kelola AI (AI governance) yang mengawasi penggunaan teknologi secara menyeluruh.

Sumber:

International Organization for Standardization. (2018). ISO 31000:2018 Risk Management—Guidelines. ISO.

National Institute of Standards and Technology. (2024). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST.

OECD. (2024). OECD Framework for Artificial Intelligence Governance. OECD Publishing.

World Economic Forum. (2024). Global Cybersecurity Outlook 2024. World Economic Forum.

Syarat dan Ketentuan Penulisan di Siaran-Berita.com :
Setiap penulis setuju untuk bertanggung jawab atas berita, artikel, opini atau tulisan apa pun yang mereka publikasikan di siaran-berita.com - Syarat dan Ketentuan - Kebijakan Privasi - Panduan Komunitas - Disclaimer