Day 2 (NEXT GEN AI 2025) : Focus pada Cyber Security, Governance Data Privasi & Sertifikasi Profesi & Peralatan

By
Hani Pebriyani
-
0
17

Day 2 Summit Next GenAI 2025 sukses diselenggarakan  pada tanggal 28 October 2025 di Hall A1 JIEXPO dengan fokus pada Cyber Security, Governance Data Privasi & Sertifikasi Profesi & Peralatan.

Setelah lagu kebangsaan Indonesia Raya diawali dengan  Opening Remark Chairman ABDI, Dr Rudi Rusdiah MA. Dilanjutkan dengan Keynote Speakers:  Syamsi Hari SE,MM, Ketua BNSP (Badan National Sertifikasi Profesi) yang membahas isu Sertifikasi Profesi yang sedang digalakkan Pemerintah untuk meningkatkan kompetensi Tenaga Kerja Indonesia kedepan. Khusus Day 2 Summit ini fokus pada sektor SiberSecurity, Pejabat PDP & AI Engineer;  Rektor Universitas Pertahanan, diwakili Marsma TNI Dedy Ghaji Elsyaf MSi,Karo Kerma Humas & Kepala BSSN diwakili Mayjen TNI Bondan Widiawan Skom, MSI berbicara terkait bagaimana memanfaatkan AI untuk meningkatkan pertahanan dan ketahanan siber di NKRI bersama Keynote Syarbeni CSPO (CyberSecurity & Privacy Officer),Huawei Indonesia; drg Rudy Kurniawan, Kepala Pusdatin, Kemen Kesehatan berbicar tentang penerapan Satu Sehat Indonesia dan peranan AI pada Teknologi Kesehatan; Jay Lin (Taiwan), Director, JBL AI DC menugaskan Mr Steve Chou, Sales Manager, Edgecore Networks Corp berbicara terkait teknologi Server, Switch dan Networking products untuk AI Data Center;  

Fire Chat Panel Discussion yang sangat dinamis  dengan moderator Dr Rudi Rusdiah MA, ABDI berdiskusi dengan para panellist: Panelist Pertama, Marsma TNI Prof Dr Ir Rudi Gultom, Rektor Nurtanio yang bercerita tentang pengalamannya minggu lalu menjadi panelis bersama para Komandan Siber, Petinggi Militer Negara Asean di Singapura, berdiskusi tentang: (1). Bagaimana konsep Cybersecurity Quadruple Helix dapat memperkuat kerja sama antara Pemerintah, Industri, Akademisi, dan Pengguna (Militer & Masyarakat Sipil) dalam menghadapi ancaman siber yang semakin kompleks, (2). Proposal Sixware Cyber Security Framework (SWCSF) yang diusulkan utk meningkatkan keamanan siber di lingkungan ASEAN, (3). Mengapa Public–Private Partnership dianggap sebagai fondasi utama dalam membangun pertahanan/keamanan siber di era digital saat ini, khususnya di kawasan ASEAN?; (4). Dalam konteks kemajuan teknologi seperti AI, Big Data dan Quantum Computing, bagaimana keseimbangan antara inovasi dan keamanan dapat dijaga melalui kerja sama publik–swasta; 5.  Urgensi pengembangan Regional ASEAN Cyber Defence Framework dan bagaimana tiga pilar utamanya, Policy & Technical Interoperability, Cross-Border Data Exchange, dan Human Capital Development, dapat meningkatkan keamanan siber kolektif kawasan ASEAN?;

Selanjutnya, Panelist Kedua, Rindy, Ketua Tim Pengawas Kepatuhan Ruang Digital, Kementrian Komdigi yang memang pakar terkait UU PDP dan Pengawasan terhadap pelanggaran PDP membahas isu isu: (1). Pengaturan prinsip 2 dasar Pemrosesan Data Pribadi (ProsDP) pada UU PDP, termasuk keharusan peroleh persetujuan & memastikan tujuan ProsDP yang jelas. Dalam konteks AI yang gunakan big data dalam machine learning, bagaimana memastikan agar Pengumpulan & ProsDP untuk pelatihan AI tetap comply dengan UU PDP? Sebagai Kepala Pengawas Ruang Siber, Bagaimana Trend Pelanggaran UU PDP di Indonesia dari sejak dicanangkan PP PSTE 2019 & UU PDP 2022 ?,  (2). AI yang sering digunakan untuk melakukan profiling atau mengambil keputusan otomatis terhadap individu, misalnya dalam rekrutmen, kredit, atau layanan publik. Bagaimana penerapan prinsip  keadilan dan hak SDP (Subject Data Pribadi) dalam konteks automated decision-making ini sesuai ketentuan UU PDP?, (3).  ⁠Salah satu Prinsip utama UU PDP adalah ProsDP yang harus miliki dasar hukum & tujuan yang spesifik. Sementara pada AI, data sering digunakan untuk eksplorasi dan pengembangan model. Bagaimana Kominfo memandang praktik ini agar tetap sejalan dengan prinsip lawfulness, fairness, and purpose limitation dalam UU PDP, (4) Penerapan pada fase training model AI menggunakan data yang diklaim sudah dianonimkan. Namun secara teknis, beberapa riset menunjukkan data yang teranominisasi masih bisa diidentifikasi kembali. Sejauh mana proses anonimisasi dapat dianggap memenuhi standar perlindungan data pribadi sesuai UU PDP?;

Selanjutnya Panelist Ketiga, Eko Arieslianto, Kepala Pussertif (Pusat Sertifikasi) Teknologi Keamanan, BSSN membahas: (1). Produk AI apa saja yang sudah tersertifikasi di Pussertif? (2). Peran sertifikasi keamanan siber dan sandi yang dilakukan Pussertif untuk mendukung keamanan siber di Indonesia?; (3).  Pemanfaatan AI di BSSN untuk pengamanan siber saat ini; (4) Apa yang harus dilakukan Pemohon yang ingin mengajukan sertifikasi untuk produk IT; (5)  Dalam menyiapkan dokumen persyaratan, apakah terdapat layanan pendampingan untuk pemohon? Biaya untuk sertifikasi pada BSSN?;

Last but not least, Panelist Keempat dan Terakhir,  Andrew Wilinata, Manager Huawei Cloud yang menjadi sponsor utama acara ABDI bersama BCA berdiskusi tentang: (1). Langkah praktis yang bisa diambil untuk memperkuat kolaborasi antara Tim Data Protection, Compliance, dan Bisnis dalam mengelola big data enterprise; (2) AI kini banyak digunakan untuk analisis data — bagaimana memastikan data yang dipakai AI baik untuk pelatihan dan inferencing tetap aman dan etis?;  (3). Menyeimbangkan kebutuhan berbagi data enterprise untuk inovasi produk dengan kewajiban menjaga privasi; (4). Membangun budaya kesadaran keamanan data enterprise di antara karyawan non-teknis mengingat banyaknya serangan diawali dengan sosial engineering dan spear phishing.

Day 2 Opening Remark

Banyaknya Keynote Day 2 yang fokus pada Cyber Security, maka Cyber Security menjadi pokok bahasan pada Opening Remark ABDI Day 2 yan diawali dengan Prinsip Proactive Cybersecurity, dimana AI & M/L (Machine Learning) dimanfaatkan untuk melakukan Defense  Predictive Analytics  Beralih dari reaktif (menanggapi serangan, sehingga timbul kerusakan yang masif) menjadi proaktif CyberSecurity melalui prediktif  analytics(Cegah sebelum terjadi) dengan Identifikasi anomali & pola ancaman yang tersembunyi (SIEM – Security Information and Event Management).

  1. Machine Learning (M/L)dalam penepan Cybersecurity bermanfaat untuk:
  2. 1. Deteksi Anomali:Model M/L  yang dilatih dengan analisis data Network & endpoint secara massif dari SIEM,IDS, Firewall, dapat mengidentifikasi anomaly sekecil apapun, sebagai indikator awal attack /threat (zero-day). Artinya proaktif melakukan continuous 24/7 monitoring & detections memanfaatkan AI, sebelum serangan merusak system.
  3. User Behaviour Analytics (UEBA):Membangun baseline user & system behaviour, agar dapat lebih cepat dan dini mendeteksi aktivitas mencurigakan (misalnya lonjakan akses data atau aktivitas login yang mencurigakan dll).
  4. Keuntungan:AI dapat membantu mengurangi false positives secara signifikan dibandingkan  deteksi tradisional, & increase response time.
  5. Future Security: Generative AI & Agentic AI in Défens e Automation

Menapak Kedepan, maka AI akan didominasi oleh Generative AI saat ini dan dilanjutkan dengan Agentic AI. Dijelaskan secara detail di Buku ABDI 2025 yang soft launching di NextGenAI (DataSecurAI 2025 minggu lalu dan berlanjut dengan Grand Launching di AI Leadership Summit (DataGovAI 2025).

  1. Generative AI (GenAI): 1.a. Simulasi & Sandboxmenjadi sangat penting pada sebuah Enterprise untuk memastikan terlebih dahulu semua model AI berjalan dengan aman dan memberikan banyak manfaat: Maka dibentuk Red tim (Attack tim)untuk menyerang adversary dan menguji vulnerability dari self attack misalnya melakukan Pentesting.  Sedangkan Blue tim (Defense Tim) juga menggunakan Synthetic Cyber Threat Data yang realistis  untuk menguji pertahanan vs berbagai skenario attack (unknown/new malware) dalam lingkungan aman (security assessment).

1.b. Smart AI Honeypot: Untuk menghasilkan umpan (honeypot) yang tersamar dan secara otomatis  untuk memancing, mengarahkan & menganalisis anomaly, yang cenderung adalah para adversaries/ hackers. Peranan AI Honeypot ini juga untuk merubah arah serangan DDOS ke Honeypot, sehingga mengamankan Firewall dan Access Control.

  1. Agentic AI (AI Agents):
  2. a. Respons & Recovery Otomatis: Agen AI lakukan investigasi, batasi, & mitigasi insiden otonom dengan kecepatan mesin otomatis, lampaui kemampuan manusia (isolasi endpoint yang terinfeksi & terapkan patch otonom).

2.b. Threat Hunting Otonom: Agen AI, lebih handal dari manusia dapat secara  continuous 7/24 menjelajahi  dan mengawasi jaringan,  mencari Indicators of Compromise/IoC) otonom (tanpa intervensi manusia), menjalankan queries & analisis seluruh infrastruktur/ system. Ini sangat penting untuk melakukan Deteksi Dini secara cepat dan tanggap, prinsip utama dari Proaktif Cyber Security

  1. Visi:Agentik AI Menciptakan “Loop Pertahanan Otonom”  melakukan deteksi, analisis, & respons secara continuous terus menerus nonstop 24/7 & Real-Time Detection), meminimalisir hacker dalam melakukan  lateral movement & insider threat melakukan serangan.

Vulnerability BlackBox Model AI

Dalam menerapkan Tata Kelola AI, salah satu masalah penting transparasi AI sebagai Black-box (B/B). Terkadang miliki algoritma yang kompleks dan data pelatihan yang besar dan kadang tidak transparan kepada pengguna. Disini tata kelola perlu diterapkan bagi Blackbox (B/B) AI untuk mengurangi vulnerabilitynya antara lain:

B/B AI:  Cara kerja Internal AI Model atau System  terkadang sangat Complex, sehingga yang diketahui hanya input dan output prompt nya saja, sehingga  sangat sulit untuk memahami cara kerja sebuah Black box AI, sehingga kemungkinan ada bias, masalah penggunaan data anonym sangat sulit dipahami/ dijelaskan dari luar blackbox, hanya dapat diamati input & outputnya.

B/B Deep Learning (D/L): Cara Berpikir M/L atau D/L dalam melakukan kognitif atau learning yang misterius. Jika model & datanya  kurang transparan, maka timbul masalah Trust, Akuntabilitas menjurus kearah etika AI.

B/B  LLM: Model AI dengan Data Pelatihan dalam jumlah besar, sering kali tidak jelas termasuk bobot internal, serta parameter dari algoritma.

Contoh Potensi  Problem Etika dari sebuah Blackbox AI sebagai berikut:

  1. a) Bias AI akibat algoritma dan data berpotensi tidak adil misalnya menjurus ke SARA
  2. b) Transparansi & akuntabilitas: Tingkat transparansi B/B yang rendah membuat pengguna sulit memahami & mengawasi proses Training atau pun inferensing model AI yang sudah ditraining.

(c) Fleksibilitas model untuk use case yang serupa, tapi bisa berbeda, maka aturan & parameter model AI harus fleksibel dan dapat  disesuaikan dari awal, namun terkadang sulit & membutuhkan waktu proses adjustment/ perubahannya..

(d).  Validitas Output & Keputusan sebuah B/B AI sering kali sulit di uji, di validasi & di replikasi. ICT Minister Singapore memiliki tools untuk menguji B/B AI : AI Verify.

(e). Security vulnerability dari B/B AI, dimana hackers dapat memasukkan data Input/prompt untuk mengacaukan system atau mencuri data atau mempengaruhi B/B dengan memasukkan data disebut Prompt Poisoning. Semacam SQL Injection pada DataBase SQL

BIAS pada model Black Box AI

AI Bias: Menjadi Risiko yang cukup rentan, dimana Process Inferensing hasilkan keputusan AI dari data training, algorithma, yg tidak adil, diskriminasi & stereotype.

Contoh AI Bias:

  1. Sampling Bias: Training Data tidak mewakili populasi target, kinerja prediksi yang bias terhadap kelompok tertentu. Contoh: Face Recognition yg dilatih  dengan data orang asing , bias terhadap data local etnis lain.
  2. Algoritma Bias: Algoritma memberikan bobot lebih besar pada atribut tertentu, sehingga keputusan nya tidak adil terhadap atribut atau kelompok tertentu. Contoh: Algoritma prioritaskan atribut usia atau jenis kelamin, sehingga proses perekruitannya bias terhadap usia tertentu dan jenis kelamin tertentu.
  3. Representation Bias: Sekumpulan (Agregat) data yang tidak akurat mewakili sebuah populasi model data, sehingga prediksinya tidak akan akurat atau terkadang bias terhadap kelompok minoritas. Contoh: Kumpulan data medis kurang mewakili perempuan, menyebabkan diagnostic pasien wanita kurang akurat. Bisa juga pada data gambar atau Teks sintetis.
  4. Confirmation Bias:Jika AI terlalu tergantung pada keyakinan atau trend data  yang sudah ada, menyebabkan terbentuknya existing belief atau pengguna sudah apriori terhadap keyakinan yang lain. Misalnyam Jika algoritma AI pada proses training majoritas laki2 , maka algoritma tsb akan utamakan laki2
  5. Measurement Bias: Jika akurasi data bervariasi diantara kelompok populasi. Contoh Model AI menggunakan biaya perawatan kesehatan sebagai proxy/ standar identifikasi pasien beresiko yang mengalami kondisi serius, namun hubungan antar biaya dan ras pasien kulit hitam cenderung memiliki biaya medis yang lebih rendah mengakibat hambatan akses bagi kelompok ras kulit hitam / kelompok miskin.
  6. Interaction Bias:Sistem AI berinteraksi dengan manusia secara bias, sehingga terjadi pelakuan tidak adil. Chatbot merespons pria & wanita secara berbeda,  akibatkan komunikasi atau pelatihan kebiasaan yang bias

Benchmarking dengan Regulasi di Berbagai Negara Global yang mendorong AI

  1. Indonesia memiliki beberapa pedoman/regulasi/peraturan terkait implementasi AI:
  2. Stranas KA (Strategi Nasional KA 2020-2045:

(a). 4 Area Fokus: Etika dan Kebijakan. Pengembangan Talenta.  Infrastruktur dan Data. Riset & Inovasi Industri;

(b). 5 (lima) bidang prioritas sukseskan misi Stranas AI: 1.Layanan Kesehatan; 2. Reformasi Birokrasi; 3. Pendidikan & Riset; 4. Ketahanan Pangan; 5. Mobilitas & SmartCity.

  1. Nilai2 Etika AI: (1)Berorientasi pada manusia sebagai pengawas, kekokohan & keamanan,tata kelola data & privasi, transparansi; (2) Kesejahteraan sosial & lingkungan, keanekaragaman,non-diskrimina-si, & keadilan); (3) Bernafaskan nilai2 Pancasila. (4). Andal, aman & terbuka, akuntabel; (4)  Sinergitas antara pemangku kepentingan; (5) Penerapan asas2 UU No.11/ 2019 tentang Sistem Nasional Ilmu Pengetahuan & Teknologi.
  2. SE MenKominfo No 9 /2023 tentang Etika KA:  Mengikuti EU AI Acts: Jalankan SafeGuard dengan 4 kategori Aspek Risiko Implement AI: (1). Resiko tidak dapat diterima; (2) Risiko Tinggi; (3) Risiko Minimal/ Rendah.

(a). Sebagai pedoman etika dalam:  1). Membuat & rumuskan kebijakan internal perusahaan, penyelenggara sistem elektronik (PSE) lingkup publik & lingkup privat mengenai data & etika internal AI.;)2. Pelaksanaan konsultasi, analisis, & pemrograman berbasis AI sesuai  ketentuan UU.

  1. Tujuan SE Menteri: Berikan acuan nilai & prinsip etika bagi pelaku usaha, PSE (penyelenggara sistem elektronik) lingkup publik, & PSE lingkup privat yang miliki aktivitas pemrograman berbasis AI.
  2. SE Menteri:(1).Penyelenggara kemampuan AI cakup kegiatan konsultasi, analisis,& pemrograman. Penggunaan teknologi AItermasuk dalam subset M/L, Natural language Processing (NLP), expert system, deep learning, robotics, neural networks, dan subset lainnya;     (2). Penyelenggaraan teknologi AI perhatikan nilai Etika:   1) Inklusivitas (2) Kemanusiaan 3) Keamanan 4) Aksesibilitas 5) Transparansi 6) Kredibilitas dan Akuntabilitas 7) Pelindungan Data Pribadi 8) Pembangunan dan Lingkungan Berkelanjutan 9) Kekayaan Intelektual;                                                      (3). Pelaksanaan dan tanggung jawab dalam penyelenggaraan AI.
  3. OJK & Asosiasi Fintech terbitkan:  Panduan Kode Etik AI yang Bertanggung Jawab & Terpercaya di Industri Fintech dalam rangka mitigasi risiko & optimalkan AI di industri fintech

Memenuhi prinsip2: 1. Berasaskan Pancasila, 2. bermanfaat, 3. wajar & akuntabel); 4. transparan & explicable) dll.

PERLINDUNGAN DATA PRIBADI

UU PDP No 27/ 2022 -17 Oct 2022 (Adopted from EU GDPR 27/04/2016 berlaku 25 May 2018

Data Pribadi (DP) adalah data orang perseorangan yang teridentifikasi atau dapat di indentifikasi secara sendiri atau dikombinasi dengan informasi lainnya secara langsung atau tidak langsung. Data Pribadi a.k.a PII (Personal Identifiable Information). Contoh: NIK: Nomor Induk Kependudukan; KTP – Kartu Tanda Penduduk 16 digit berlaku seumur hidup;  Data Pribadi yang bersifat spesifik (data biometric, genetika, catatan criminal, data anak/keluarga, data keuangan pribadi; dll.  Data Pribadi yang bersifat umum: Nama; Jenis Kelamin; Warga Negara; Agama, Status Nikah.

Subject Data Pribadi (SDP) adalah orang perseorangan yang pada dirinya melekat DP – UU PDP Pasal 1(1).

SANGSI PELANGGARAN

Potensi Pelanggaran yang terjadi di Indonesia sejak ada PP PSTE dan UU PDP: Daftar Negara yang Mandatory (Keharusan) Appointment of DPO

Catatan: Data Protection Officer (DPO) – Pejabat Pelaksana Pelindungan Data Pribadi (PPDP)

Pada Pasal 53 & 54 dari  UU PDP disebut bahwa DC wajib tunjuk Pejabat /Petugas Pelaksana Fungsi PDP.

Pada Pasal 57 UU PDP: Sangsi Administratif jika ada pelanggaran .

Pasal 37 GDPR, penunjukan DPO oleh DC keharusan:   Otoritas publik: Wajib menunjuk DPO.

UU PDP di Tiongkok:  Personal Information Protection Law (PIPL) efektif tanggal 1 Nov 2021

UU PDP Tiongkok: Data Protection Authority(DPA) Cyberspace Administration of China/CAC (namun di Indonesia belum punya Lembaga PDP nay (DPA)

Pada Acara Day 2 diadakan Acara Soft Launching Book Day 2 – 30 Oct 2025 di JI Expo Hall A1

Soft book launching Day 2 – 30 Oct 2025 – ABDI book 2025Closing Ceremony with ABDI & Micronics Group 

RELATED ARTICLESMORE FROM AUTHOR