Downloaded 35 times
Uploaded byIsmail Fahmi
From Cybersecurity to Cognitive Security
From Cybersecurity to Cognitive Security Bayangkan sebuah negara yang bisa diguncang tanpa satu pun serangan siber terjadi. Tidak ada server yang diretas, tidak ada pusat data yang tumbang, namun kepanikan publik menyebar seperti api. Itulah pertanyaan provokatif yang saya sampaikan sebagai salah satu distinguish speaker di Indonesia Cyber Security Summit (ICSS) 2025. Peristiwa Agustus Kelabu menjadi contoh telanjang bagaimana bangsa ini bisa digoyang bukan melalui jalur digital yang kita jaga siang malam, tetapi melalui pikiran warganya. Dalam hitungan jam, rumor, video tanpa konteks, dan narasi yang dipelintir memicu eskalasi sosial hingga menyebabkan pembakaran Gedung DPRD Makassar, Gedung Grahadi Surabaya, pos polisi, dan fasilitas publik lainnya. Inilah bentuk serangan baru. Serangan terhadap persepsi, emosi, dan nalar publik. Dalam forum ini, saya menunjukkan bagaimana analisis Drone Emprit selama Agustus Kelabu mengungkap pola koordinasi yang rapi. Botnet yang bergerak serentak, akun‐akun amplifier yang memompa emosi massa, dan narrative flooding yang menutup ruang klarifikasi. Ketika AI semakin murah, semakin cepat, dan semakin mampu meniru bahasa manusia, ancaman terhadap pikiran publik meningkat secara eksponensial. Karena itu saya menekankan bahwa keamanan digital tidak lagi bisa berhenti pada cybersecurity dan information security. Kita harus mengakui keberadaan lapisan ketiga yang selama ini luput: Cognitive Security, yaitu upaya melindungi integritas nalar publik dari manipulasi berbasis AI, algoritma, dan bias kognitif. Saya mengajak para pemimpin, regulator, dan para ahli siber di ruangan ini untuk melihat kenyataan baru, bahwa stabilitas nasional kini sangat ditentukan oleh kemampuan kita menjaga pikiran publik. Jika persepsi dapat direkayasa, maka negara dapat digoyang tanpa satu pun kabel jaringan disentuh.
![[BDD 2025 - Artificial Intelligence] Building a Data Architecture for Sub-Sec...](https://cdn.slidesharecdn.com/ss_thumbnails/ai-buildingadataarchitectureforsub-secondanalysis-251124030841-2110604d-thumbnail.jpg?width=640&height=640&fit=bounds)
![[BDD 2025 - Artificial Intelligence] Beyond 'It Works': A Case Study on Real-...](https://cdn.slidesharecdn.com/ss_thumbnails/ai-beyonditworksacasestudyonreal-worldairisk-251124030839-684bec68-thumbnail.jpg?width=640&height=640&fit=bounds)
From Cybersecurity to Cognitive Security
- 1. From Cybersecurity to Cognitive Security IsmailFahmi, Ph.D. Director of Media Kernels Indonesia (Drone Emprit) Ismail.fahmi@gmail.com Indonesia Cyber Security Summit 26 November 2025
- 2. 2 Agustus Kelabu Tidak adaserver yang diretas. Tidak ada pusat data yang tumbang. Tetapi seluruh negeri terguncang. Dalam hitungan jam: ● rumor liar menyebar lebih cepat dari klarifikasi ● video yang belum diverifikasi memicu kepanikan ● narasi politik bercampur dengan hoaks ● publik terpolarisasi sebelum bukti muncul Itulah serangan terhadap pikiran, bukan sistem. Dan itulah Cognitive Security. Foto: Gedung DPRD Makassar dibakar (30 Agustus 2025)
- 3. 3 1992 – 1997Undergraduate, Electrical Engineering, ITB, Indonesia 2003 – 2004 Master, Information Science, University of Groningen, NL 2004 – 2009 Doctor, Information Science, University of Groningen, NL 2009 – Now Consultant at Weborama (Paris/Amsterdam) 2014 – Now Founder PT. Media Kernels Indonesia, a Drone Emprit Company 2017 – Now Lecturer at the Magister Program of the Universitas Islam Indonesia 2021 – Now Vice Chairman at the Infocomm Commission, Majelis Ulama Indonesia 2023 – Now Vice Chairman at the MPI, Central Board of Muhammadiyah 2024 – Now Founder/Preskom at the LabMu (Muhammadiyah Software Labs) Ismail Fahmi, Ph.D. Ismail.fahmi@gmail.com Bojonegoro, 1974
- 4. Timeline Peristiwa AgustusKelabu 4 Pra-Peristiwa Mobilisasi Saat Peristiwa Pasca-Peristiwa
- 5. Pra Peristiwa (10-18agustus 2025) 5 BUBARKAN DPR BUBARKAN DPR BUBARKAN DPR
- 6. 6 Foto: Rumah SyahroniDijarah (30 Agustus 2025) Ancaman terbesar hari ini tidak selalu menyerang server. Ia menyerang pikiran, emosi, dan persepsi publik. Senyap, cepat, berbasis algoritma, dan berefek politik- sosial.
- 7. Cognitive Bias &Rational Decision Model 7
- 8. Mengapa Cognitive SecurityPenting Sekarang? 8 • AI membuat manipulasi informasi semakin murah dan masif • Botnet & automated persuasion semakin canggih • Deepfake semakin sulit dibedakan • Polarisasi sosial semakin tinggi • Publik makin rentan dan cepat bereaksi Social Network Analysis “Agustus Kelabu” (19-24 Agustus 2025)
- 9. Evolusi Keamanan Digital 9 LayerPertama: Cybersecurity Lindungi perangkat, jaringan, server. Layer Kedua: Information Security Lindungi data, identitas, integritas informasi. Layer Ketiga: Cognitive Security Lindungi pikiran, opini, dan persepsi masyarakat.
- 10. Iceberg Model 10 Hoaks, fakenews, serangan akun ● koordinasi botnet ● microtargeting ● narrative warfare ● psychological priming ● LLM-augmented disinformation
- 11. Cognitive Security • Definisi:Upaya menjaga integritas nalar publik dari manipulasi digital yang memanfaatkan AI, algoritma, emosi, dan bias kognitif. • Ini melibatkan: • deteksi dini • edukasi publik • desain ekosistem • sistem peringatan cepat • governance teknologi 11
- 12. Landscape Ancaman AIterhadap Pikiran Publik 12 AI-powered disinformation Deepfake & Context Collapse politik & pejabat Coordinated influence operations Automated persuasion bots (LLM-based bots) Synthetic media for psywar Hyper- personalized propaganda
- 13. Contoh Context Collapseyang Mengguncang Stabilitas 13
- 14. 14 perang narasi terorganisasi botnet amplifikasi influencerbayaran narasi “opinion doping” micro-segmentation audience targeting perang framing di momen krisis Threat Vector/Method Social Media Weaponization Social Network Analysis “RUU KUHP” (September 2019)
- 15. 15 Threat Vector/Method LLM-As-Attacker AI hariini bisa: • membuat ribuan narasi berbeda dalam hitungan detik • menyesuaikan tone sesuai segmen audiens • mendesain psywar berbasis data emosi & sentimen • menghasilkan fake evidence yang kredibel
- 16. Contoh Skenario SeranganCognitive 16 Menjelang aksi → massive narrative flooding Saat krisis → panic engineering Saat isu sensitif → framing for polarisation Saat konflik geopolitik → narrative poisoning Serangan tidak lagi butuh hacking — cukup menggeser persepsi.
- 17. Dampak Real turunnya trust publikke institusi meningkatnya polarisasi penurunan stabilitas politik menurunnya kepercayaan terhadap media & pemerintah risiko konflik horizontal melemahnya ketahanan nasional 17
- 18. Dari Cybersecurity keCognitive Security 18 CYBERSECURITY MELINDUNGI SISTEM COGNITIVE SECURITY MELINDUNGI MASYARAKAT Keduanya harus digabung menjadi National Digital Defense.
- 19. Arsitektur Cognitive SecurityNasional 19 Real-time Social Sensing Platform AI Narrative Risk Intelligence Dashboard Deepfake Detection & Validation Layer Early Warning System untuk Krisis Informasi Pusat Kolaborasi Antarlembaga AI Governance & Ethics Framework
- 20. Ancaman Baru vsKerangka Hukum Lama (FGD Badan Pengkajian MPR, 25 November 2025) • Ancaman: • cyber war terhadap infrastruktur • Deepfake/context collapse pejabat & TNI/Polri • operasi pengaruh asing (information warfare) • kebocoran data masif • serangan ke satelit & sistem navigasi • Kerangka hukum: • UUD 1945 Pasal 30 → masih sangat “analog” • UU TNI & UU Polri → belum memandang cyberspace sebagai domain utama • Perpres BSSN & Perpres Kemkominfo/Kemkomdigi → level eksekutif, bukan konstitusional 20
- 21. What Leaders MustDo • Jadikan cognitive security sebagai isu strategis negara • Bangun unit “Cognitive Risk Center” (Cek Fakta++) • Integrasikan data lintas sektor • Gunakan AI sebagai co-pilot pertahanan • Edukasi publik secara sistematis 21
- 22. Penutup • Keamanan masadepan bukan hanya soal mencegah sistem diretas. Tetapi memastikan masyarakat tidak dimanipulasi. • Cybersecurity melindungi server. Cognitive Security melindungi bangsa. 22
- 23. Terima kasih Ismail Fahmi,PhD. Email: ismail.fahmi@gmail.com Twitter/X: @ismailfahmi