Ringkasan dokumen tersebut adalah: (1) Ismail Fahmi membahas deteksi hoaks dengan artificial intelligence; (2) Ada banyak konten propaganda dan hoaks yang mudah menyebar di media sosial karena resonansi antar platform; (3) Penelitian MIT menunjukkan bahwa perubahan perilaku manusia diperlukan untuk menghadapi penyebaran informasi palsu.

1. MENDETEKSI HOAKS
DENGAN ARTIFICIAL
INTELLIGENCE
Ismail Fahmi, Ph.D.
Direktur Media Kernels Indonesia (Drone Emprit)
Dosen Universitas Islam Indonesia
Wakil Ketua Komisi Infokom MUI
MADRASAH VIRTUAL RAMADHAN
21 APRIL 2021

2. 2
1992 – 1997 S1, Teknik Elektro, ITB
2003 – 2004 S2, Information Science, Universitas Groningen, Belanda
2004 – 2009 S3, Information Science, Universitas Groningen, Belanda
2000 – 2003 Inisiator IndonesiaDLN (Digital Library Network pertama di Indonesia)
Mengembangkan Ganesha Digital Library (GDL)
Mendirikan Knowledge Management Research Group (KMRG) ITB
Membangun Digital Library ITB
2009 – Sekarang Engineer di Weborama, Perusahaan berbasis big data (Paris/Amsterdam)
2014 – Sekarang Founder PT. Media Kernels Indonesia, a Drone Emprit Company
2015 – Sekarang Konsultan Perpustakaan Nasional, Inisiator Indonesia OneSearch
2017 – Sekarang Dosen Tetap Magister Teknik Informatika Universitas Islam Indonesia
Ismail Fahmi, Ph.D.
Ismail.fahmi@gmail.com
Lahir: Bojonegoro, 1974
Founder Media Kernels Indonesia

3. PERINTAH AL-QURAN:
TELITI KEBENARAN BERITA
3
Wahai orang-orang yang beriman! Jika seseorang
yang fasik datang kepadamu membawa suatu
berita, maka telitilah kebenarannya, agar kamu
tidak mencelakakan suatu kaum karena
kebodohan (kecerobohan), yang akhirnya kamu
menyesali perbuatanmu itu.
(Al-Hujurat 6)

4. TENTANG KAMI

5. MATA NAJWA LIVE ‘HOAX VIRUSES’
5
confidential

6. #ILC SOCIAL MEDIA WAR (21 AUGUST 2018)
6

7. PRESIDENTIAL ELECTION DEBATE 2019
7

8. SOCIAL MEDIA

9. BIG DATA – BIG GROWTH
9

10. PENGGUNA TWITTER DI INDONESIA
NAIK DARI 27% (2018) MENJADI 56% (2020)
10
27%
52%
56%
2018
2019
2020

11. 11
MILLENIAL
GEN Z

12. CROSS PLATFORM RESONANCE
12

13. #SOCIALDILEMMA

14. DISINFORMATION-FOR-PROFIT BUSINESS MODEL
Logic dalam sistem rekomendasi di Twitter dan Facebook lebih memberi kemudahan bagi
berita kontroversial untuk menyebar lebih cepat dari berita benar. Di Twitter hingga 6x lebih
cepat. Mereka dapat profit. ~ The Social Dilemma, Film (Netflix)
14

15. AI SECARA OTOMATIS BELAJAR DARI PERILAKU
Ternyata model yg dihasilkan algoritma ini membuat perilaku membagi disinformasi itu
jauh lebih mudah dilakukan, daripada perilaku mencari dan menyebarkan kebenaran.
15

16. AI MENGHASILKAN MODEL YANG BIAS
Bias terhadap disinformasi lebih berat dari pada terhadap kebenaran. Kenapa? Karena disinformasi
memicu kontroversi, menaikkan atensi, dan memberi keuntungan besar pada platform. Semakin
untung, semakin bias.
16

17. CHECKMATE ON HUMANITY
• Perusahaan ingin untung.
• Bisnis model dibuat.
• Model yg menarik attention dan screen time yg paling menjual.
• Attention tinggi didapat dari polarisasi, radikalisasi, outrage.
• Checkmate!
17

18. ATTENTION ECONOMY
18

19. MOBOKRASI DALAM SOSIAL MEDIA
19

20. DEEP POLARIZATION
20
Polarization Polarization
Polarization
INDONESIA

21. PROBLEM WITH SOCIAL MEDIA
•It is designed to favor:
• broadcasting over engagement,
• posts over discussions
• shallow comments over deep conversations.
•Results: deep polarization.
•Future: civil war.
21

22. INFODEMIC OF MISINFORMATION

23. PLANDEMIC: MASKER
23
Wawancara dengan virologist Judy Mikovits. Pertama soal masker.
Dibilang oleh virologist JM yg jadi narsum video ini, bahwa memakai
masker akan mengaktifkan virus dari diri sendiri, lalu membuat kita
jadi sakit. Kalau dipercaya, ini orang akan ramai2 melepas masker.

24. PLANDEMIC: MICROBA LAUT
24
Kedua, air laut yg asin mengandung mikroba yang bisa
menyembuhkan kl sakit (covid). Logika yang aneh.
Virus itu adanya di dalam tubuh, di paru2, di darah.
Emang kl berenang di pantai kita meminum air laut,
biar mikrobanya menyembuhkan sakit kita?

25. MENGHADAPI ‘PLANDEMIC’
25

26. VIRAL TEORI KONSPIRASI: CONTEXT COLLAPSE
26
There is a concept in social media
studies known as “context collapse.”
Usually attributed to the
researcher Danah Boyd, it refers to the
way in which social media platforms
take messages that the sender intended
to be seen by one audience in a given
context and serve them up to others
who were not the intended targets.

27. CONTEXT COLLAPSE: KONSPIRASI DIBANGUN DARI
POTONGAN FAKTA, KLAIM, DARI SANA SINI
27
In an era of global social media
platforms, however, the dynamics of
context collapse mean that conspiracy
theories promoted by users in one
place are colliding with users in others.
The fragmented nature of social media
chops conspiracies into little pieces—a
factoid here, a false claim there—
creating a kind of information petri dish
for conspiracy cross-propagation,
allowing half-true facts,
decontextualized narratives, and false
beliefs to flow and fold into one
another and spread rapidly across the
world.

28. DAMPAK RIIL TEORI KONSPIRASI
28
Contoh, teori bahwa jaringan
5G berhubungan dengan
penyebaran covid19, telah
menyebabkan 30 serangan
(pembakaran) pada perangkat
BTS (menara) 5G di UK. Teori
itu menyebar karena didukung
oleh selebritis dan influencer.

29. SOLUSI: FLOOD WITH FACTS AND SCIENCE
29
Cepatnya teori konspirasi ini
berkembang, membuat Sekjen
PBB menyebut gelombang
misinformasi yg dihasilkan
sebagai "dangerous epidemic
of misinformation".
Solusinya, "flood the Internet
with facts and science."

30. PROMOTE: FACT & SCIENCE, HOPE & SOLIDARITY
30

31. PSYCHOLOGY OF CONSPIRACY THEORY

32. MENGAPA BANYAK YANG PERCAYA
TEORI KONSPIRASI?
32
Di masa krisis dengan
situasi yang kompleks
seperti sekarang ini, orang-
orang akan mudah percaya
teori konspirasi karena
mereka "butuh penjelasan
yang masuk akal bagi
mereka atas situasi yang
sedang terjadi."

33. SNA FACEBOOK: ‘VACCINE’ TOPIC
33
Anti Vaksin
Pro Vaksin
Undecided
• Jumlah individu anti vaksin
relative lebih kecil
ukurannya.
• Namun, mereka lebih
dekat dan berinteraksi kuat
dengan cluster yang belum
memutuskan pro atau anti.
• Jumlah cluter anti vaksin
hampir 3x pro vaksin, dan
jumlah membernya lebih
banyak, meski total
individunya lbh sedikit.

34. EVOLUSI CLUSTER ANTI, PRO, NETRAL
34
a) Anti Vaksin (merah) berhasil
membangun jaringan antar group
lebih banyak, lebih kuat, dibanding
pro vaksin (biru).
b) Pertumbuhan anggota group anti
vaksin (merah) lebih tinggi dibanding
pro vaksin (biru).

35. PREDIKSI ANTI VS PRO VAKSIN
35
a) Dalam 10 tahun ke depan, anti vaksin akan
mendominasi dalam jumlah pendukung.
b) Pro Vaksin bisa tetap mengungguli anti
vaksin jka bisa meyakinkan cluster
undecided.

36. PEMBUAT HOAX

37. SOSOK PEMBUAT HOAX DI MATA NAJWA
37

38. HOAX POLITIK PALING KONSISTEN
PENDAPATANNYA
38

39. MIT RESEARCH
MENGAPA FAKE NEWS CEPAT MENYEBAR?
39

40. KESIMPULAN RISET MIT
•Humans spread false news more quickly.
•“Now behavioral interventions become even
more important in our fight to stop the spread
of false news”
•Reflect on a simple idea: “Think before you
retweet.”
40

41. CARA MENDETEKSI HOAKS: TEKS,
GAMBAR, DAN VIDEO

42. ARE YOU “INFORMATION LITERATE”?
TANYAKAN 6 HAL INI SEBELUM “SHARE” BERITA
1. SIAPA PENULISNYA?
Dapatkan anda menemukan nama penulisnya,
atau sumber situs web aslinya?
2. UNTUK SIAPA INFORMASI INI DIBUAT?
Dimana pertama kali dipublikasikan, kapan
tanggalnya, dan untuk kalangan audiens mana?
3. APA YANG SEBENARNYA INGIN
DISAMPAIKAN?
Apakah ini artikel iklan, potongan berita, atau
opini seseorang?
4. MANGAPA BERITA INI DIBUAT?
Siapa yang ditarget oleh informasi ini,
bagaimana anda pertama kali mendatkannya?
5. SUMBER INFORMASINYA DARI MANA?
Dapatkah anda menemukan referensi dalam
informasi ini?
6. APAKAH GAMBAR
ATAU VIDEONYA
OTENTIK?
• Apakah judul, gambar,
video, dan teksnya
benar-benar nyambung
dan akurat?
• Coba kalau bisa cek
sumber asli dari gambar
atau videonya.
Diadaptasikan dari
FINLANDIA

43. KOLABORASI CEK FAKTA (CEKFAKTA.COM)
43

44. DATABASE & SEARCH ENGINE HOAKS:
CEKFAKTA.COM
44

45. DETEKSI HOAKS CORONA VIRUS
BANYAK BEREDAR DI MEDIA SOSIAL DAN PESAN SINGKAT
45
LEBIH BANYAK PROSES MANUAL DALAM
MELAKUKAN DETEKSI DAN VERIFIKASI

46. DETEKSI HOAKS TEKS: BELUM ADA YANG
AKURAT, GUNAKAN GOOGLE SEARCH
46

47. DETEKSI GAMBAR MENGGUNAKAN ARTIFICIAL
INTELLIGENCE
47

48. CONTOH TOOL VERIFIKASI HOAKS /
DISINFORMASI
48

49. MENGECEK KEBENARAN SEBUAH VIDEO ATAU
GAMBAR
49
https://turnbackhoax.id/2020/0
5/21/salah-video-tanah-abang-
penuh-bray/

50. 50

51. ANALISIS SEBARAN HOAKS/KONSPIRASI

52. VAKSIN MENGANDUNG CHIP
52

53. TREN: CHIP DALAM VAKSIN
53
Keyword: vaksin
Filter: chip, chips, microchip, microchips, barcode, bar code

54. SIAPA YANG MEMULAI?
TEORI KONSPIRASI DI FACEBOOK DAN IG
54

55. VIDEO TERPOPULER: HOAX DAN DEBUNK
55

56. MEME TERPOPULER: DEBUNKING
56

57. FACEBOOK POST PALING DISUKAI
57

58. VIDEO YOUTUBE PALING POPULER
58

59. DESKRIPSI VIDEO YOUTUBE: DEBUNK
59

60. SNA: CHIP DALAM VAKSIN
60
Pro Pemerintah
Penyebar Hoax
Nakes, KOL

61. CLUSTER PENYEBAR HOAX
61

62. KESIMPULAN HOAKS CHIP DALAM VAKSIN
• Isu ini berasal dari luar negeri, seperti halnya banyak hoaks berbasis
teori konspirasi lainnya.
• Masuk di Indonesia, hoaks ini mendapat momentumnya saat
Menteri BUMN Erick Thohir menjelaskan penggunaan barcode
dalam acara Mata Najwa.
• Penyebar hoaks membuat video baru dengan menggabungkan
potongan video dari Mata Najwa dan video dari luar negeri untuk
semakin meyakinkan teori konspirasinya.
• Hoaks dalam bentuk video cenderung lebih mudah menyebar di
berbagai kanal dan lebih dipercaya, dibandingkan yang dalam
bentuk gambar dan teks.
• Di peta SNA Twitter, cluster penyebar hoaks lebih besar dari cluster
nakes (netral), namun kalah jauh dibanding cluster Pro Pemerintah,
sayangnya diselipi dengan isu politik.
62

63. PENUTUP

64. PENUTUP
• Terdapat banyak sekali konten propaganda, hoax, hate speech di media
sosial.
• Mudahnya informasi beresonansi dari satu kanal media sosial ke kanal lain
menyebabkan konten tersebut menyebar dengan cepat.
• Dari penelitian MIT, untuk menghadapi penyebaran propaganda dan hoax:
perubahan perilaku manusia.
• Belum ada tool AI yang bisa otomatis mendeteksi hoaks dengan akurasi
tinggi. Tools AI yang ada hanya sebagai alat bantu untuk menemukan
informasi yang tepat guna mendebunk informasi hoaks. Misal untuk
mendapatkan sumber artikel, image, atau video yang relevan.
• Sikap Muslim?
“Think before Sharing” à Sesuai surat Al Hujurat 6: “telitilah
kebenarannya”.
64

65. THANK YOU FOR LISTENING
65