SKRIPSI
NANDAR AFRIZA
0 5 1 4 0 1 0 1 0
DEPARTEMEN S-1 ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA
MEDAN 2010
PERSETUJUAN
Judul : ANALISIS PENYERANGAN VIRUS CONFICKER PADA SISTEM OPERASI WINDOWS XP DI CELAH KEAMANAN RPC DCOM 3
Kategori : SKRIPSI
Nama : NANDAR AFRIZA
Nomor Induk Mahasiswa : 051401010
Program Studi : SARJANA (S1) ILMU KOMPUTER
Departemen : ILMU KOMPUTER
Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA
Diluluskan di Medan, 3 Juni 2010 Komisi Pembimbing :
Pembimbing 2 Pembimbing 1
Syahriol Sitorus, S.Si, MIT Drs. Sawaluddin, MIT NIP 197103101997031004 NIP 195912311998021011 Diketahui/Disetujui oleh
Program Studi S1 Ilmu Komputer Ketua,
Prof. Dr. Muhammad Zarlis NIP 195707011986011003
PERNYATAAN
ANALISIS PENYERANGAN VIRUS CONFICKER PADA SISTEM OPERASI WINDOWS XP DI CELAH KEAMANAN RPC DCOM 3
SKRIPSI
Saya mengakui bahwa skripsi ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.
Medan, 3 Juni 2010
Nandar Afriza 051401010
PENGHARGAAN
Alhamdulillah, puji syukur penulis panjatkan kehadirat Allah SWT, yang telah memberikan rahmat dan ridho-Nya, sehingga saya dapat menyelesaikan penyusunan skripsi ini, sebagai syarat untuk memperoleh gelar Sarjana Komputer, Program Studi Ilmu Komputer Universitas Sumatera Utara. Shalawat dan Salam saya hadiahkan kepada Nabi Besar Muhammad SAW.
Ucapan terima kasih yang sebesar-besarnya penulis sampaikan kepada Bapak Drs. Sawaluddin, MIT sebagai Dosen Pembimbing I dan Bapak Syahriol Sitorus, S.Si, MIT sebagai Dosen Pembimbing II yang juga selaku Sekretaris Program Studi Ilmu Komputer atas bimbingan, saran, masukan kepada penulis untuk menyempurnakan skripsi ini. Ucapan terima kasih juga ditujukan kepada Ketua Program Studi Ilmu Komputer, Bapak Prof. Dr. Muhammad Zarlis, Dekan dan Pembantu Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara, semua dosen, pegawai/staf di Program Studi Ilmu Komputer S-1 USU.
Seluruh proses pengerjaan skripsi ini tidak akan dapat dilalui tanpa dukungan orangtua dan seluruh keluarga saya. Terima kasih sebesar-besarnya atas segala dukungannya baik materil dan spiritual. Semoga Allah SWT akan membalasnya. Terima kasih juga kepada seluruh sahabat-sahabat RCS yang sangat saya hormati, serta seluruh teman-teman yang tidak dapat saya sebutkan semuanya. Terima kasih pula kepada semua pihak-pihak yang tidak dapat saya sebutkan satu persatu, terima kasih atas ide, saran, dan kerjasama yang baik.
Saya menyadari bahwa skripsi ini masih jauh dari kesempurnaan, karena kesempurnaan hanya milik Allah dan kekurangan adalah milik saya. Oleh karena itu saya menerima saran dan kritik yang bersifat membangun demi kesempurnaan skripsi ini. Semoga skripsi ini dapat bermanfaat bagi kita semuanya.
ABSTRAK
Windows XP merupakan salah satu sistem operasi yang banyak digunakan dengan salah satu keunggulannya yaitu user-friendly. Namun sistem operasi ini memiliki beberapa kelemahan misalnya protokol RPC yang sering dimanfaatkan untuk penyebaran virus komputer. Salah satu virus komputer yang memanfaatkan protokol RPC adalah Conficker. Conficker menyebabkan gangguan terhadap aktivitas jaringan komputer sehingga menjadi lambat. Kajian ini bertujuan untuk menganalisis keberadaan virus Conficker yang menginfeksi sistem operasi Windows XP di celah keamanan RPC DCOM 3 dan upaya penanggulangannya.
ANALYSIS OF ATTACK CONFICKER VIRUS ON WINDOWS XP OPERATING SYSTEM IN RPC DCOM 3 SECURITY HOLE
ABSTRACT
Windows XP is a commercial operating system which is widely used because of its user friendliness and availability. However, this operating system also has some weaknesses regarding its security. One of which is its RPC protocol, which can be used by unintended users (crackers) to spread computer viruses. One virus that uses RPC protocol is the well known Conficker. Conficker may cause disruption in network activities so that the computer may become slow. The purpose of this research is to analyze the presence of Conficker that infects Windows XP which has security hole in its RPC DCOM 3 protocol and to find solutions to this problem.
DAFTAR ISI Halaman Persetujuan ii Pernyataan iii Penghargaan iv Abstrak v Abstract vi
Daftar Isi vii
Daftar Gambar ix
Daftar Tabel x
BAB 1 PENDAHULUAN 1
1.1 Latar Belakang Masalah 1
1.2 Rumusan Masalah 5 1.3 Batasan Masalah 5 1.4 Tujuan Penelitian 5 1.5 Maanfaat Penelitian 5 1.6 Metodologi Penelitian 6 1.7 Sistematika Penulisan 6
BAB 2 LANDASAN TEORI 8
2.1 Remote Procedure Call (RPC) 8
2.1.1 Client dan Server 9
2.1.2 Fitur Dalam RPC 10 2.1.2.1 Batching Calls 10 2.1.2.2 Broadcasting Calls 10 2.1.2.3 CallBack Procedures 10 2.1.2.4 Select Subroutine 11 2.1.3 Otentifikasi RPC 11 2.1.4 Implementasi RPC 12 2.1.4.1 Bahasa RPC 12 2.1.5 Port Mapper 14 2.1.5.1 Meregister Port 14
2.1.5.2 Prosedur Port Mapper 15
2.1.6 Lapisan RPC 17
BAB 3 ANALISIS 33
3.1 Proses Infeksi Conficker 33 3.2 Media Penyebaran Conficker 35
3.2.1 MS08-067 36
3.2.2 NetBIOS Share 37
3.2.3 Removable Drive 37
3.3 Generasi Nama Domain 37
3.3.1 Algoritma Generasi Nama Domain 38 3.4 Eksploitasi Conficker pada Layanan Server 44 3.5 Analisis Infeksi Conficker pada Jaringan Komputer 45
3.5.1 Dampak Forensik 45
3.5.2 Dampak Jaringan 46
3.6 Conficker A/B Temporal 47
BAB 4 IMPLEMENTASI dan PENGUJIAN 50
4.1 Implementasi 50
4.1.1 Lingkungan Implementasi 50
4.1.2 Batasan Implementasi 52
4.2 Pengujian 52
4.2.1 Proteksi 56
4.2.1.1 Pengujian Conficker Tools 63
4.2.2 Pencegahan 65
BAB 5 KESIMPULAN DAN SARAN 67
5.1 Kesimpulan 67
5.2 Saran 68
Daftar Pustaka
DAFTAR GAMBAR
Halaman Gambar 2.1 Prinsip RPC pada Client-Server 9
Gambar 2.2 Cara Kerja RPC 18
Gambar 2.3 Remote Procedure Call Flow 19
Gambar 2.4 Proses RPC 20
Gambar 2.5 Arsitektur DCOM 25
Gambar 2.6 Arsitektur DCOM Server dan DCOM Client 27 Gambar 2.7 Klasifikasi Harmful Program 30 Gambar 3.1 Conficker A (kiri) /B (kanan): Top-level control flow 34 Gambar 3.2 Algoritma Generasi Nama Domain 39 Gambar 3.3 Struktur Conficker dalam sebuah Path String 44 Gambar 3.4 Proses infeksi Conficker A pada aktivitas jaringan (8 jam) 47 Gambar 3.5 TCP/445 scan interval volume/6 jam 48 Gambar 3.6 Penghitungan IP (harian dan kumulatif) dari Conficker A/B 49
Gambar 4.1 Topologi pengujian Conficker 53
Gambar 4.2 www.Google.com 54
Gambar 4.3 www.Microsoft.com 54
Gambar 4.4 Hasil capture Wireshark pada komputer Client 55 Gambar 4.5 Kaspersky AVP Removal Tools 56 Gambar 4.6 Norman Malware Cleaner in action 57
Gambar 4.7 Stinger in action 58
Gambar 4.8 MWMSRT - Microsoft Windows Malicious Software Removal Tools 59 Gambar 4.9 KidoKiller by Kaspersky 60 Gambar 4.10 FixTOOL Worm_Downad oleh TrendMicro 61 Gambar 4.11 Downadup Removal Tool by Symantec 61 Gambar 4.12 Pesan yang diberikan oleh Downadup Removal Symantec 62 Gambar 4.13 EconfickerRemover by Eset 62
DAFTAR TABEL
Halaman Table 2.1 Port dan Protokol yang umum dieksploitasi 22
Table 3.1 Urutan proses eksploitasi Conficker pada MS08-067 36 Tabel 3.2 Konstanta yang digunakan dalam PRNG 40
Tabel 3.3 Generasi Nama Domain 41
Tabel 3.4 Sub Generasi Nama Domain: penambahan nama domain secara acak
dan loop 250 kali 42
Tabel 4.1 Perbandingan Conficker Tools kategori tools umum 63 Tabel 2.2 Perbandingan Conficker Tools kategori khusus 64
