IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA
LOCAL AREA NETWORK
DRAFT SKRIPSI
HENDRA H.SINAGA 101421059
PROGRAM STUDI EKSTENSI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA MEDAN
sssssIMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL PADA
LOCAL AREA NETWORK
SKRIPSI
Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai gelar Sarjana Ilmu Komputer
HENDRA H.SINAGA 101421059
PROGRAM STUDI EKSTENSI S1 ILMU KOMPUTER FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA MEDAN
PERSETUJUAN
Judul : IMPLEMENTASI DAN PERBANDINGAN
FIREWALL SECURITY MENGGUNAKAN
MIKROTIK DAN M0N0WALL PADA LOCAL AREA NETWORK
Kategori : SKRIPSI
Nama : HENDRA H.SINAGA
Nomor Induk Mahasiswa : 101421059
Program Studi : EKSTENSI (S1) ILMU KOMPUTER
Fakultas : ILMU KOMPUTER DAN TEKNOLOGI
INFORMASI UNIVERSITAS SUMATERA UTARA
Diluluskan di Medan,
Komisi Pembimbing :
Pembimbing I Pembimbing II
Prof. Dr. Opim Salim Sitompul M. Umar Saleh T, ST
NIP 196108171 987011 001 NIP 196206242 006041 015
Diketahui/Disetujui oleh
Departemen Ilmu Komputer FMIPA USU Ketua,
Dr. Poltak Sihombing, M.Kom. NIP 19620317 1991031 001
PERNYATAAN
IMPLEMENTASI DAN PERBANDINGAN FIREWALL SECURITY MENGGUNAKAN MIKROTIK DAN M0N0WALL
PADA LOCAL AREA NETWORK.
SKRIPSI
Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya.
Medan, 24 Juni 2012
HENDRA H.SINAGA 101421059
PENGHARGAAN
Puji dan syukur penulis panjatkan kepada Tuhan Yang Maha Esa, dengan limpahan kasih dan karunia-Nya kertas kajian ini berhasil diselesaikan dalam waktu yang telah ditetapkan.
Dalam menyelesaikan Skripsi ini, Penulis telah banyak mendapatkan bimbingan moril dan material dari berbagai pihak. Maka pada kesempatan ini, Penulis mengucapkan terima kasih kepada seluruh pihak yang telah banyak membantu antara lain kepada :
1. Bapak Dr. Poltak Sihombing, M.Kom, selaku Ketua Departemen Ilmu Komputer.
2. Ibu Maya Silvi Lydia, B.Sc., M.Sc, selaku Sekretaris Departemen Ilmu Komputer
3. Bapak Prof. Dr. Opim Salim Sitompul dan Bapak M. Umar Saleh T, ST selaku Dosen Pembimbing Skripsi.
4. Bapak Drs. Agus Salim Harahap, M.Si dan Bapak Drs. Dahlan Sitompul, M.Eng Sebagai Dosen Pembanding Skripsi.
5. Kepada Ayahhanda S.M. Sinaga dan Ibunda Miarta Pandiangan serta Seluruh Keluarga Besar yang banyak memberikan bantuan moril maupun material di sertai Doa yang akhirnya Skripsi ini selesai.
6. Seluruh Staf-staf Pengajar (Dosen) dan dan Pembantu Dekan Fakultas Ilmu Komputer Universitas Sumatera Utara.
7. Kepada Teman Penulis yaitu, Bambang Hadi Pranowo, Fahrie Rezeki Pane, Kristian Sinaga, Evi novita sinaga, S.Pd dan Alexander Sinaga yang telah memotivasi serta memberi dukungan serta semangat untuk Penulis dalam menyelesaikan Skripsi ini.
8. Seluruh teman satu kelas Penulis yaitu Kom A 2010 yang telah memberi motivasi dan dukungannya dalam menyelesaikan Skripsi ini.
Atas semua motivasi dan bantuan semua pihak, Penulis mengucapkan banyak terima kasih, Semoga Tuhan membalas semua kebaikan yang telah di berikan, semoga Skrispsi ini bermanfaat bagi kita semua.
ABSTRAK
Dalam sebuah jaringan istilah “firewall” adalah tembok api, yang berperan sebagai pembatas jaringan luar yang terkoneksi dengan internet. Dengan pesatnya perkembangan internet, dapat memberikan dampak positif bagi kita sebagai penyedia layanan informasi dan komunikasi, selain itu internet juga dapat memberikan dampak negatif sekaligus ancaman bagi penggunanya. Sehingga akses jaringan kita dengan internet harus dibatasi oleh sebuah pembatas yang dikenal dengan firewall. Bertujuan untuk implementasi sistem firewall security menggunakan mikrotik dan m0n0wall pada local area network. Firewall merupakan suatu perangkat keamanan jaringan yang memperkenankan berbagai bagian ruas jaringan untuk melaksanakan komunikasi antara satu dengan yang lainnya sesuai dengan definisi kebijakan keamanan yang telah diterapkan sebelumnya. firewall peka terhadap kesalahan konfigurasi dan kegagalan untuk menerapkan kebijakan, sehingga diperlukan tambahan atau peningkatan keamanan lain. Oleh karena itu, konfigurasi firewall yang digunakan dalam Mikrotik dan M0n0wall harus dilakukan secara hati-hati, sehingga organisasi seharusnya dapat bertahan dengan mengurangi kerapuhan dan gangguan baru. Dalam Perancangan Firewall pada mikrotik dan m0n0wall pada local area network menggunkan paket filtering, NAT, transparant proxy, application dan port address yang dapat mengurangi ancaman dan gangguan yang terjadi pada local area network Diperlukan usaha kerja keras untuk memelihara semua sistem di dalam cara mengamankan dan tidak semata-mata mengandalkan pada firewall untuk menghentikan ancaman keamanan tersebut.
Kata Kunci : Filter Packet, NAT, Transparant proxy, Application dan Port Address.
IMPLEMENTATION AND COMPARISON USING MIKROTIK AND M0N0WALL FIREWALL SECURITY IN LOCAL AREA NETWORK
ABSTRACT
In a networking term "firewall" is a fire wall, which acts as a barrier to the outside network connected to the internet. With the rapid development of Internet, can have a positive impact for us as a provider of information and communication services, in addition to the internet can also have a negative impact as well as a threat to users. So that we network with internet access should be restricted by a barrier known as a firewall. Destination for system implementation and the mikrotik firewall security using m0n0wall on a local area network. A firewall is a network security device that allows various parts of the network segment to implement the communication between each other according to the definition of security policy that has been applied previously. Firewalls are sensitive to configuration errors and failure to implement the policy, requiring additional or other security enhancements. Because of, the firewall configuration and administration must be done carefully, so that the organization should be able to survive by reducing brittleness and a new disorder.In the design of the mikrotik and m0n0wall Firewall on local area network use the packet filtering, NAT, transparent proxy, application address and port that can reduce the threat and disruption of the local area network.Takes hard work to keep all systems in a secure how to and not just rely on the firewall to stop security threats.
DAFTAR ISI Halaman PERSETUJUAN ... ii PERNYATAAN ... iii PENGHARGAAN ... iv ABSTRAK ... v ABSTRACT ... vi
DAFTAR ISI ... vii
DAFTAR TABEL ... x DAFTAR GAMBAR ... xi BAB 1 PENDAHULUAN ... 1 1.1 Latar Belakang ... 1 1.2 Rumusan Masalah ... 3 1.3 Batasan Masalah ... 3 1.4 Tujuan Penelitian ... 3 1.5 Manfaat Penelitian ... 4 1.6 Metodologi Penelitian ... 5 1.7 Sistematika Penulisan ... 5
BAB 2 LANDASAN TEORI ... 7
2.1 Pengertian Jaringan ... 7
2.1.1 Pengertian Jaringan ... 7
2.1.2 Jenis-Jenis Jaringan ... 8
2.1.1.1 Local Area Network ... 8
2.1.1.2 Metropolitan Area Network ... 9
2.1.1.3 Wide Area Network ... 10
2.2 Komponen Jaringan ... 10 2.2.1 Kabel ... 10 2.2.2 Hub/Switch ... 12 2.2.3 Router ... 12 2.3 Topologi Jaringan ... 13 2.3.1 Topologi Bus ... 14 2.3.2 Topologi Ring ... 14 2.3.3 Topologi Star ...15
2.4 Protokol Jaringan Komputer ... 15
2.4.1 Model Referensi OSI ... 15
2.4.2 TCP/IP (Transmission Control Protocol / Internet Protokol)... 18
2.4.3 IP (Internet Protocol) ... 20
2.4.4 Subnetting ... 20
2.5 Sejarah Mikrotik ... 21
2.5.1 Pengertian Mikrotik ... 21
2.5.2 Jenis-Jenis Mikrotik... 22
2.5.3 Mikrotik Sebagai Firewall ... 23
2.5.4 Network Address Translator (NAT)... 24
2.6 Sejarah M0n0wall ... 25
2.6.1 Fitur-Fitur M0n0wall ... 26
BAB 3 ANALISIS DAN IMPLEMENTASI SISTEM ... 27
3.1 Analisis Sistem ... 27
3.1.1 Analisis Masalah ... 27
3.2 Topologi Jaringan ... 30
3.2.1 Topologi Yang Sedang Berjalan ... 30
3.3 Sistem Yang Sedang Berjalan ... 32
3.3.1 Teknik Firewall ... 32
3.3.2 Masalah Yang Dihadapi Pada Sistem ... 34
3.5 Solusi Yang Ditawarkan ... 35
3.6 Perancangan Sistem ... 35
3.6.1 Tipe dan Alur Kerja Firewall ... 35
3.6.2 Topologi Firewall Pada Lan ... 37
3.7 Implementasi Sistem ... 38
3.7.1 Implementasi Awal Sistem ... 38
3.7.1.1 Tampilan Settingan Firewall Mikrotik ... 38
3.7.1.2 Tampilan Settingan Firewall M0n0wall ... 42
BAB 4 IMPLEMENTASI DAN PERBANDINGAN ... 46
4.1 Spesifikasi Sistem ... 46
4.4.1 Perangkat Keras ... 46
4.4.2 Perangkat Lunak ... 46
4.4.3 Perangkat Lainnya ... 47
4.2 Rancangan Implementasi ... 47
4.2.1 Implementasi Perangkat keras (Hardware) ... 47
4.2.2 Implementasi Perangkat lunak (Software) ... 47
4.2.2.1 Perangkat Lunak Mikrotik ... 48
4.2.2.2 Perangkat Lunak M0n0wall ... 49
4.3 Konfigurasi Operating Sistem ... 50
4.3.1 Konfigurasi IP Address Mikrotik ... 50
4.3.1.1 Konfigurasi NAT Firewall Mikrotik ... 51
4.3.1.2 Konfigurasi NAT Rule Mikrotik ... 53
4.3.2 Konfigurasi IP Address M0nowall... 57
4.3.2.1 Konfigurasi NAT Firewall M0nowall ... 60
4.3.2.2 Konfigrasi Firewall Rules ... 63
4.4 Hasil Pengujian Sistem ... 66
4.4.1 Hasil Pengujian Menggunakan Mikrotik dan M0n0wall... 66
4.5 Perbandingan Operating Sistem ... 70
4.4.1 Perbandingan Menggunkan Mikrotik ... 70
BAB 5 KESIMPULAN DAN SARAN ... 72
5.1 Kesimpulan ... 72
5.2 Saran ... 73
DAFTAR PUSTAKA ... 73
DAFTAR TABEL
Halaman
3.1 Pengalamatan Piranti Jaringan 38
DAFTAR GAMBAR Halaman 2.1 Jaringan LAN 8 2.2 Jaringan MAN 9 2.3 Jaringan WAN 10 2.4 Kabel Coaxial 11
2.5 Kabel STP dan UTP 11
2.6 Kabel Fiber Optic 12
2.7 Hub dan Switch 12
2.8 Router 13
2.9 Topologi Bus 14
2.10 Topologi Ring 14
2.11 Topologi Star 15
2.12 Model Referensi OSI 16
2.13 Lapisan TCP/IP 18
2.14 Pergerakan Data Dalam Layer TCP/IP 19
2.15 Mikrotik Router Board 22
3.1 Firewall Memisahkan Jaringan Public dan Local 28
3.2 Skema Firewall LAN 30
3.3 Skema Topologi Star pada LAN 31
3.4 Flowchart Firewall 32
3.5 Packet Filter 33
3.6 Alur Kerja Firewall 36
3.7 Topologi Firewall pada LAN 37
3.8 Setting Address LAN 39
3.9 Setting Firewall Rule 40
3.10 Hasil Filter Rules Pada Firewall 41
3.11 Menu NAT Inbound 43
3.12 Menu NAT Outbound 43
3.13 Setting NAT Firewall 44
3.14 Firewall Rules 44
3.15 Konfigurasi Firewall Rules 45
3.16 Traffic Shaper Rules 45
4.1 Tampilan Awal Mirotik 48
4.2 Tampilan Menu Winbox 49
4.3 Tampilan Web Gui M0nowall 49
4.4 Konfigurasi IP Address 50
4.5 Konfiguarasi NAT Firewall 51
4.6 Konfigurasi NAT Action 52
4.7 Firewall NAT Masquared 52
4.8 NAT Rules Mikrotik 53
4.9 Terminal Mikrotik 54
4.10 Filter Rules Untuk Virus 59
4.12 Halaman M0n0wall 64
4.13 Menu General Setup 65
4.14 Menu LAN 66
4.15 Menu NAT Inbound 67
4.16 Menu NAT Outbound 68
4.17 Menu NAT Firewall 69
4.18 Firewall Rules 70
4.19 Konfigurasi Firewall Rules 71
4.20 Traffic Shapper Rules 72
4.23 Jaringan Client Komputer tidak terinfeksi Virus 66
4.23 Website yang mengandung virus di block 67
4.23 Hasil pengujian port scan pada client 68
4.23 Hasil pengujian Ddos pada server 69