Metode Kaczmarz merupakan salah satu metode iteratif untuk menyelesaikan SPL berbentuk
𝐴𝐱 = 𝐛 (1)
dengan matriks koefisien 𝐴 berorde 𝑀 × 𝑁, vektor penyelesaian 𝐱 berorde 𝑁 × 1, dan vektor konstanta 𝐛 berorde 𝑀 × 1. Metode ini mencari suatu titik di dalam ℝ𝑁 yang relatif
“dekat” dengan seluruh hiperbidang. Titik semacam ini akan menjadi sebuah penyelesaian hampiran atas SPL.
Proses iterasi pada algoritme untuk metode Kaczmarz menghasilkan siklus proyeksi- proyeksi ortogonal yang berurutan pada 𝑀 hiperbidang yang dimulai dengan sebarang titik awal di ℝ𝑁. Sebelumnya, diperkenalkan terlebih dahulu notasi-notasi untuk iterasi- iterasi yang berurutan ini. Dimisalkan 𝐱𝑘 𝑛 adalah titik yang terletak pada hiperbidang ke- 𝑘 yang dihasilkan saat iterasi ke-𝑛. Langkah- langkah atau algoritme dalam mendapatkan penyelesaian hampiran dengan metode Kaczmarz adalah sebagai berikut:
1) Pilihlah titik sebarang di ℝ𝑁 dan tandai dengan 𝐱 0 .
2) Untuk iterasi pertama, tetapkan 𝑛 = 1 dan 𝐱0 1 = 𝐱 0 .
3) Untuk 𝑘 = 1,2, … , 𝑀, hitunglah 𝐱𝑘 𝑛 = 𝐱𝑘−1 𝑛 + 𝑏𝑘− 𝐚𝑘𝑇𝐱𝑘−1 𝑛
𝐚𝑘 2 𝐚𝑘. 4) Tetapkan 𝐱0 𝑛+1 = 𝐱𝑀 𝑛 .
5) Naikkan banyaknya iterasi 𝑛 sebanyak satu dan kembalilah ke Langkah 3.
Titik 𝐱𝑘 𝑛 pada langkah 3 merupakan proyeksi ortogonal dari titik 𝐱𝑘−1 𝑛 pada hiperbidang 𝐚𝑘𝑇𝐱 = 𝑏𝑘 berdasarkan Teorema 2.4.15. Algoritme ini menentukan proyeksi- proyeksi ortogonal yang berurutan dari satu hiperbidang ke hiperbidang berikutnya, mulai dari hiperbidang pertama sampai hiperbidang terakhir (dalam satu iterasi). Proyeksi akan kembali pada hiperbidang pertama setelah proyeksi pada hiperbidang terakhir dilakukan (pada iterasi sebelumnya).
Untuk iterasi ke-1, titik yang akan diproyeksikan pada hiperbidang pertama adalah titik yang merupakan penyelesaian hampiran awal, sedangkan titik yang akan
𝑘 ≤ 𝑀) adalah titik yang merupakan hasil proyeksi pada hiperbidang ke- 𝑘 − 1 pada iterasi yang sama. Untuk iterasi ke-2 dan seterusnya, titik yang akan diproyeksikan pada hiperbidang pertama adalah titik yang merupakan hasil proyeksi pada hiperbidang terakhir atau hiperbidang ke-𝑀 pada iterasi sebelumnya, sedangkan titik yang akan diproyeksikan pada hiperbidang ke-𝑘 (2 ≤ 𝑘 ≤ 𝑀) adalah titik yang merupakan hasil proyeksi pada hiperbidang ke- 𝑘 − 1 pada iterasi yang sama. Penyelesaian hampiran atas SPL diperoleh dari titik yang merupakan hasil proyeksi pada hiperbidang terakhir pada iterasi yang diinginkan.
Sebagai ilustrasi, proses proyeksi dalam mendapatkan penyelesaian hampiran atas SPL yang berukuran 2 × 2 berikut
𝑥1+ 𝑥2= 2 1
5𝑥1− 𝑥2= −1
dengan metode Kaczmarz dapat dilihat pada Gambar 2. Penyelesaian hampiran awal yang dipilih adalah
𝑥1 0 𝑥2 0 = 2
5 .
Hiperbidang di ℝ2 ini berupa garis lurus.
Penyelesaian hampiran yang diperoleh setelah dua iterasi terlihat semakin mendekati penyelesaian eksaknya. Dapat dilihat dengan mudah pula bahwa untuk iterasi-iterasi selanjutnya pun, penyelesaian hampiran yang diperoleh akan semakin mendekati penyelesaian eksaknya.
Gambar 2 Ilustrasi proses proyeksi di ℝ2. 𝑥1+ 𝑥2= 2
1
5𝑥1− 𝑥2= −1 𝑥1+ 𝑥2= 2
1
5𝑥1− 𝑥2= −1
𝐱 0 𝐱 0
4.2. Analisis Kekonvergenan
SPL pada Persamaan (1) dapat juga ditulis sebagai
𝐚𝑖𝑇𝐱 = 𝑏𝑖 untuk 𝑖 = 1, 2, … , 𝑀 (2) dengan 𝐚𝑖 adalah vektor kolom ke- 𝑖 dari matriks 𝐴𝑇, 𝑏𝑖 adalah entri pada baris ke- 𝑖 dari vektor kolom 𝐛, dan diasumsikan bahwa untuk setiap 𝑖, 𝐚𝑖 > 0, dengan kata lain vektor-vektor baris dari matriks 𝐴 taknol.
Kemudian, dimisalkan transformasi 𝑓𝑖 dari ℝ𝑁 ke ℝ𝑁 didefinisikan sebagai
𝑓𝑖 𝐱 = 𝐱 + 𝑏𝑖− 𝐚𝑖𝑇𝐱
𝐚𝑖 2 𝐚𝑖 (3) untuk 𝑖 = 1, 2, … , 𝑀
dan transformasi 𝐹 dari ℝ𝑁 ke ℝ𝑁 didefinisikan sebagai
𝐹 𝐱; 𝐛 = 𝑓1∘ 𝑓2∘ ⋯ ∘ 𝑓𝑀 𝐱 (4) = 𝑓1 𝑓2 ⋯ 𝑓𝑀 𝐱 ⋯ .
Tanabe (1971) meringkas algoritme untuk metode Kaczmarz menjadi dua langkah utama. Pertama, penyelesaian hampiran awal dipilih sebarang dan dimisalkan sebagai 𝐱 0 . Kedua, barisan 𝐱 𝑛 ditentukan dari relasi rekurensi
𝐱 𝑛+1 = 𝐹 𝐱 𝑛 ; 𝐛 (5) untuk 𝑛 = 0,1,2, …
Algoritme ini lebih sederhana daripada algoritme sebelumnya, walaupun pada dasarnya sama. Hal ini ditujukan agar lebih mudah dalam membuktikan kekonvergenan algoritme untuk metode Kaczmarz. Proyeksi ortogonal yang dilakukan pada algoritme ini berbeda dengan algoritme sebelumnya karena dimulai dari hiperbidang ke-𝑀 dan berakhir di hiperbidang pertama, sehingga barisan penyelesaian hampiran yang dibangun terletak pada hiperbidang 𝐚1𝑇𝐱 = 𝑏1 (hiperbidang ke- 1). Hal ini tidak akan mengubah penyelesaian hampiran atas SPL yang didapatkan dengan membalikkan urutan hiperbidang.
Selanjutnya, akan dibuktikan bahwa barisan penyelesaian hampiran yang dibangun dengan metode Kaczmarz ini konvergen.
Sebelumnya, bentuk Persamaan (3) yang merupakan proyeksi ortogonal dari suatu titik ke suatu hiperbidang diubah terlebih dahulu.
Selain itu, dibentuk pula persamaan- persamaan yang akan digunakan dalam membuktikan kekonvergenan barisan penyelesaian hampiran yang dibangun dengan metode Kaczmarz.
Persamaan (3) dapat dibentuk menjadi 𝑓𝑖 𝐱 = 𝑃𝑖𝐱 + 𝑏𝑖
𝐚𝑖 2𝐚𝑖 (6) untuk 𝑖 = 1, 2, … , 𝑀
dengan
𝑃𝑖 = 𝐼 − 1
𝐚𝑖 2𝐚𝑖𝐚𝑖𝑇. (7) Bukti Persamaan (6) dapat dilihat pada Lampiran 2.
Kemudian dimisalkan 𝑄𝑖 = 𝑃1𝑃2… 𝑃𝑖 (𝑖 = 1, 2, … , 𝑀), 𝑄0= 𝐼, dan 𝑅 sebagai suatu matriks berorde 𝑁 × 𝑀 dengan vektor kolom ke-𝑖 dari 𝑅 adalah
1
𝐚𝑖 2𝑄𝑖−1𝐚𝑖, maka
𝑅𝐛 = 𝑏𝑖
𝐚𝑖 2𝑄𝑖−1𝐚𝑖
𝑀
𝑖=1
. (8)
Jadi, didapatkan
𝐹 𝐱; 𝐛 = 𝑄𝐱 + 𝑅𝐛, (9) dengan matriks 𝑄 = 𝑄𝑀 yang berorde 𝑁 × 𝑁 dan matriks 𝑅 yang berorde 𝑁 × 𝑀 hanya bergantung pada matriks 𝐴. Bukti Persamaan (9) dapat dilihat pada Lampiran 3.
Notasi-notasi yang didefinisikan pada persamaan-persamaan tersebut akan digunakan pada proposisi, lema, akibat, dan teorema berikutnya. Pembuktian kekonvergenan barisan penyelesaian hampiran yang dibangun dengan metode Kaczmarz diawali dengan proposisi berikut.
Proposisi 4.2.1
𝑄 + 𝑅𝐴 = 𝐼.
Bukti:
Persamaan 𝑄 + 𝑅𝐴 = 𝐼 ekivalen dengan 𝑅𝐴 = 𝐼 − 𝑄 = 𝐼 − 𝑄𝑀.
Karena vektor kolom ke-𝑖 dari 𝑅 dan vektor baris ke-𝑖 dari 𝐴 berturut-turut adalah
1
𝐚𝑖 2𝑄𝑖−1𝐚𝑖 dan 𝐚𝑖𝑇, maka didapatkan 𝑅𝐴 = 1
𝐚1 2𝑄0𝐚1𝐚1𝑇+ 1
𝐚2 2𝑄1𝐚2𝐚2𝑇+ ⋯ + 1
𝐚𝑀 2𝑄𝑀−1𝐚𝑀𝐚𝑀𝑇 = 𝑄0
1
𝐚1 2𝐚1𝐚1𝑇+ 𝑄1
1
𝐚2 2𝐚2𝐚2𝑇+ ⋯ +𝑄𝑀−1 1
𝐚𝑀 2𝐚𝑀𝐚𝑀𝑇
(karena 1
𝐚𝑖 2 merupakan skalar untuk setiap 𝑖 = 1,2, … , 𝑀).
Karena 𝑄0= 𝐼 dan berdasarkan Persamaan (7), maka diperoleh
𝑅𝐴 = 𝐼 − 𝑃1 + 𝑄1 𝐼 − 𝑃2 + ⋯ +𝑄𝑀−1 𝐼 − 𝑃𝑀
= 𝐼 − 𝑃1+ 𝑄1− 𝑄1𝑃2+ ⋯ + 𝑄𝑀−1 −𝑄𝑀−1𝑃𝑀.
Karena 𝑄0= 𝐼 dan 𝑄𝑖−1𝑃𝑖 = 𝑄𝑖 (dari definisi), maka
𝑅𝐴 = 𝐼 − 𝑄1+ 𝑄1− 𝑄2+ ⋯ + 𝑄𝑀−1− 𝑄𝑀 = 𝐼 − 𝑄𝑀.
Bukti lengkap. ∎
Bedasarkan Proposisi 4.2.1, diperoleh proposisi berikut.
Proposisi 4.2.2
Ker 𝐴 = 𝐱 ∈ ℝ𝑁|𝑃𝑖𝐱 = 𝐱
𝑀
𝑖=1
.
Bukti:
Pertama, akan dibuktikan bahwa
Ker 𝐴 ⊆ 𝐱 ∈ ℝ𝑁|𝑃𝑖𝐱 = 𝐱
𝑀
𝑖=1
.
Dimisalkan 𝐱 ∈ Ker 𝐴 sebarang, maka 𝐴𝐱 = 𝟎 atau dapat dinyatakan dengan 𝐚𝑖𝑇𝐱 = 0 untuk setiap 𝑖 = 1, 2, … , 𝑀. Oleh karena itu, berdasarkan Persamaan (7) diperoleh
𝑃𝑖𝐱 = 𝐼 − 1
𝐚𝑖 2𝐚𝑖𝐚𝑖𝑇 𝐱 = 𝐱 − 1
𝐚𝑖 2𝐚𝑖𝐚𝑖𝑇𝐱 = 𝐱 − 𝟎 = 𝐱 untuk setiap 𝑖 = 1, 2, … , 𝑀.
Jadi, terbukti bahwa
Ker 𝐴 ⊆ 𝐱 ∈ ℝ𝑁|𝑃𝑖𝐱 = 𝐱
𝑀
𝑖=1
.
Kedua, akan dibuktikan bahwa 𝐱 ∈ ℝ𝑁|𝑃𝑖𝐱 = 𝐱
𝑀
𝑖=1
⊆ Ker 𝐴 .
Dimisalkan
𝐱 ∈ 𝐱 ∈ ℝ𝑁|𝑃𝑖𝐱 = 𝐱
𝑀
𝑖=1
sebarang, maka 𝑃𝑖𝐱 = 𝐱 untuk setiap 𝑖 = 1, 2, … , 𝑀, yaitu 𝑃1𝐱 = 𝐱, 𝑃2𝐱 = 𝐱, …, 𝑃𝑀𝐱 = 𝐱. Oleh karena itu, diperoleh
𝐱 = 𝑃1𝐱 = 𝑃1𝑃2𝐱 = ⋯ = 𝑃1𝑃2⋯ 𝑃𝑀𝐱
→ 𝐱 = 𝑄𝑀𝐱
→ 𝐱 − 𝑄𝑀𝐱 = 𝟎
→ 𝐼 − 𝑄𝑀 𝐱 = 𝟎.
Karena 𝐼 − 𝑄𝑀 = 𝑅𝐴 (berdasarkan Proposisi 4.2.1), maka
𝑅𝐴𝐱 = 𝟎
→ 𝐴𝐱 = 𝟎, sehingga diperoleh 𝐱 ∈ Ker 𝐴 . Jadi, terbukti bahwa
𝐱 ∈ ℝ𝑁|𝑃𝑖𝐱 = 𝐱
𝑀
𝑖=1
⊆ Ker 𝐴 .
Bukti lengkap. ∎
Berdasarkan Lema 2.4.4 dan Proposisi 4.2.2, diperoleh lema berikut.
Lema 4.2.3
𝑄𝐱 = 𝐱 jika dan hanya jika 𝐱 ∈ Ker 𝐴 . Bukti:
Pertama, akan dibuktikan bahwa jika 𝑄𝐱 = 𝐱 maka 𝐱 ∈ Ker 𝐴 . Hal ini sama dengan membuktikan kontrapositifnya, yakni jika 𝐱 ∉ Ker 𝐴 , maka 𝑄𝐱 ≠ 𝐱 .
Dimisalkan 𝐱 ∈ ℝ𝑁 sebarang sedemikian sehingga 𝐱 ∉ Ker 𝐴 , maka berdasarkan Proposisi 4.2.2, terdapat suatu bilangan 𝑖 (1 ≤ 𝑖 ≤ 𝑀) sehingga 𝑃𝑖𝐱 ≠ 𝐱. Dimisalkan bilangan terbesar dari semua bilangan tersebut adalah 𝑖0, maka 𝑃𝑖𝐱 = 𝐱 untuk setiap 𝑖 > 𝑖0
yaitu untuk 𝑖 = 𝑖0+ 1, … , 𝑀. Oleh karena itu, diperoleh
𝑃𝑖0𝑃𝑖0+1… 𝑃𝑀𝐱 = 𝑃𝑖0𝐱
→ 𝑃𝑖0𝑃𝑖0+1… 𝑃𝑀𝐱 = 𝑃𝑖0𝐱 . Berdasarkan Persamaan (7),
𝑃𝑖0𝐱 = 𝐼 − 1
𝐚𝑖0 2𝐚𝑖0𝐚𝑖𝑇0 𝐱 = 𝐱 − 1
𝐚𝑖0
2𝐚𝑖0𝐚𝑖𝑇0𝐱 = 𝐱 − 𝐚𝑖𝑇0𝐱
𝐚𝑖0 2𝐚𝑖0 (karena 𝐚𝑖𝑇0𝐱 adalah skalar).
Karena 𝑃𝑖0𝐱 merupakan vektor 𝐱 dikurangi proyeksi vektor 𝐱 pada 𝐚𝑖0 (berdasarkan
Definisi 2.4.5) dan 𝑃𝑖0𝐱 ≠ 𝐱, maka 𝑃𝑖0𝐱 <
𝐱 .
Berdasarkan Definisi 2.4.3, maka untuk setiap 𝑖 = 1, 2, … , 𝑀,
𝑃𝑖 = max 𝑃𝑖𝐲
𝐲 𝐲 ∈ ℝ𝑁, 𝐲 ≠ 𝟎 . Karena 𝑃𝑖𝐲 ≤ 𝐲 saat 𝐲 ∉ Ker 𝐴 dan 𝑃𝑖𝐲 = 𝐲 saat 𝐲 ∈ Ker 𝐴 , maka 𝑃𝑖 = 1 untuk setiap 𝑖 = 1,2, … , 𝑀 (artinya, setiap 𝑃𝑖 mempunyai norm satuan).
Oleh karena itu, untuk setiap 𝑖 = 1,2, … , 𝑀 𝑄𝑖 = 𝑃1𝑃2… 𝑃𝑖
≤ 𝑃1 𝑃2 … 𝑃𝑖 = 1
(berdasarkan bagian kedua dari Lema 2.4.4), sehingga diperoleh
𝑄𝑀𝐱 = 𝑄𝑖0−1𝑃𝑖0𝑃𝑖0+1… 𝑃𝑀𝐱 ≤ 𝑄𝑖0−1 𝑃𝑖0𝑃𝑖0+1… 𝑃𝑀𝐱 < 1 𝐱
(berdasarkan bagian pertama dari Lema 2.4.4).
Jadi, terbukti bahwa 𝑄𝐱 ≠ 𝐱 .
Kedua, akan dibuktikan bahwa jika 𝐱 ∈ Ker 𝐴 maka 𝑄𝐱 = 𝐱 .
Dimisalkan 𝐱 ∈ Ker 𝐴 sebarang, maka berdasarkan Proposisi 4.2.2, 𝑃𝑖𝐱 = 𝐱 untuk setiap 𝑖 = 1,2, … , 𝑀. Oleh karena itu, diperoleh
𝑄𝐱 = 𝑃1𝑃2… 𝑃𝑀𝐱 = 𝐱
→ 𝑄𝐱 = 𝐱 . Bukti lengkap. ∎
Berdasarkan Lema 4.2.3, diperoleh kedua akibat berikut.
Akibat 4.2.4
𝑄 ≤ 1.
Akibat 4.2.5
Jika 𝐱 ∈ Ker 𝐴 maka 𝑄𝐱 = 𝐱.
Agar mempermudah beberapa penulisan tertentu, Ker 𝐴 dan Im 𝐴𝑇 berturut-turut hanya akan dituliskan dengan 𝒦 dan ℐ.
Berdasarkan bagian pertama dari Lema 2.4.4, Lema 2.4.8, Lema 2.4.10, Lema 2.4.12, Lema 4.2.3, Akibat 4.2.4, dan Akibat 4.2.5, diperoleh teorema berikut.
Teorema 4.2.6
1. 𝑄 = 𝑃𝒦+ 𝑄 dengan 𝑄 = 𝑄𝑃ℐ. 2. 𝑄 < 1.
Bukti:
Berdasarkan Definisi 2.4.14, 𝑃𝒦 adalah proyeksi ortogonal pada Ker 𝐴 , dengan
𝑃𝒦𝐱 = 𝐱, ∀𝐱 ∈ Ker 𝐴 dan
𝑃𝒦𝐲 = 𝟎, ∀𝐲 ∈ Ker 𝐴 ⊥= Im 𝐴𝑇 (berdasarkan Lema 2.4.10).
Berdasarkan Definisi 2.4.14, 𝑃ℐ adalah proyeksi ortogonal pada Im 𝐴𝑇 dengan
𝑃ℐ𝐲 = 𝐲, ∀𝐲 ∈ Im 𝐴𝑇 dan
𝑃ℐ𝐱 = 𝟎, ∀𝐱 ∈ Im 𝐴𝑇 ⊥= Ker 𝐴 (berdasarkan Lema 2.4.10).
Berdasarkan Lema 2.4.10, Ker 𝐴 = Im 𝐴𝑇 ⊥, sehingga berdasarkan Lema 2.4.12, diperoleh Ker 𝐴 ⊕ Im 𝐴𝑇 = ℝ𝑁. Dimisalkan 𝐳 ∈ ℝ𝑁 sebarang, maka 𝐳 dapat dituliskan secara unik sebagai 𝐳 = 𝐱 + 𝐲 dengan 𝐱 ∈ Ker 𝐴 dan 𝐲 ∈ Im 𝐴𝑇 .
Karena 𝑄 = 𝑄𝑃ℐ, maka
𝑃𝒦+ 𝑄 𝐳 = 𝑃𝒦+ 𝑄𝑃ℐ 𝐱 + 𝐲 = 𝑃𝒦 𝐱 + 𝐲 + 𝑄𝑃ℐ 𝐱 + 𝐲 = 𝑃𝒦𝐱 + 𝑃𝒦𝐲 + 𝑄𝑃ℐ𝐱 + 𝑄𝑃ℐ𝐲 = 𝐱 + 𝟎 + 𝑄𝟎 + 𝑄𝐲
= 𝑄𝐱 + 𝟎 + 𝟎 + 𝑄𝐲 = 𝑄 𝐱 + 𝐲
= 𝑄𝐳 (berdasarkan Akibat 4.2.5).
Karena 𝑃𝒦+ 𝑄 𝐳 = 𝑄𝐳, ∀𝐳 ∈ ℝ𝑁, maka berdasarkan Definisi 2.3.2, 𝑄 = 𝑃𝒦+ 𝑄 . Bagian pertama terbukti.
Selanjutnya, berdasarkan Definisi 2.4.3, 𝑄 = max 𝑄 𝐱
𝐱 𝐱 ∈ ℝ𝑁, 𝐱 ≠ 𝟎 . Dimisalkan 𝐱 ∈ ℝ𝑁, 𝐱 ≠ 𝟎 sebarang.
Karena 𝑄 = 𝑄𝑃ℐ, maka 𝑄 𝐱 = 𝑄𝑃ℐ𝐱.
Berdasarkan bagian pertama dari Lema 2.4.4, diperoleh
𝑄 𝐱 = 𝑄𝑃ℐ𝐱 ≤ 𝑄 𝑃ℐ𝐱 . Karena 𝑃ℐ𝐱 ≤ 𝐱 , maka
𝑄 𝐱 ≤ 𝑄 𝑃ℐ𝐱 ≤ 𝑄 𝐱
→ 𝑄 𝐱
𝐱 ≤ 𝑄 𝐱
𝐱 ≤ 𝑄 . Jadi, 𝑄 ≤ 𝑄 .
Berdasarkan Akibat 4.2.4, diperoleh 𝑄 ≤ 𝑄 ≤ 1.
Karena Ker 𝐴 = Im 𝐴𝑇 ⊥ (berdasarkan Lema 2.4.10), maka Ker 𝐴 ⊥ Im 𝐴𝑇 . Oleh karena itu, berdasarkan Lema 2.4.8,
Ker 𝐴 ∩ Im 𝐴𝑇 = 𝟎 .
Diketahui bahwa untuk setiap vektor 𝐱 ∈ ℝ𝑁, 𝐱 ≠ 𝟎, berlaku 𝑃ℐ𝐱 ∈ Im 𝐴𝑇 . Jika 𝑃ℐ𝐱 ∈ Ker 𝐴 , maka 𝑃ℐ𝐱 = 𝟎, sehingga
𝑄 𝐱 = 𝑄𝑃ℐ𝐱 = 𝑄𝟎 = 𝟎 = 0 < 𝐱 . Jika 𝑃ℐ𝐱 ∉ Ker 𝐴 , maka berdasarkan Lema 4.2.3,
𝑄 𝐱 = 𝑄𝑃ℐ𝐱 < 𝑃ℐ𝐱 ≤ 𝐱 . Oleh karena itu, untuk setiap vektor 𝐱 ∈ ℝ𝑁, 𝐱 ≠ 𝟎, berlaku 𝑄 𝐱 < 𝐱 .
Jika 𝑄 = 1, maka berdasarkan definisi dari 𝑄 , terdapat suatu vektor 𝐱0∈ ℝ𝑁, 𝐱0≠ 𝟎, sedemikian sehingga 𝑄 𝐱0 = 𝐱0 . Hal ini kontradiksi dengan hasil sebelumnya yang menyatakan bahwa untuk setiap vektor 𝐱 ∈ ℝ𝑁, 𝐱 ≠ 𝟎, berlaku 𝑄 𝐱 < 𝐱 . Jadi, dapat disimpulkan bahwa 𝑄 < 1. Bagian kedua terbukti.
Bukti lengkap. ∎
Berdasarkan Lema 2.4.4, Lema 2.4.10, Lema 2.6.3, Proposisi 4.2.2, dan Teorema 4.2.6, diperoleh teorema berikut.
Teorema 4.2.7
Untuk setiap matriks 𝐴 yang berorde 𝑀 × 𝑁 dengan baris-baris taknol dan vektor kolom 𝐛 = 𝟎 yang berorde 𝑀 × 1, algoritme (5)
𝐱 𝑛+1 = 𝐹 𝐱 𝑛 ; 𝟎 = 𝑄𝐱 𝑛 , 𝑛 = 0,1,2, …
membangun suatu barisan 𝐱 𝑛 yang konvergen ke 𝑃𝒦𝐱 0 , yaitu
𝑛→∞lim𝐱 𝑛 = lim
𝑛→∞𝑄𝑛𝐱 0 = 𝑃𝒦𝐱 0 dengan 𝐱 0 ∈ ℝ𝑁 adalah vektor penyelesaian hampiran awal sebarang.
Bukti:
Berdasarkan Persamaan (5) dan (9), untuk 𝐛 = 𝟎 diperoleh
𝐱 1 = 𝑄𝐱 0 𝐱 2 = 𝑄𝐱 1 = 𝑄𝑄𝐱 0 = 𝑄2𝐱 0 . Dengan cara serupa, diperoleh 𝐱 3 = 𝑄3𝐱 0 𝐱 4 = 𝑄4𝐱 0
dan seterusnya, sehingga diperoleh pola dengan bentuk
𝐱 𝑛 = 𝑄𝑛𝐱 0 (10) untuk setiap 𝑛 ∈ ℕ
(bukti dapat dilihat pada Lampiran 4).
Diketahui untuk setiap 𝐱 ∈ ℝ𝑁, 𝑃𝒦𝐱 ∈ Ker 𝐴 dan untuk setiap 𝐲 ∈ ℝ𝑁, 𝑃ℐ𝐲 ∈ Im 𝐴𝑇 .
Kemudian, berdasarkan Lema 2.4.10 dan Proposisi 4.2.2, untuk setiap 𝐱 ∈ Ker 𝐴 dan setiap 𝐲 ∈ Im 𝐴𝑇 berlaku
𝐱𝑇𝑄𝐲 = 𝑄𝑇𝐱 𝑇𝐲 = 𝐱𝑇𝐲 = 0
sehingga 𝑄𝐲 ∈ Im 𝐴𝑇 (berdasarkan Lema 2.4.10 juga). Karena 𝑃ℐ𝑄 𝑛−1𝐱 ∈ Im 𝐴𝑇 untuk setiap 𝐱 ∈ ℝ𝑁 dan setiap 𝑛 ∈ ℕ serta berdasarkan bagian pertama dari Teorema 4.2.6, maka 𝑄 𝑛𝐱 = 𝑄 𝑄 𝑛−1𝐱 = 𝑄𝑃ℐ𝑄 𝑛−1𝐱 ∈ Im 𝐴𝑇 untuk setiap 𝐱 ∈ ℝ𝑁.
Berdasarkan Persamaan (5) dan (9) serta bagian pertama dari Teorema 4.2.6, untuk 𝐛 = 𝟎 diperoleh
𝐱 1 = 𝑄𝐱 0 = 𝑃𝒦+ 𝑄 𝐱 0 = 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 𝐱 0
∈ Im 𝐴𝑇
𝐱 2 = 𝑄𝐱 1
= 𝑃𝒦+ 𝑄 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 𝐱 0
∈ Im 𝐴𝑇
= 𝑃𝒦𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑃𝒦 𝑄 𝐱 0
∈ Im 𝐴𝑇
+𝑄𝑃ℐ𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 𝑄 𝐱 0
∈ Im 𝐴𝑇
= 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝟎 + 𝑄𝟎 + 𝑄 2𝐱 0
∈ Im 𝐴𝑇
= 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 2𝐱 0
∈ Im 𝐴𝑇
.
Dengan cara serupa, diperoleh 𝐱 3 = 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 3𝐱 0
∈ Im 𝐴𝑇
𝐱 4 = 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 4𝐱 0
∈ Im 𝐴𝑇
dan seterusnya, sehingga diperoleh pola dengan bentuk
𝐱 𝑛 = 𝑃 𝒦𝐱 0
∈ Ker 𝐴
+ 𝑄 𝑛𝐱 0
∈ Im 𝐴𝑇
(11) untuk setiap 𝑛 ∈ ℕ
(bukti dapat dilihat pada Lampiran 5).
Jadi,
𝑛→∞lim𝐱 𝑛 = lim
𝑛→∞𝑄𝑛𝐱 0 = lim
𝑛→∞ 𝑃𝒦𝐱 0 + 𝑄 𝑛𝐱 0 .
Karena 𝑃𝒦𝐱 0 tidak bergantung pada 𝑛, maka
𝑛→∞lim𝑃𝒦𝐱 0 = 𝑃𝒦𝐱 0 . Selanjutnya, akan dibuktikan bahwa
𝑛→∞lim𝑄 𝑛𝐱 0 = 𝟎.
yaitu ∀𝜖 > 0, ∃𝑛0∈ ℕ sehingga 𝑄 𝑛𝐱 0 − 𝟎 < 𝜖, untuk ∀𝑛 ≥ 𝑛0.
Dimisalkan 𝜖 > 0 sebarang.
Karena 𝜖 > 0 dan 𝐱 0 ≥ 0, maka 𝐱 0 + 𝜖 ≥ 0 + 𝜖 = 𝜖 > 0
→ 0 < 𝜖
𝐱 0 + 𝜖≤ 1
→ ln 𝜖
𝐱 0 + 𝜖 ≤ 0.
Karena 𝑄 < 1 (berdasarkan bagian kedua dari Teorema 4.2.6), maka ln 𝑄 < 0.
Kemudian dipilih 𝑛0∈ ℕ sedemikian sehingga
𝑛0>
ln 𝜖 𝐱 0 + 𝜖 ln 𝑄 ≥ 0.
Dimisalkan 𝑛 ∈ ℕ sebarang sedemikian sehingga 𝑛 ≥ 𝑛0, maka
𝑛 ≥ 𝑛0>
ln 𝜖 𝐱 0 + 𝜖 ln 𝑄
→ 𝑛 ln 𝑄 < ln 𝜖 𝐱 0 + 𝜖
→ ln 𝑄 𝑛 < ln 𝜖 𝐱 0 + 𝜖
→ 𝑄 𝑛 < 𝜖 𝐱 0 + 𝜖.
Berdasarkan bagian kedua dari Lema 2.4.4, 𝑄 𝑛 = 𝑄 𝑄 ⋯ 𝑄
𝑛 kali
≤ 𝑄 𝑄 ⋯ 𝑄
𝑛 kali
= 𝑄 𝑛 < 𝜖
𝐱 0 + 𝜖
→ 𝑄 𝑛 𝐱 0 + 𝜖 < 𝜖.
Berdasarkan bagian pertama dari Lema 2.4.4, 𝑄 𝑛𝐱 0 ≤ 𝑄 𝑛 𝐱 0
< 𝑄 𝑛 𝐱 0 + 𝜖 < 𝜖
→ 𝑄 𝑛𝐱 0 − 𝟎 < 𝜖.
Oleh karena itu, terbukti bahwa
𝑛→∞lim𝑄 𝑛𝐱 0 = 𝟎.
Jadi, berdasarkan Lema 2.6.3, diperoleh
𝑛→∞lim𝐱 𝑛 = lim
𝑛→∞𝑄𝑛𝐱 0 = 𝑃𝒦𝐱 0 + 𝟎 = 𝑃𝒦𝐱 0 . Bukti lengkap. ∎
Berdasarkan Lema 2.4.10, Lema 2.6.3, Teorema 2.6.5, Proposisi 4.2.2, bagian pertama dan kedua dari Teorema 4.2.6, dan Teorema 4.2.7 diperoleh teorema berikut yang menyatakan kekonvergenan barisan penyelesaian hampiran yang dibangun dengan metode Kaczmarz.
Teorema 4.2.8
Untuk setiap matriks 𝐴 yang berorde 𝑀 × 𝑁 dengan baris-baris taknol dan setiap vektor kolom 𝐛 yang berorde 𝑀 × 1, algoritme (5)
𝐱 𝑛+1 = 𝐹 𝐱 𝑛 ; 𝐛 = 𝑄𝐱 𝑛 + 𝑅𝐛, 𝑛 = 0,1,2, …
membangun suatu barisan vektor 𝐱 𝑛 yang konvergen ke 𝑃𝒦𝐱 0 + 𝐻𝐛, yaitu
𝑛→∞lim𝐱 𝑛 = 𝑃𝒦𝐱 0 + 𝐻𝐛
dengan 𝐱 0 ∈ ℝ𝑁 adalah vektor penyelesaian hampiran awal sebarang dan matriks 𝐻 = 𝐼 − 𝑄 −1𝑅 (berorde 𝑁 × 𝑀).
Bukti:
Berdasarkan Persamaan (5) dan (9) diperoleh 𝐱 1 = 𝑄𝐱 0 + 𝑅𝐛
𝐱 2 = 𝑄𝐱 1 + 𝑅𝐛
= 𝑄 𝑄𝐱 0 + 𝑅𝐛 + 𝑅𝐛 = 𝑄2𝐱 0 + 𝑄𝑅𝐛 + 𝑅𝐛 = 𝑄2𝐱 0 + 𝑄𝑅 + 𝑅 𝐛 = 𝑄2𝐱 0 + 𝑄𝑘𝑅
1
𝑘=0
𝐛.
Dengan cara serupa, diperoleh 𝐱 3 = 𝑄3𝐱 0 + 𝑄𝑘𝑅
2
𝑘=0
𝐛
𝐱 4 = 𝑄4𝐱 0 + 𝑄𝑘𝑅
3
𝑘=0
𝐛 dan seterusnya, sehingga diperoleh pola dengan bentuk
𝐱 𝑛 = 𝑄𝑛𝐱 0 + 𝑄𝑘𝑅
𝑛−1
𝑘=0
𝐛 (12) untuk setiap 𝑛 ∈ ℕ
(bukti dapat dilihat pada Lampiran 6).
Jadi,
𝑛→∞lim𝐱 𝑛 = lim
𝑛→∞ 𝑄𝑛𝐱 0 + 𝑄𝑘𝑅
𝑛−1
𝑘=0
𝐛 .
Berdasarkan Teorema 4.2.7, 𝑄𝑛𝐱 0 konvergen ke 𝑃𝒦𝐱 0 , artinya
𝑛→∞lim 𝑄𝑛𝐱 0 = 𝑃𝒦𝐱 0 ,
sehingga selanjutnya tinggal dibuktikan bahwa
𝑄𝑘𝑅
𝑛−1
𝑘=0
𝐛 konvergen ke 𝐻𝐛, yaitu
𝑛→∞lim 𝑄𝑘𝑅
𝑛−1
𝑘=0
𝐛 = 𝐻𝐛.
Karena 𝑄𝑖𝑇= 𝑃𝑖𝑃𝑖−1… 𝑃2𝑃1 untuk setiap 𝑖 = 1,2, … , 𝑀, maka untuk setiap 𝐱 ∈ Ker 𝐴 , berlaku
𝑄𝑖−1𝑇 𝐱 = 𝑃𝑖−1𝑃𝑖−2… 𝑃2𝑃1𝐱 = 𝐱 untuk setiap 𝑖 = 1,2, … , 𝑀 (berdasarkan Proposisi 4.2.2), sehingga
𝐱𝑇𝑄𝑖−1𝐚𝑖 = 𝑄𝑖−1𝑇 𝐱 𝑇𝐚𝑖 = 𝐱𝑇𝐚𝑖 = 0 untuk setiap 𝑖 = 1,2, … , 𝑀.
Oleh karena itu, 𝐱𝑇 1
𝐚𝑖 2𝑄𝑖−1𝐚𝑖 = 1
𝐚𝑖 2𝐱𝑇𝑄𝑖−1𝐚𝑖 = 0.
Jadi, berdasarkan Lema 2.4.10, vektor-vektor kolom
1
𝐚𝑖 2𝑄𝑖−1𝐚𝑖
dari matriks 𝑅 merupakan anggota dari Im 𝐴𝑇 , sehingga 𝑃ℐ𝑅 = 𝑅.
Selanjutnya, berdasarkan Lema 2.4.10 dan Proposisi 4.2.2, untuk setiap 𝐱 ∈ Ker 𝐴 dan 𝐲 ∈ Im 𝐴𝑇 berlaku
𝐱𝑇𝑄𝐲 = 𝑄𝑇𝐱 𝑇𝐲 = 𝐱𝑇𝐲 = 0
sehingga 𝑄𝐲 ∈ Im 𝐴𝑇 (berdasarkan Lema 2.4.10 juga).
Karena vektor-vektor kolom dari matriks 𝑅 merupakan anggota dari Im 𝐴𝑇 , maka vektor-vektor kolom dari matriks 𝑄𝑅 juga
merupakan anggota dari Im 𝐴𝑇 , sehingga 𝑃ℐ𝑄𝑅 = 𝑄𝑅.
Jadi, diperoleh 𝑄 𝑘𝑅
𝑛
𝑘=0
= 𝑄 0𝑅 + 𝑄 1𝑅 + 𝑄 2𝑅 + ⋯ + 𝑄 𝑛𝑅 = 𝐼𝑅 + 𝑄𝑃ℐ𝑅 + 𝑄𝑃ℐ 2𝑅 + ⋯ + 𝑄𝑃ℐ 𝑛𝑅
= 𝑄0𝑅 + 𝑄1𝑅 + 𝑄2𝑅 + ⋯ + 𝑄𝑛𝑅 = 𝑄𝑘𝑅
𝑛
𝑘=0
(berdasarkan bagian pertama dari Teorema 4.2.6).
Karena 𝑄 < 1 (berdasarkan bagian kedua dari Teorema 4.2.6), maka berdasarkan Teorema 2.6.5 diperoleh
𝑄 𝑘𝑅
∞
𝑘=0
= 𝑄 𝑘
∞
𝑘=0
𝑅 = 𝐼 − 𝑄 −1𝑅 = 𝐻,
sehingga
𝑛→∞lim 𝑄𝑘𝑅
𝑛−1
𝑘=0
𝐛
= lim
𝑛→∞ 𝑄 𝑘𝑅
𝑛−1
𝑘=0
𝐛
= 𝑄 𝑘𝑅
∞
𝑘=0
𝐛
= 𝐻𝐛
(berdasarkan Definisi 2.6.4).
Oleh karena itu,
𝑄𝑘𝑅
𝑛−1
𝑘=0
𝐛 konvergen ke 𝐻𝐛.
Jadi, berdasarkan Lema 2.6.3, terbukti bahwa 𝐱 𝑛 konvergen ke
𝑃𝒦𝐱 0 + 𝐻𝐛, yaitu
𝑛→∞lim𝐱 𝑛 = 𝑃𝒦𝐱 0 + 𝐻𝐛.
Bukti lengkap. ∎
Berdasarkan Teorema 4.2.8, apabila SPL pada Persamaan (1) konsisten, maka untuk sebarang penyelesaian hampiran awal 𝐱 0 , 𝑃𝒦𝐱 0 + 𝐻𝐛 adalah penyelesaian eksaknya.
Hal ini juga memberikan hasil bahwa
himpunan semua vektor penyelesaian kuadrat terkecil atas SPL pada Persamaan (1) adalah
𝐿𝑆𝑆 𝐴, 𝐛 = 𝑃𝒦𝐱 0 + 𝐻𝐛 𝐱 0 ∈ ℝ𝑁 = Ker 𝐴 + 𝐻𝐛.
Jadi, barisan vektor 𝐱 𝑛 yang dibangun konvergen ke 𝐿𝑆𝑆 𝐴, 𝐛 .
4.3. Hasil Komputasi
Algoritme untuk metode Kaczmarz diimplementasikan dengan membuat program MATLAB yang hasilnya terdapat pada Lampiran 7. Input dari program ini adalah matriks koefisien, vektor konstanta, dan sebarang vektor penyelesaian hampiran awal.
Selain itu, terdapat input tambahan sebagai kriteria pemberhentian, yaitu banyaknya iterasi dan batas toleransi. Input tambahan ini dapat ditentukan sendiri (salah satu atau keduanya) atau disesuaikan dengan nilai default-nya. Nilai default dari banyaknya iterasi dan batas toleransi berturut-turut adalah 100 dan 10-6. Output dari program ini adalah vektor penyelesaian hampiran atas SPL.
Sebagai tambahan, ditampilkan pula norm sisaan dari penyelesaian hampiran tersebut.
Pengujian dan pengamatan terhadap program MATLAB dari algoritme untuk metode Kaczmarz ini dilakukan dengan menggunakan sistem persamaan linear yang matriks koefisien dan vektor konstantanya dibangkitkan. Ada tiga jenis SPL yang digunakan. Ketiganya dibangkitkan dengan cara yang berbeda. Setiap jenis diwakili oleh satu SPL. Jadi, ada tiga SPL yang digunakan.
Pembangkitan sistem persamaan linear ini menggunakan program MATLAB yang telah disediakan oleh Hansen (1994).
SPL ke-1 dibangkitkan dari masalah pemburaman gambar digital yang dimodelkan dengan fungsi pemancaran titik Gauss berikut:
ℎ 𝑥, 𝑦 = 1
2𝜎2exp −𝑥2+ 𝑦2 2𝜎2 . Program pembangkit dengan cara ini terdapat pada Lampiran 8. Matriks koefisien yang dihasilkan adalah segi. Pembangkitan ini mempunyai batasan, yakni orde dari matriks koefisien disarankan tidak terlalu kecil dan direkomendasikan lebih besar dari atau sama dengan 256 × 256.
SPL ke-2 dibangkitkan dari diskretisasi persamaan integral Fredholm jenis pertama berikut:
𝜅 𝜏, 𝜎 𝑥 𝜎 𝑑𝜎
6
−6
= 𝑏 𝜏 , −6 ≤ 𝜏 ≤ 6.
Diskretisasi dilakukan dengan metode Galerkin. Calvetti dan Reichel (2002) memberikan penyelesaian 𝑥, kernel 𝜅, dan ruas kanan 𝑏 sebagai berikut:
𝑥 𝜎 = 1 + cos 𝜋
3𝜎 , 𝜎 < 3
0, 𝜎 ≥ 3
𝜅 𝜏, 𝜎 = 𝑥 𝜏 − 𝜎
𝑏 𝜏 = 6 − 𝜏 1 +1 2cos 𝜋
3𝜏 + 9
2𝜋sin 𝜋 3 𝜏 .
Program pembangkit dengan cara ini terdapat pada Lampiran 9. Matriks koefisien yang dihasilkan adalah segi. Pembangkitan ini juga mempunyai batasan, yakni orde dari matriks koefisien kelipatan dari empat, sehingga ukuran SPL yang dibangkitkannya pun kelipatan dari empat.
SPL ke-3 dibangkitkan dari masalah tomografi dua dimensi. Program pembangkit dengan cara ini terdapat pada Lampiran 10.
Matriks koefisien yang dihasilkan adalah segi.
Pembangkitan ini mempunyai batasan yang sama dengan pembangkitan pertama.
Tabel 1 Karakteristik SPL yang digunakan untuk pengujian dan pengamatan
Karakteristik SPL ke-1 SPL ke-2 SPL ke-3
Ukuran 256 × 256 256 × 256 256 × 256
Konsisten Ya Ya Ya
Matriks koefisien sparse Ya Tidak Ya
Nilai maksimum elemen matriks
koefisien 0.3248 0.0937 1.4016
Nilai minimum elemen matriks
koefisien 0 0 0
Nilai maksimum elemen vektor
konstanta 3.2062 1.9483 34.0352
Nilai minimum elemen vektor
konstanta 0 8.1831 × 10-11 0
Karakteristik dari ketiga SPL yang digunakan tersebut disajikan pada Tabel 1.
Ketiga SPL tersebut mempunyai ukuran yang sama, yaitu 256 × 256. Ketiga SPL tersebut bersifat konsisten, sehingga himpunan 𝐿𝑆𝑆 𝐴, 𝐛 = Ker 𝐴 + 𝐻𝐛 untuk ketiga SPL mempunyai minimal satu anggota yang merupakan penyelesaian kuadrat terkecil atas SPL. Penyelesaian ini juga merupakan penyelesaian eksak dari SPL.
Matriks koefisien dari SPL ke-1 dan ke-3 sparse, sedangkan matriks koefisien dari SPL ke-2 tidak sparse. Hal ini juga dapat dilihat dari pola sparsity yang diperlihatkan oleh Gambar 3, 4, dan 5. Warna biru menunjukkan elemen taknol, sedangkan warna putih menunjukkan elemen nol.
Banyaknya elemen taknol dari matriks koefisien dari SPL ke-1 ada 5 476 atau 8.36%
dari banyaknya elemen. Semua elemen taknolnya adalah positif dengan nilai maksimum 0.3248. Semua elemen dari vektor konstanta dari SPL ke-1 adalah taknegatif dengan nilai minimum 0 dan nilai maksimum 3.2062.
Gambar 3 Pola sparsity dari matriks koefisien dari SPL ke-1.
Matriks koefisien dari SPL ke-2 mempunyai elemen taknol pada diagonal utama serta pada 64 diagonal di bawah dan 64 diagonal di atas diagonal utama. Matriks seperti ini disebut banded dengan bandwidth 129. Banyaknya elemen taknol ada 28 864 atau 44.04% dari banyaknya elemen. Semua elemen taknol adalah positif dengan nilai maksimum 0.0937. Semua elemen dari vektor konstanta dari SPL ke-2 adalah positif dengan nilai minimum 8.1831 × 10-11 dan nilai maksimum 1.9483.
Gambar 4 Pola sparsity dari matriks koefisien dari SPL ke-2.
Banyaknya elemen taknol dari matriks koefisien dari SPL ke-3 ada 5 409 atau 8.25%
dari banyaknya elemen. Semua elemen taknolnya adalah positif dengan nilai maksimum 1.4016. Semua elemen dari vektor konstanta dari SPL ke-3 adalah taknegatif dengan nilai minimum 0 dan nilai maksimum 34.0352. Karakteristik SPL ke-3 ini mirip dengan SPL ke-1. Perbedaannya terlihat pada pola sparsity dari matriks koefisien keduanya.
Gambar 5 Pola sparsity dari matriks koefisien dari SPL ke-3.
Penyelesaian hampiran awal yang digunakan adalah vektor kolom nol.
Penyelesaian hampiran awal seperti ini menyebabkan norm sisaan awal yang berbeda- beda untuk ketiga SPL (dapat dilihat pada Lampiran 11).
Pengamatan terhadap kekonvergenan dilakukan dengan melihat norm sisaan dari penyelesaian hampiran atas ketiga SPL pada iterasi ke-0 sampai iterasi ke-30. Hasilnya diperlihatkan oleh Gambar 6, 7, dan 8. Selain itu, dapat juga dilihat pada Lampiran 11.
Gambar 6 Hasil kekonvergenan untuk SPL ke-1.
Gambar 7 Hasil kekonvergenan untuk SPL ke-2.
Gambar 8 Hasil kekonvergenan untuk SPL ke-3.
Pengamatan terhadap kekonvergenan memperlihatkan hasil yang sesuai dengan analisis pada subbab sebelumnya. Hasil menunjukkan bahwa untuk ketiga SPL yang digunakan, algoritme untuk metode Kaczmarz membangun barisan penyelesaian hampiran atas SPL yang konvergen. Hasil ini dapat dilihat dari norm sisaan yang semakin mengecil menuju nol. Norm sisaan yang semakin mendekati nol ini mempunyai arti bahwa penyelesaian hampiran yang dihasilkan semakin mendekati penyelesaian eksaknya.
Norm sisaan untuk ketiga SPL menurun dengan laju yang cukup cepat sebelum iterasi
ke-10. Setelah itu, laju penurunannya melambat. Perlambatan ini juga dapat diamati dari peningkatan yang sangat tajam dari banyaknya iterasi yang diperlukan untuk memperoleh norm sisaan yang semakin kecil.
Agar diperoleh norm sisaan yang lebih kecil dari atau sama dengan 10-1 untuk SPL ke-1 sampai ke-3, diperlukan berturut-turut 22, 10, dan 1 249 iterasi. Kemudian, agar diperoleh norm sisaan yang lebih kecil dari atau sama dengan 10-2 untuk SPL ke-1 sampai ke-3, diperlukan berturut-turut 122, 68, dan 50 771 iterasi.
