Решить методом Гаусса с выбором главного элемента систе

ЖХ,=Г

2) Решить методом Гаусса с выбором главного элемента систе

му уравнении:

[ л ’ , — 2 л ' £ л ' 3 - { - л ' і = 1 ,

I л ' | - } - о л 'о — л 'з -j- G .v .; = 1 8 , 12л-, — л-s 2лг, — л., = — 5,

л*і -\~ -\~ ‘1л'3 х.1 = 1.

§ 8. ИТЕРАЦИОННЫЕ МЕТОДЫ Р Е Ш Е Н И Я СИСТЕМ ЛИНЕЙНЫХ А Л ГЕБРА И Ч ЕС КИ Х УРАВНЕНИЙ Мы уж е изучили два метода решения систем линейных алгебраических уравнений: в одном решение н аходят с помощью определителей, по теореме Крамера, в другом — методом исключений. Оба эти метода после конечного числа арифметических операций давали точное решение системы (разумеется, если пе было никаких вы­

числительных погрешностей).

Теперь мы расскажем о други х методах решения си­

стем, называемых итерационными. Эти методы могут дать точное решение системы уравнений лишь после бесконеч­

ного числа шагов, т. е. после бесконечного числа повто­

рений однотипных математических операций, и на каждом этапе эти операции используют в качестве своих аргумен­

тов результаты предыдущих шагов. Естественно, мы не можем продолжать вычисления бесконечно долго. Поэтому мы вынуждены их оборвать па каком-то шаге вычислений.

Результаты этого шага берут как окончательные резуль­

таты вычислений, т. е. принимают их за приближенное решение системы уравнений. В этом случае, конечно, нужно уметь оценивать разность между точным решением и приближенным. Кроме того, может случиться, что для данной системы уравнений итерационный процесс вообще неприменим, потому что с каждым шагом мы пе прибли­

жаемся к точному решению, а либо удаляемся от него, либо процесс как-то колеблется (говорят, что процесс рас­

ходится). Поэтому, преж де чем применять этот процесс к системе уравнений, необходимо исследовать, будет ли он сходиться к точному решению в применении к данной системе.

А. Простая итерация

Будем решать систему п линейных алгебраических уравнений с и неизвестными (А — 0):

« 1 1 * 1 - - а х2* , - j - . • - ! - а \гIх п— ь

a , i * i -- CUnX-i - j - . • _Ь а 2пХп— Ь

а к i * i - - а п эХ $ - | - . • —1— cin n x n — Ь

П редположим, что все а И п- 0.

П е р е п и ш е м э т у с и с т е м у , в ы д е л и в в і-м у р а в н е н и и н е и з ­ в е с т н о е Xi ( i = 1, 2 ... п):

или

(18)

Г __ ^{^}

« п

1 O^i

IX * — --- * 1 — . ,

“1 • «22

_____lit V«1 я

п п

« и

«2/1 „

.. л п

«22

+ h

1 « и ’

, Ь ,

1 // «22’

\ х _ ____ " /И X i __ ^_

1 «я я

« Я . tl-1

* Я - 1 \

и лп

«Я Я

В х - 'г $.

1 2 3

Здесь В — матрица коэффициентов при неизвестных в правой части системы (18), р — столбец свободных чле­

нов, х — столбец неизвестных.

Метод простой итерации для решения системы (18) заключается в следующем. Берем некоторый произвольный набор чисел х \°\ х Т , . . . , х'а в качестве нулевого прибли­

ж ения к решению системы (18) н подставляем в правую часть этой системы. Для простоты записи будем исполь­

зовать матричную запись системы:

х ^ = В х ^ -І-Р-

Получили новый набор чисел: х '1' = (x\v , л:.,1’, . . . , х'/’).

Этот новый набор снова подставляем в правую часть (18).

Получаем:

5cW = B x {i

Ч-Р-

Х(2) снова подставляем в (18) и т. д. П родолжая дальш е, получим:

х ^ = В х^ - ]- 3,

х ^ = В х ^ ~ 1) -!- 3.

Описанный процесс называется простой итерацией системы (18).

Оказывается, что при некоторых условиях будет вы­

полнено соотношение, lim *)*1 = x f ( i = 1, 2, . . . /г), где x f,

Л’—►со

Хл, . . . , х% — точное решение системы (18) (а следователь­

но, и (17)). В этом случае говорят, что простая итерация для системы (18) сходится, понимая под этим, что процесс простой итерации в пределе дает точное решение системы'.

Д адим теперь достаточное условие ее сходимости.

Пусть коэффициенты системы (18) удовлетворяют сле­

дующим у с л о в и я м :

Тогда простая итерация для этой системы будет сходиться, т. е. имеет место следующ ая теорема.

Т е о р е м а (о достаточном условии сходимости простой итерации). Д л я сходим ост и прост ой и т ерац и и для сист е­

мы (18) п ри . лю бом вы боре чисел х[0), х.{", . . . , х 1п дост а­

точно, чтобы

max

п

V

'І І І

< 1 .

La a a j —1 i r i

(19)

или, что то ж е самое, для всех І:

| Я | І І > | > , 7 І - i i - j1

Д о к а з а т е л ь с т в о . Чтобы пе услож нять доказатель­

ство громоздкими записями, мы проведем его па примере двух уравнений с двумя неизвестными.

Итак, дана система:

/«п* 1 а{,х, = Ьи (20) l/bj.V! а.пх.л — b.z.

Перепишем ее в виде системы (18), т. е.

х == __ <Һл Х л _ і _ Һ.

«и ' «и /о 1 \

^ _ "-1 - ! Ь . ' ' 1 «22 " 1 ‘ «22 *

Введем обозначения:

^ = * * = « „ « = т а х ( | « , | .

ci и “ И а 2

Тогда система (21) примет вид:

1*1 = — «і*і - г Рь 1*3 — — я3*1 ~г Рз*

По условию теоремы а < 4 , следовательно, и | at | 1, j а2 1 1. Берем теперь произвольное нулевое приближение к решению A'i0’, xLu> и подставляем его в правую часть системы (22). Получим первое приближение:

(22)

Если точное решение системы (20), а значит и системы (21), есть A f , а | , т о о н о д о л ж н о удовлетворять системе ( 2 2 ) :

*Г = — З Д . Р і . , 4 = - а а*? + ?г.

I о

(24) Вычитая из 1-го равенства системы (24) 1-е уравнение системы (23), получаем: x f — х[1' — — а, (а* — а.2"'). И так как К I ^ а, то

| A-f — А,11 К a I а | — XT I . (25) Точно так ж е, вычитая из 2-го равенства системы (24) 2-е уравнение системы (23), получаем:

14 - X ? I а | A f - А П . ( I | < а). (26) Итак,

I А? — АІПІ < тТ, | А* — A.V’ | а Т, (27) где 71 = max ( | а.? — х Т |, | а * — а,01 |). Так мы оцепили от­

клонение точного решения от 1-го приближения. Д о к а ­ жем теперь, что отклонение п-го приближения от точного решения можно оценить по формулам:

I A f - A 'H =<; а "Т, I а | — x f I 5: аТ . (28) Воспользуемся методом математической индукции. Как следует из (27), для п = 1 оценка доказана. П редположим, что она верна для п = к, и докажем ее для п = к -{-1.

По самому определению итерации имеем:

| ^ + ,' = - « , 4 * ’ + Р 1.

Из (24) и (29) получим:

( . ү * - ж і ‘ + 1 ) = - а , ( 4 - л - Г ) ,

\ 4 - # + " —

Н о по предположению индукции для п — к имеет место оценка (28). Поэтому | х* — х [к ~г *| у. | а* — а.>Л) | <

^ а • а Т = % + 1Г и | А? — х ік+ 1 ’ | а | А* — x f | к а • аАТ = __а& -І- 1у-

Таким образом, оценка типа (28) справедлива и для п = к - \ - 1. Следовательно, она справедлива для любого п.

1 2 6

(29)

(30)

Эта оценка позволяет нам утверждать, что процесс про­

стой итерации сходится к точному решению в том смысле, который был указан выше. Действительно, Т — величина постоянная, а < 4 , поэтому опТ - >0. Тем самым х'“'1/21 —>*

Ш Т »

II — у СО

(п) #

Х л — Х л

Посмотрим, сколько нужно сделать итераций, чтобы отклонение п -го приближения от точного решения не пре­

вышало заданного числа г. Очевидно, я долж но для этого удовлетворять неравенству

г аТ О , (31)

или (логарифмируем по основанию а 1) t i ^ l o g , у . Наименьшее целое число, удовлетворяющее этому нера­

венству, есть:

п = l o g , y Jr l (32)

(квадратные скобки означают целую часть числа). Это и есть достаточное для достижения требуемой точности,число итераций. Как мы видим, в правую часть (32) входит число Т , для вычисления которого необходимо знание точного решения системы (20), нам, вообще говоря, не­

известного. Однако можно дать простую оценку вели­

чины Т .

Предположим сначала, что

| *f | S=| JcJi - (33)

И з 1-го р а в е н с т в а с и с т е м ы ( 2 1 ) в ы т е к а е т :

\ x f | =sS а | 4 | - | - j j.

Это неравенство можно усилить, используя (33): | x f | а | x f | -j- j 3] І. Отсюда

W b S j M . . (34)

И з 2-го равенства системы (24) имеем: | х*] а | я* | -J- | р*|.

Воспользовавш ись неравенством (34), получаем:

| Л,Л а г а 1 Ы _ + 1? ! |.

1 2 7

IА ! < т ^ г - г IҺ! =£ 1 4 т -! - ? = т ^ 7 •

Таким образом, при | x f І 5=! л'| | имеет место оценка точного решения:

\ т < т һ > (35)

П редположим теперь, что

l A f K I - V l i . ' (36) И з 2-го равенства системы (24) следует: j х* \ ^ з. | x fI -{-

И з этого неравенства и неравенства (36) п олу­

чаем: I л* [ < a IXV! I s.. I, т. с. | *J І ^ • С ледо­

вательно, i x f! < a I x f 1 I pi 1 < a -j- ? = .

Итак, в случае [ x f | < [! x | | тож е имеет место оценка (35).

Осталось оценить величину Т:

Т = max (j x f — Л'!011, jxT- х П ) . .

Н о ! д-Г - Л-Г i < I Л-Г I - ! - 1 Л-Г11 *S J ± r a + 1 Л-;"' IИ I x l - 4 - 1 = s

- i л ; 1 - | - ; л"л' i 1х / i. T - G-

Т < ү = - ^ г У , (3 7 )

где tj = max (| .v',4’ I, I*in’ j). Исследование полностью за ­ кончено.

Итак, прежде чем решать систему (20) методом про­

стой итерации, необходимо проделать следующее. Сначала приводим систему (20) к виду (21). Затем вычисляем коэф­

фициенты а,, 3.3, Зь 3.,. По ним находим значения а и 3.

Если з. оказалось меньше единицы, то процесс итерации сойдется к точному решению. Оценку для этого точного решения мы можем получить нз формул (35). Затем выби­

раем какое-то начальное приближение Л'|°\ х,1". По фор­

муле (37) находим Т и с помощью формулы (32) опреде­

ляем количество итераций п, достаточное для получения заданной точности решения. После этого можно непосред­

ственно приступить к выполнению итераций.

Пусть теперь р = max {! ^ |, j 3.> j}. Тогда

Следует заметить, что псе оценки, которые нами п о­

лучены, как правило, сильно завышены. Н о все-таки они бывают весьма полезны.

П р и м е р. Исследовать п решить методом простой итерации систему

Зл-i— ^л*з = 1 ,

2л‘, — 4л'о = 3.

Сначала приводим ее к виду

(3S)

1 1 1 3

Здесь а, = — а2 = -~ , 3 , = - - , р2 = --- Следователь­

но, а = -^-, р = — . Так как а < 1 , то процесс будет сходиться.

Выбираем нулевое приближение: л^0* = 0, л'У” = 0. Тогда но формулам (37) находим: Т < - -j- 0

0, 0 II 1)5 1.5

J

Если мы хотим получить решение с точностью до 0,01, т. е.

| .vf — | с 0,01 и J Л'* — л'1/:11 < 0 ,0 1 , то должны выполнить п итераций, где п определяется по формуле (32): п — log,

-|— 1 = 8. Значит, если сделать 8 итераций, то заданная точность заведомо будет достигнута.

Приступим непосредственно к процессу итерации.

Мы взяли в качестве нулевого приближения: х\п> = ^а!>ш = 0.

Подставляем его в (3S). Получаем 1-е приближение решения:

лгі1' = 0 ,3 3 3 3 , л'‘м1’ = — 0,75. Теперь подставляем его в (34): д-',2' =

= 0,0833, л*!/*’ = — 0,9107. Затем п о л у ч и м: л1, " ' — 0,0278, . v j, * ’ — — 0,7917, л-'*> = 0,0094, Л-<1» = _ 0,7639 и т. д.

Уже после 4-й итерации отклонение от точного решения x f —

= 0,0714, л-* = — 0,7857 довольно мало: | .vf — .\Л,11 | < 0,002, | .vf —

— A'i” j < 0 ,0 2 3 . Продолжая итерацию, мы будем все ближе подхо­

дить к точному решению системы.

Если какое-либо а и = 0, то систему (20) ( ( 1 7 ) ) невоз­

можно записать в виде (21) ( ( 18) ) . Одиако легко пока­

зать, что систему (20) (а такж е (17)) можно всегда зап и ­ сать в эквивалентном виде:

(39)

j A'l ---- ---- а И А'і ---- CtjoA'a Ь1,

I x 2 == — «-1*1 — — b-i.

А. Б. Бакушннскніі 129

Процесс итераций применяют тогда к этой системе следующим образом. Точно так ж е, как и раньше, берут пулевое приближение, подставляют его в правую часть системы и получают 1-е приближение:

Затем 1-е приближение подставляют в правую часть системы — получают 2-е приближение и т. д. Описанный процесс такж е называется простой итерацией.

Д остаточное условие сходимости процесса к точному решению есть выполнение следующих неравенств:

Коротко поясним этот факт.

Точное решение долж но удовлетворять системе (39):

Следовательно, | х* — л*',11 | ^ Т (j ап | - j - 1 а12 j) с/.Т, где а —

= m ax ( (| аи | - f | «і3 1), (! а-зі I + I «аз1) )•

Аналогично | x t — x.V'j T (| a.>, | - |- | a2.2 |) < aT .

Методом математической индукции легко показать, что для л-го приближения справедлива оценка

И так как Т — постоянная величина, а < 4 , то апТ —> О, т. е. х\п) - > х* (i = l, 2), и значит, процесс итерации сх о ­ дится (приводит) к точному решению.

Рассмотренный нами метод простой итерации исполь­

зует для нахождения /г-го приближения неизвестного x-t лишь (/г— 1)-е приближение всех неизвестных. Теперь

(40)

|®н 1 + 1 ai4 I < [ 1»

I a21 I + I a-23 I 1 •

(41)

(42)

| ^ _ x w i - - a«r , I — x f I ==£ o.nT.

Б. М ето д З е й д е л я

130

мы изучим другой итерационный метод решения систем линейных алгебраических уравнений — метод Зейделя.

Здесь в отличие от простой итерации для нахождения /г-го приближения неизвестного x t будет использовано тож е /г-е приближение неизвестных х и а*2, . . . и

(/г— 1)-е приближение остальных неизвестных.

Итак, решаем систему линейных алгебраических урав­

нений вида:

Л х = Ь .

Пусть каким-либо способом се записали в виде:

П

*

1

— 2

alJ XJ~\~ Ьп / - 1

п

) х - 1 = У і a i j X j - \ - $ > , ( 4 3 )

i У — 1

Xn— CtnjXj i bn.

У == 1

Берем произволыіыіі набор чисел л*і0), л*'»0>, •••, х Т и проводим последовательные итерации по формулам Зей ­ деля:

v ? _ l)+ 'v

j = i

n

y ( n )---rt " V rJ V( n ~ 1) — ,

2 21 1 1 Z -i ' I j j '

Л‘(л) = a A(,1) -!- a A'-” ) -!- V 1 a ,x'.n~

3 31 l 1 32 2 i 3 ; ;

У -3

*j»> = a.t *<«> -j- a., x f - { - . . . -j- a. , A f i , -}- V a. a ) " - »-}-£,•,

X < n ) n — - J Щ 1 x Ul) I 7. /12 2 А'-Л' -I- 1

...

-4- 1 ^7. /1—1 /I—1 I

.

A('l)

,

-I- Я A('l — *) -I- nn n I bn.n

1 3 1

Оказывается, что при некоторых условиях lim х {.к)= х*

/.’-►от 1 независимо от выбора чисел x f (/ — 1, 2, /г). П ро­

стым достаточным условием для этого является следующее:

П

а = m ax У | J о.;j | < 1. (44) 1 /-= 1

Д окаж ем это опять на примере системы двух уравнений с двумя неизвестными, т. е. докажем, что метод итера­

ции Зейделя будет сходиться для системы уравнений (т. е.

в пределе дает точное решение системы):

A'i = au,V| -j- я12л2 -\- b\,

X i C ( i j A 'j —j— — j - b . i t

если выполнено условие:

max l(i яи j - |- I я12 i), (I я,, I j я22 j)] = я < 1. (46) Пусть x f , x t — точное решение, a xj(", *20)— нулевое приближение. Тогда

j *Г = Яц-vf - f Я).4 -{- Ьи

| Л'о --- Ял 1*1 ~|{~ Я.).>Л.І —j —Ьл

* 1 = » 1 1 * 1 - Г «12*2 Л'о1’ = Ял 1*1*’ - р Я.2.>Л'о” - - Ь л .

(47)

(48)

Из (47) и (48) получаем:

I

^{X * - Л І ”}

1 ^ [

^{Я ц}

|

.

I

x f - xl"

I -I- I

» . 2

I • I *•?

-

*

2

°’ ! ^ !

^{« 1 1}

I •

^{T -}

1-

I at, I - T ^ a T . (49) Д ля оценки j** — 4 ” | используем, кроме (47), (48) и (46), еще и (49): j х% — Л',7’ | < | я2, | • | x f — х [1' \ 1 я22 j • Т ^ |я2, | X 132

X і Т I *и I • T < i a.,,1 - T' -]- j a,.j | ■ T a 7 \ Д окаж ем теперь, что для п-го приближения справедлива оценка

[ ;< — х<:» I а" ■ Т . 10 * Доказывать будем методом математической индукции.

Д ля п = 1 оценка уж е проверена. Пусть она справедлива для п =■ к . Д ок аж ем , что она верна и для п = /г —|- 1.

(/г-{-1)-е приближение удовлетворяет системе уравне­

ний:

J k -I-') — а г(/‘> _!_ „ v(/i'> /,

Л., a l l * j | S tjo A j

(ОІ) 41-4 ■ 1 ... 1

X i k ' r !) = с ы х ',* ‘Г *' - г - сг >>Л'(/ И - ! - 6 .,.

И з (47), (51) и предполож ения индукции заключаем:

х\ — х[к + |} | ^ [ а „ | • | х\ — x [ft) | -]- | а ,9 1 • [х* — д ‘/г) аи | а /Т - ! - ] а н ! . ^ Г - < а ^ | Г,

что в свою очередь позволяет оцепить | х * — x f ' 1' * |

< J a21 I • I x* — x\k f 11 j I a,* J • -.Vj — 4 * '! -^ I I * *T + j a,, I a. T = a ‘7’ ( | a,, | • a -j- | a,3 1) ^ a T ( | a,, | -}- | a™ | ) ^

^ а * +,7 \

Таким образом, оценка типа (50) справедлива и для п = к -j- І , значит, она справедлива и для любого п.

И з этой оценки следует, что х 1,"1 -> х ь х!,"1 —>- х.>, так

п -*• СО п -* • с о

как Т — постоянная величина и а < 4 .

С л е д с т в и е . Систему (17) можно решать методом Зейделя, если выполнены условия (19).

Действительно, перепишем систему (17) в виде (18).

Это есть частный случай системы вида (43), где [ — a'J , i V- j,

aiJ = ) и

I 0, i = j.

В силу доказанноіі теоремы для сходимости метода п

итераций Зейделя достаточно, чтобы a = m ax j a.if | < 4 . i j = l

133

>^ч _{- ,J-}^{Q' *} , и условие (44) экви- i валентно условию (19). ^{j ~} i

П р н м с р. Решим методом Зейделя ту же систему уравнений, которую мы решали методом простои итерации:

J Зл*! — л*8 = 1, I — 2л*! — 4л*„ = 3.

Опять приводим се к виду ('15):

— 1 I 1

.4 - - 3 3 ~ 5

(52)

Условие (19) выполнено для системы. Следовательно, метод итерации Зейделя должен сходиться. Величины а и Т те же, что и для метода простой итерации.

Опять в качестве нулевого приближения возьмем л*',01 = 0, л*!"1 = 0. Подставляя его в (52), найдем 1-е приближение л*',1’ = 0,3333 для неизвестного л*,. Это же 1-е приближение д^1* используем для нахождения 1-го приближения 2-го неизвестного л*^1’:

л-U ’ = — ~ л*'111 — ~ = — 0,9167.

Найдем следующие приближения решения:

лГ = 1 л*'1, + - 1 = 0,0278, Л*'*> = — - - л-'2> — А = 0,7639;

^ = 1 л ^ , + 1 = °,0787,

X '* ' = — ү Л'ІЯ) — — = — 0,7894 и т. д.

С увеличением числа итераций приближенное решение будет становиться все более близким к точному решению: л,* = 0,071-1, л'й5 = — 0,7857.

134

4

Исследовать сходимость и решить методом простои итерации и методом Зеіідсля системы уравнений (решение найти с точностью

С = 0,01):

j 1,7л-, — 0,2.y2 = 1, ( Зл-, — л'л = 1, I О.ол-, -J- 1,5л-3 = 1; I 2хх + 4л*8 = — 3;

ix t л*2 = 1, [ 1,52л*! -(- 0,1 Зл'е = 1, Упражнения

Г 4 * , + Л'2 = 1 , ( 1,52л', -j- 0,1 оЛ'е j I л-д + Зл-2 = 7; ; I 0,13л-! - | - 1,52.г 2 ■ о.

Г л а в а VI