3
Некоммерческое акционерное общество
ТЕОРИЯ ВЕРОЯТНОСТЕЙ И МАТЕМАТИЧЕСКАЯ СТАТИСТИКА Конспект лекции для студентов специальности
5В100200-Системы информационной безопасности
Алматы 2017
АЛМАТИНСКИЙ УНИВЕРСИТЕТ
ЭНЕРГЕТИКИ И СВЯЗИ
Кафедра
математического моделирования и программного обеспечения
4
СОСТАВИТЕЛИ: А.К. Дуйсек, Ж.С. Абдулланова. Теория вероятностей и математическая статистика. Конспект лекции для студентов специальности 5В100200-Системы информационной безопасности.- Алматы: АУЭС, 2017.- 53 с.
Конспект лекций содержит разделы «Элементарная теория вероятностей, элементы математической статистики» для студентов специальности 5В100200-Системы информационной безопасности. Конспект лекций для студентов специальности 5В100200-Системы информационной безопасности составлен в соответствии с программой дисциплины «Теория вероятностей и математическая статистика».
Ил. 9, табл. 11, библиогр.-6назв.
Рецензент: доцент Койлыбаева Р. К.
Печатается по плану издания некоммерческого акционерного общества
«Алматинский университет энергетики и связи» на 2017 г.
© НАО «Алматинский университет энергетики и связи», 2017 г.
5
1 Модуль № 1. Элементарная теория вероятностей 1.1 Лекция №1. Предмет теории вероятностей
Содержание лекции: классическое, статистическое, геометрическое определения вероятностей; пространство элементарных событий; алгебра событий; элементы комбинаторики.
Цель: ввести основные понятия теории вероятностей.
Предмет теории вероятностей.
Для решения многих задач, встречающихся в природе, в обществе, учёные точных наук строят их математические модели, т.е. их аналоги, записанные с помощью математических формул и различных алгебраических операций над ними. Далее, это исследуется с помощью математических программ на соответствующих современных компьютерах.
Во многих случаях эти задачи находят необходимые решения, а в других их очень трудно найти.
Большую трудность представляют задачи, связанные с трудно ис- следуемыми случайными факторами, явлениями. Например, до сих пор не могут предсказать время, в которое произойдут катастрофические явления:
землетрясения, вулканы, цунами и т.д.
Теория вероятностей изучает закономерности, которые справедливы к массовым случайным явлениям. С помощью элементов теорий вероятностей можно прогнозировать влияния случайных факторов на поставленную задачу, контролировать их, ограничивать сферы влияния случайности.
В настоящее время теория вероятностей развилась как одна из необходимых ветвей математической науки и находит многочисленные приложения в естественных и гуманитарных направлениях.
События, пространство элементарных событий. Алгебра событий.
Случайным событием называется событие, которое при осуществлении совокупных условий может произойти, а может не произойти. Эту совокупность условий называют испытанием или опытом. События обозначают буквами А, В, С и т.д.
Полученные в результате опытов некоторые исходы называют элементарными событиями.
Множество всех элементарных событий называют пространством элементарных событий или пространством исходов.
Событие называется достоверным, если оно обязательно произойдет в результате данного опыта.
Событие называют невозможным, если оно заведомо не произойдет в результате проведения опытов.
6
Два события называются несовместными, если появление одного исключает появление другого события в одном и том же опыте. В противном случае, эти события называют совместными.
События называют равновозможными, если ни одно из них не является более возможным, чем другие, т.е. все события имеют равные шансы.
Событие называют единственно возможным, если появление в результате испытания одного и только одного из них является достоверным событием.
Событие, противоположное А, обозначается через А и означает, что со- бытие А не наступило.
Полной группой называют совокупность единственно возможных событий испытания.
Суммой событий Аи В называют событие САВСАВ, состоящее в наступлении хотя бы одного из этих событий.
Разностью событий Аи В называют событие С АВА\В, про- исходящее тогда и только тогда, когда происходит событие А, но не происходит событие В.
Произведением событий Аи В называют событие С АВАВ, сос- тоящее в совместном наступлений этих событий.
Для событий выполняются следующие алгебраические операций:
. .) 3
. )
2
. ,
) 1
д т и С В А С В
АА ВВ ВС ААСА ВВСВ А А
Определения вероятностей.
Пусть А1,А2,...,Аn полная группа равновозможных элементарных исходов испытания. При некоторых исходах событие А происходит, при других нет.
Исходы, при которых событие А происходит, называются благоприятствующими событию А.
Определение 1 (классическое определение вероятности).
Вероятностью события А называют отношение числа m элементарных исходов испытания, благоприятствующих событию А, к числу n всех единственно возможных и равновозможных, образующих полную группу элементарных исходов.
Вероятность события А обозначается P A , тогда по определению
n A m
P .
Из классического определения вероятности вытекают следующие свойства:
1) Вероятность достоверного события равна единице. В этом случае ,
n
m и следовательно 1. n A n P
7
2) Вероятность невозможного события равна нулю, т.е. 0 0. n n A m
P
3) Вероятность случайного события есть положительное число, зак- люченное между 0 и 1, т.е. 0<P(A)<1.
Определение 2. Относительной частотой события А или просто частотой, обозначаемой W(A), называется отношение числа опытов m~, в которых произошло событие А, к числу всех проведенных опытов n~, т.е.
n А m
W ~
~ .
Определение 3 (статистическое определение вероятностей).
Вероятностью случайного события А называется постоянное число P(A), около которого группируются частоты W(A) события А, по мере увеличения числа опытов.
Так как в классическом определении вероятности предполагается конечное число исходов, то более предпочтительно применять при решении вероятностных задач её статистическое определение.
Если пространство элементарных событий Q в задаче является бесконечным несчётным множеством, а элементарные события равновозможными, то для определения вероятности можно применить геометрическое определение.
При геометрическом подходе условия задачи можно свести к бросанию наугад точки в определённую геометрическую область Q (отрезок, часть плоскости или часть пространства). Так как точка бросается наугад, то равно- возможно её попадания в любую конечную часть Х области Q. Поэтому вероятность попадания точки в область Х (ХQ) будет пропорциональна мере q (длине, площади или объёму) и не зависит от формы и расположение q.
Определение 4 (геометрическое определение вероятности).
Пусть событие А-попадание точки в область Х(ХQ). Тогда вероятность этого событие равно отношению меры области Х к мере всей области Q, в которой может появиться это точка:
Vq или Vq Sq или Sq Lq A Lq
P( ) ,
где L, S,V-длины, площади, объёмы областей соответственно.
Пример. Пусть бросают мяч в круг радиуса 10 м. Какова вероятность попадания в круг радиуса 2 м, находящейся в заданном кругу?
Решение. S1 R2 100, S2 R22 16. Вероятность: .
25 4 100
16 ) 1
( 2
S
A S P
Элементы комбинаторики.
Комбинаторика-раздел математики, в котором изучаются задачи выбора элементов из заданного множества и расположения их в группы по заданным правилам. В частности, задачи о подсчётах числа комбинаций (выборок), получаемых из элементов заданного множества.
8
Существуют две схемы выбора m элементов из n исходных (с возвращением и без возвращения). Мы пока изучаем выборки без возвращения.
Определение 1. Размещением из элементов n по m (0<m<n ) называется любое упорядоченное подмножество данного множества, содержащее m из элементов n, и обозначается
!! m n Anm n
,
где (1!=1: 0!=1) или Anm n(n1)(n2)...(nm1).
Пример 1. Составить размещения по 2 из элементов множества
3,4,5
D .
Решение. Составляем пары (3,4), (3,5), (4,3), (5,3), (4,5), (5,4). Тогда 6
2
2 3
3
A .
Определение 2. Перестановкой из n элементов называются размещения из n элементов по n элементов.
. 1 2 3 )...
1 (
!
n n n Pn
Определение 3. Сочетанием из n элементов по m (0<m<n) называется любое подмножество, которое содержит m элементов данного множества и отличается друг от друга хотя бы одним элементом и обозначается:
)!
(
!
!
!
) 1 )...(
1 (
m n m
n m
m n n
n Pm C A
m m n
n .
Пример 2. В партии из 10 деталей 7 стандартных. Найти вероятность того, что среди наудачу взятых деталей 4 стандартные.
Решение. В данной задаче число благоприятствующих mC74C32, а всевозможных nC106. Тогда
2. ) 1
( 6
10 2 3 4
7
C
C C n А m Р
1.2 Лекция №2. Основные теоремы теории вероятностей
Содержание лекции: теоремы сложения и умножения вероятностей;
зависимые и независимые события; формулы повторных испытаний;
формулы полной вероятности и Байеса.
Цель: ввести основные формулы теорий вероятностей.
Теоремы сложения и умножения вероятностей.
Теорема 1(сложение вероятностей). Вероятность суммы двух
несовместных событий равно сумма их вероятностей, т.е. если AB, то
) ( ) ( )
(A B P A P B
P .
Следствие. Вероятность суммы конечного числа несовместных событий равна сумме вероятностей этих событий т.е.
9
n
i
i n
i
i P A
A P
1 1
)
( где AiAj при i j.
Пример 1. В урне 40 шаров, из них 10 красных, 4 зелёных, 16 синих и остальные белые. Найти вероятность появления окрашенного шара.
Решение. .
40 ) 16 ( 40; ) 4 ( 40; ) 10
(A1 P A2 P A3
P
. 4 3 40 30 40 16 40
4 40 ) 10
(A1 A2 A3 P
Вероятность суммы двух совместных событий равна
) ( ) ( ) ( )
(A B P A P B P AB
P .
Определение 1. Два события называются независимыми, если вероятность одного из них не зависит от появления или не появления другого.
Определение 2. Два события называются зависимыми, если появление одного из них зависит от появления другого.
Теорема 2 (умножение вероятностей). Вероятность произведения двух независимых событий равна произведению вероятностей этих событий т.е.
) ( ) ( )
(A B P A P B
P .
Следствие. Вероятность произведения нескольких событий, независимых в совокупности, равно произведению вероятностей этих событий
) ( )...
( ) ( ) ...
(A1 A2 A3 An P A1 P A2 P An
P .
Обозначим P(A1)q1; P(A2)q2,...., P(An)qn.
Теорема. Если событии A1,A2,...An, независимые в совокупности, то
n
n q q q
A A A
P( 1 2 ... )1 1 2 ... .
Определение 3. Условной вероятностью события B при условии, что произошло событие A, называется отношение вероятности произведение этих событий к вероятности события A,(P(A)0)и обозначается символом P(B/A).
Таким образом, , ( ) 0.
) (
) ) (
/
( P A
A P
B A A P
P В
Вероятность P(B) называется безусловной вероятностью. Заданную выше формулу можно записать в виде P(AB)P(A)P(B/A), т.е. вероятность произведения двух событий равна произведению вероятности одного из них на условную вероятность другого при условии, что первое произошло. Данное равенство можно обобщить на случай n событий
P(A1A2 ...An)P(A1)P(A2/A1)...:P(An/А1А2...Аn-1) или P(A1A2...An)P(A1)P(A2)РА1А2
A3)...РА1А2...Ап1(An
.
Формула полной вероятности. Формула Байеса.
10
Пусть событии Hi,H2,...,Hn образуют полную группу независимых
событий, т.е. ( ) 1, , .
1
j i H
H H
P i j
n
i
i
Событие может наступить только с наступлением одного из событии H1,H2,...Hn, которые называют гипотезами.
Тогда справедлива формула полной вероятности:
) / ( ) ( )
(
1
i n
i
i P A H
H P A
P
.
Если события H1,H2,...,Hn образуют полную группу несовместных со- бытии (гипотез) и событие А произошло, то
. ,..., 2 , 1 ,
) / ( ) (
) / ( ) ) (
/ (
1
n j
H A P H P
H A P H A P
H
P n
i
i i
j j
j
Данная формула называется формулой Байеса. Она даёт возможность находить условные вероятности P(Hj/A) по известным до опыта вероятностям гипотез H1,H2,...,Hn и данным P(A/Hi).
Формула Бернулли. Локальная и интегральная теоремы Муавра- Лапласа. Теорема Пуассона.
Пусть производится n-испытаний, в каждом из которых событие А может появиться либо не появиться.
Вероятность события А в каждом испытании одна и та же и обозначается через p. Вероятности не наступления события А обозначается
p 1 q .
Поставим задачу вычислить вероятность того, что при n испытаниях событие А осуществляется к раз и следовательно не осуществляется n-k раз.
Тогда вероятность определяется с помощью формулы Бернулли:
k n k
n p q
k n k k n
P
)!
(
! ) !
( , где Pn(k)вероятность того, что событие А в испытаниях появится к раз.
Формулу Бернулли трудно использовать при больших значениях m и k.
Вычисление вероятности приводит к громоздким вычислениям.
В таких случаях возникает необходимость в отыскании приближенных формул для вычисления Pn(k), обеспечивающих необходимую точность.
Если число испытаний n велико, а вероятность pблизка к нулю
), 1 . 0 p
( p то для вычисления вероятностей используют предельные теоремы Муавра-Лапласа.
Теорема (локальная теорема Муавра-Лапласа). Вероятность того, что в n независимых испытаниях событие А наступит равно к раз
11
) 1 (
)
( х
npq k
Pn , где , .
2 ) 1
( 2
2
npq np x m
х e
x
p-вероятность наступления события в отдельных испытаниях, q1p. Данное равенство тем точнее, чем больше n и p ближе к 0,5.
Функция (х), называемая функцией Гаусса, является чётной, её значения для x0 приведены в приложении А.
В тех случаях, когда требуется вычислить вероятность того, что в n независимых испытаниях событие А появится не менее K1 раз, но не более K2
раз, т.е. Pn(K1 mK2) или Pn(K1;K2), используют следующую теорему.
Теорема (интегральная теорема Муавра-Лапласа). Пусть вероятность появления события А в каждом из n независимых испытаний равна p . Тогда вероятность того, что в n независимых испытаниях оно появится от K1доK2раз
)
(K2 K1 выражается формулой:
2 1 21 )
(k m k x x
Pn , где , , .
2 1
0
2 2 1
1 2
2/
x t
npq np x k
npq np x k
dt e
x
Функция Лапласа Ф(х)-нечётная, её значения приведены в приложении Б. Для значений х>5 полагают Ф(х)=0,5.
С помощью функций Лапласа можно найти вероятность отклонения относительной частоты
n n
от вероятности p в n независимых испытаниях.
Имеет место формула
pq p n
n
P n 2 0 , где0(x)(x)0.5.
В тех случаях, когда вероятность p крайне мала, а количество испытаний велико применяют следующую теорему.
Теорема (Пуассона). Если число испытаний достаточно увеличивается
),
(n а вероятность события А в каждом испытании неограниченно уменьшается(р0), причем прасопst, то вероятность Pn(k) находят по формуле:
.
) !
! ( )
(
lim m
e k e
или P m
e k e
P
np k n
np k n n
Данное выражение называется асимптотической формулой Пуассона.
1.3 Лекция №3. Случайные величины
Содержание лекции: дискретные и непрерывные случайные величины, их свойства; непрерывные и дискретные распределения; математическое ожидание и дисперсия; начальные и центральные моменты.
Цель: ввести понятие случайных величин.
Случайные величины. Дискретные и непрерывные случайные величины, их свойства.
12
Одним из важнейших понятии в теории вероятностей является понятие случайной величины.
Величина, принимающая заранее неизвестные случайные значения, называется случайной величиной.
Случайные величины обозначаются буквами латинского алфавита
,..
, , ,Y Z U
X значения соответственно малыми буквами x,y,z,u,...
Примерами случайных величин могут быть число выстрелов до первого попадание в цель, количество бракованных деталей в партии, прибыль фирмы и т.д.
Случайная величина, которая имеет конечное или бесконечное счётное множество значений, называется дискретной случайной величиной.
Если же множество возможных значений несчётно, то такая величина называется непрерывной.
К примеру, дискретные случайные величины могут принимать отдельные изолированные значения, а непрерывные случайные величины принимают любые значения из некоторых интервалов или отрезков числовой оси.
Всякое соотношение, устанавливающее связь между возможным значением случайной величины и их вероятностями, называют законом распределения случайной величины.
Пусть Х -дискретная случайная величина, принимающая значения xn
x
x1, 2,..., с некоторой вероятностью Pi,i 1,2,3...n. Тогда для Х закон распределения может быть задан в виде таблицы распределения
X x1 x2 v3 … xn
P p1 p2 p3 … pn
Такая таблица называется рядом распределения случайной величины, если x1 x2 ...xn и 1
1
n
i
Pi . Для непрерывных случайных величин такой ряд невозможно построить, так как число возможных значении несчётно.
Пусть задана непрерывная случайная величина Х и х-действительное число. Функция распределения случайной величины Х называется функций
) (x
F , которая для любого числа xR равно вероятности события (Х x, т.е.
) (
)
(x P Х x
F . Функция F(x) также называется интегральной функцией распределения.
Функция распределения обладает следующими свойствами:
1) F(x) ограничена, т.е. 0 F(x)1. Это следует из определения вероятности.
2) F(x) - неубывающая функция, т.е. если x2 x1, то F(x2)F(x1). Так как x2 x1, то P(Х x2)P(Х x1). Отсюда следует, чтоF(x2)F(x1). Аналогично объясняются свойства.
13
3) F(x)обращается в ноль на минус бесконечности и равно единице в плюс бесконечности, т.е. F()0,F()1.
4) Вероятность попадания случайной величины Х в промежуток а,в
равно P(a Х b)F(b)F(a).
5) F(x)непрерывна слева т.е. lim ( ) ( 0)
0 0
x F x F
x
x
.
Для дискретной случайной величины Х, заданной рядом распределения, интегральная функция распределения имеет вид
x x
i
i
Х x P x
F( ) ( ). Если возможные значения Х принадлежат конечному отрезку а,в , тоF(x)0 при
a
x и F(x)1 при xв. Величина в-а называется размахом случайной величины Х.
Очевидно, что для любой случайной величин P(Х x0)F(x0 0)F(x0 0).
Для непрерывных случайных величин P(X x0)0.
Одним из важнейших характеристик непрерывной случайной величины является плотность распределения вероятностей.
Плотностью распределение вероятностей случайной величины Х в точке х или дифференциальной функцией распределения f(x) называется предел:
) ( ) f
lim
(0
x x x Х x
x P
x
.
Из свойства 3 интегральной функции распределения и выше приведенной формулы следует, что ( )
lim
( ) ( ) ( )0
x x F
x F x x x F
f
x
(предполагается, чтоF(x) существует ).
Для дискретной случайной величина функция распределения кусочно-постоянная, а плотность распределения вероятности
n
i
i x x
P x
1
0) ( )
(
f , где (x)- функция Дирака, которая, по определению, равна 0 при x0 и при x0.
Отметим, что формулы плотности f(x) можно применять для определения плотности распределения масс на оси абсцисс или плотности тока в теории электричества.
Перечислим без доказательства свойства плотности распределения вероятностей:
а) f(x) неотрцительна, т.е. f(x)0;
б) вероятность попадания непрерывной случайной величины в промежуток а,в равна:
в
а f x dx в
Х a
P( ) ( ) ;
14
в) функция распределения может быть выражена через плотность распределения формулой:
x f t dt x
F( ) ( ) ;
г) несобственный интеграл от плотности вероятности непрерывной случайной величины равен:
1. )
(х dх f
Исходя из этих свойств, можно сказать, что случайная величина будет непрерывной, если существует неотрицательная функция f(x), что при любом Х:
x f t dt x
F( ) ( ) .
Числовые характеристики случайных величин (математическое ожидание, дисперсия, моменты).
Представленные законы распределения случайных величин полностью характеризируют случайную величину.
Но во многих достаточно знать некоторые обьединяющие числовые параметры. Такие числа называют числовыми характеристиками.
Важнейшими из этих характеристик являются математическое ожидание, дисперсия, среднее квадратическое отклонение.
Математическим ожиданием (или средним значением) дискретной случайной величины Х, имеющей закон распределения Pi P(Х xi), i1,n,
называется число, равное ( ) ... ) .
1 n
2 2 1
1
n
i i i
n x p
х p р
х р Х x
М
В случае, когда п, предполагается, что полученный числовой ряд абсолютно сходится.
Вероятностный смысл математического ожидания заключается в том, что оно является средним значением случайной величины. Действительно, так как
1
1
n
i
pi , то n среднее
i i n
i n i
i i
i x
p х p p
Х x
М
1 1
i
1
)
( .
Если непрерывная случайная величина х имеет плотность распределения вероятностей f(x), то
( ) .
)
(Х m xf х dх
М x
Основными свойствами математического ожидания являются:
-математическое ожидание числа появления события А в одном испытании равно вероятности р наступления этого события;
-М(С)С, если С-постоянное (неслучайное) число;