Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Системы искусственного интеллекта и машинное обучение. Учебное пособие
.pdf
Министерство науки и высшего образования Российской Федерации
НОВОСИБИРСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ
__________________________________________________________________________
А. О. ПОДКОПАЕВ
СИСТЕМЫ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
И МАШИННОЕ ОБУЧЕНИЕ
Утверждено Редакционно-издательским советом университета
в качестве
учебного пособия
НОВОСИБИРСК
2024
УДК 621.396:004.89(075.8)
П442
Рецензенты:
канд. техн. наук, доцент И. С. Савиных
канд. техн. наук, начальник сектора электродинамики и антенн
АО «НПО НИИИП – НЗиК» Ю. Н. Паршин
Работа подготовлена на кафедре «Радиоприемные и радиопередающие
устройства» по дисциплине «Системы искусственного интеллекта
и машинное обучение» для студентов всех форм обучения
III и IV курсов
факультета «Радиотехника и электроника»
Подкопаев А. О.
П442 Системы искусственного интеллекта и машинное обучение:
учебное пособие / А. О. Подкопаев. – Новосибирск: Изд-во
НГТУ, 2024. – 66 с.
ISBN 978-5-7782-5163-2
В работе рассмотрены теоретические аспекты некоторых разделов
дисциплины «Системы искусственного интеллекта и машинное обучение», проблемы и задачи которых широко распространены в радиотехнике, радиолокации и области телекоммуникаций. Содержание работы
закрепляет и дополняет основной курс лекций.
Приведены также задания для выполнения на лабораторных и практических занятиях, варианты тем и рекомендации
ским заданиям.
ISBN 978-5-7782-5163-2 © Подкопаев А. О., 2024
© Новосибирский государственный
технический университет, 2024
к расчетно-графиче-
УДК 621.396:004.89(075.8)
ОГЛАВЛЕНИЕ
Список сокращений ................................................................................................ 4
Введение .................................................................................................................. 5
1. Статистический анализ случайных величин .............................................. 7
1.1. Случайные величины и их законы распределения ................................... 7
1.2. Численные характеристики случайных величин ...................................... 9
1.3. Системы случайных величин .................................................................... 11
1.4. Корреляционный анализ ............................................................................ 13
1.5. Задача регрессии и МНК ........................................................................... 18
2. Анализ случайных процессов ....................................................................... 29
2.1. Статистическая теория случайных процессов ......................................... 29
2.2. Анализ временных рядов .......................................................................... 34
3. Алгоритмы оптимизации .............................................................................. 43
4. Функции MatLab для лабораторных работ и практических занятий ..... 49
5. Примеры лабораторных работ и практических занятий ........................ 53
5.1. Занятие 1 ..................................................................................................... 53
5.2. Занятие 2 ..................................................................................................... 55
5.3. Занятие 3 ..................................................................................................... 56
5.4. Занятие 4 ..................................................................................................... 57
6. Варианты расчетно-графических заданий ................................................. 59
7. Правила оформления расчетно-графического задания .......................... 61
Библиографический список ................................................................................. 64
Приложение ........................................................................................................... 65
СПИСОК СОКРАЩЕНИЙ
ЕСКД Единая система конструкторской документации
ЕСПД Единая система программной документации
ИС Интеллектуальная система
МНК Метод наименьших квадратов
ПРВ Плотность распределения вероятностей
РГЗ Расчетно-графическое задание
СКО Среднеквадратическое отклонение
СП Случайный процесс
ЦПТ Центральная предельная теорема
ЭВМ Электронная вычислительная машина
ВВЕДЕНИЕ
Дисциплины электронной автоматики, кибернетики и систем искусственного интеллекта полноценно сформировались в середине и второй
половине XX века. Это стало возможным благодаря изобретению основного технического средства, решающего задачи в рамках указанных
дисциплин, – электронной вычислительной машины, или ЭВМ. Развитие ЭВМ в XXI веке поспособствовало существенному распространению и интеграции перечисленных дисциплин,
ственного интеллекта, во множество отраслей человеческой деятельности. Выросли объемы хранимых и обрабатываемых данных, увеличились вычислительные мощности. В результате был сформирован новый
раздел информатики – наука о данных. Он включает в себя способы решения задач обработки больших объемов данных, их статистическую
обработку, выявление взаимосвязей, проектирование баз
знаний и многих других.
Множество российских крупных компаний и работодателей заинтересовано в специалистах в области искусственного интеллекта, что выражается в создании Ассоциации «Альянс в сфере искусственного интеллекта», в которую входят такие корпорации, как «Яндекс», «VK»,
«Сбербанк», «УралХим», «СибАгро» и др. Эти компании нацелены на
«совместное
ственного интеллекта в образование, научные исследования и в практическую деятельность бизнеса».
В настоящее время системы искусственного интеллекта внедрены
в методы научного исследования, в производственные процессы, в большое количество автоматизированных приложений и устройств, принимающих решения или помогающих пользователю в принятии решения
на
основе входной информации.
развитие их компетенций и ускоренное внедрение искус-
а особенно систем искус-
данных, баз
5
В областях радиотехники, электроники и телекоммуникаций применяется разнообразный набор приложений на основе искусственного интеллекта.
Обширное применение находят способы решения задач классификации. Они применяются для распознавания объектов, например, в системах известных всем роботов-пылесосов или беспилотных транспортных
средств. Более специфические способы могут применяться для классификации радиолокационных целей
, обнаружения сигналов в сигнальнопомеховой смеси в радиоприемном устройстве, при обработке и сегментировании зашумленных изображений.
Применение автоматических электронных устройств, объектов «интернета вещей», системы интеллектуального интерфейса, программ-ботов и других подразумевает решение для них задачи машинного обучения, определяющее их поведение в заранее неизвестном наборе ситуаций.
Большое
распространение получили различные эволюционные алгоритмы и оптимизирующие процедуры на их основе. Статьи, посвященные применению генетического алгоритма или метода роя частиц,
регулярно встречаются в сборниках международных научно-практических конференций или в журналах, входящих в международные базы
цитирования Web of Science или Scopus.
Таким образом, освоение дисциплины «Системы искусственного
интеллекта и машинное обучение» имеет
образовательную и практическую значимость для студентов всех форм обучения по направлениям,
связанным с радиотехникой, телекоммуникациями и электроникой.
6
A
1. СТАТИСТИЧЕСКИЙ АНАЛИЗ
СЛУЧАЙНЫХ ВЕЛИЧИН
При решении радиотехнических и иных задач приходится иметь
дело с величинами, оцененными посредством измерительных приборов
или полученными на основе моделей с ограниченной точностью. Результат измерения при этом не известен заранее. Коме того, множество
операций измерения значения одной и той же величины при сохранении
прочих равных условий дает множество неодинаковых
Такие величины называются случайными. Ярким примером служит результат измерения напряженности электрического поля, создаваемой
конкретным излучателем, в одной и той же точке пространства как при
интенсивной городской радиоэлектронной обстановке, обусловленной
наличием рядом расположенных персональных устройств беспроводной связи, телевизионных и телефонных передатчиков, систем промышленной электроники, так и в радиобезэховой
камере.
Для работы со случайными величинами необходимо применять аппарат теории вероятностей и математической статистики.
результатов.
1.1. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
И ИХ ЗАКОНЫ РАСПРЕДЕЛЕНИЯ
Пусть имеется множество случайных событий, или «элементарных
исходов»
где
– обозначение исхода некоторого случайного эксперимента.
i
{ , , ..., , ...},
AA A
12
7
(1)
i
Каждому событию
A
A
j
j
ное число
(),
PA
которое называется вероятностью этого события.
i
можно поставить в соответствие веществен-
i
Для вероятностей выполняется следующий ряд аксиом:
1) вероятность неотрицательна и не превышает единицы:
0()1;
PA
2) если события
PA
();
i
и
A независимы, то ()()
i
PA A PA
ij i
3) сумма всех событий, составляющих , есть достоверное со-
бытие:
( ) ( ) ... ( ) ... 1.
PA PA PA
12
i
(2)
Соотношения, связывающие значения случайной величины и соответствующие им вероятности, называются законом распределения случайной величины.
Таким образом, оценка вероятности наступления каждого из событий
{ , , ..., , ...}
AA A
11
дает полное, насколько это возможно, описа-
i
ние случайной величины.
В основном применяются два способа оценки вероятностей случайных событий: статистический и геометрический.
Статистическая, эмпирическая или выборочная оценка вероятности
– это относительная частота благоприятных исходов n из общего
()
PA
э
i
количества независимых испытаний N:
() .
PAN
э
n
i
(3)
Очевидно, что выборочная оценка вероятности может считаться достоверной только при большом количестве испытаний. При бесконечном количестве испытаний
n
PA PA
() lim ().
э
ii
N
⎛⎞
⎜⎟
N
⎝⎠
(4)
Геометрический способ заключается в расчете вероятности результата измерения значения случайной величины на основе ее известной
8
функции распределения вероятностей или плотности распределения ве-
F
x
x
роятностей (ПРВ).
Обозначим случайную величину как x, а результат ее измерения
как X. Функция распределения вероятностей определяется как
() ( )
xPXx и имеет смысл площади под кривой ()Fx на интервале
X ПРВ определяется как () ( ).
(; ].
Px X x dx
Функция распределения вероятностей и ПРВ связаны выражением
xdx
(5)
()
dF x
()
и могут быть определены через друг друга. Поэтому для описания случайной величины достаточно знать только одну их этих характеристик.
Функция распределения вероятностей и ПРВ обладают следующими важными свойствами.
Функция распределения вероятностей не убывает и
0()1;Fx ( ) 0;F ( ) 1.F (6)
Плотность распределения вероятностей неотрицательна и
() 1.xdx
∫
(7)
Для извлечения полезной информации из значений случайной величины нередко выгоднее анализировать не вероятности, а ряд иных численных характеристик.
1.2. ЧИСЛЕННЫЕ ХАРАКТЕРИСТИКИ
СЛУЧАЙНЫХ ВЕЛИЧИН
Широкое распространение при анализе случайных величин полу-
чили моментные характеристики: начальные и центральные моменты.
Момент n-го порядка случайной величины x – это среднее значение
n-й степени этой случайной переменной x. Момент, при расчете которого не учитывается среднее значение первой степени случайной величины, называется начальным. Запись
9
– запись n-го начального
m
n
момента случайной величины. Запись
x
M
D
– запись n-го центрального
n
момента случайной величины.
mx xxdx
nn
n
n
xxxxdx
() ().
n
() ;
∫
∫
n
(8)
Приведем основные моменты, получившие распространение при
анализе случайных величин.
Математическое ожидание случайной величины – это первый
начальный момент или среднее значение случайной величины.
() () .
xm x xxdx
x
∫
(9)
Средний квадрат случайной величины – это начальный момент второго порядка:
22
2
∫
(10)
() .mx x xdx
Первый центральный момент случайной величины всегда равен нулю:
()()()0.xx xx xdx
∫
(11)
Дисперсия случайной величины – это второй центральный момент:
2
22
() ()().
xx xx xdx
∫
10
(12)
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]