48. Основные архитектуры нейронных сетей

Нейронные сети могут иметь различные архитектуры в зависимости от структуры соединений между нейронами.

Полносвязные нейронные сети состоят из слоёв нейронов, где каждый нейрон одного слоя связан со всеми нейронами следующего слоя.

Сверточные нейронные сети используются для обработки изображений и видеоданных. Они способны автоматически выделять важные признаки изображения.

Рекуррентные нейронные сети применяются для обработки последовательных данных, например текста или временных рядов.

Различные архитектуры нейронных сетей используются для решения разных задач в области искусственного интеллекта.

Вопрос 48: Нейронные сети: основные архитектуры и области их применения

1. Введение: что такое архитектура нейронной сети?

Архитектура нейронной сети — это способ организации нейронов в слои и связи между ними, а также правила распространения сигналов и обучения. Разные архитектуры предназначены для решения разных типов задач.

За годы развития искусственного интеллекта было предложено множество архитектур, каждая со своими особенностями, преимуществами и областями применения.

2. Основные архитектуры нейронных сетей

Рассмотрим наиболее важные и широко используемые архитектуры.

2.1. Полносвязные нейронные сети (Fully Connected Networks) / Многослойный перцептрон (MLP)

Описание: Самая простая и классическая архитектура. Нейроны в каждом слое соединены со всеми нейронами предыдущего и следующего слоёв. Состоит из входного слоя, одного или нескольких скрытых слоёв и выходного слоя.

Структура:

Особенности:

• Универсальность: теоретически может аппроксимировать любую функцию (теорема о полноте).

• Не учитывает структуру данных (все входы обрабатываются одинаково).

• Страдает от "проклятия размерности" — при большом количестве входов требует огромного числа параметров.

Применение:

• Классификация и регрессия для табличных данных (небольшой размерности).

• Как часть более сложных архитектур (последние слои в CNN).

• Задачи, где входные признаки не имеют пространственной или временной структуры.

Примеры: Предсказание цены дома по набору признаков (площадь, количество комнат, район), классификация клиентов.

2.2. Свёрточные нейронные сети (Convolutional Neural Networks, cnn)

Описание: Специализированная архитектура для обработки данных с сетчатой топологией, прежде всего изображений. Использует операцию свёртки (convolution) — применение набора обучаемых фильтров (ядер) к входным данным.

Ключевые компоненты:

• Свёрточные слои (Convolutional layers) — извлекают локальные признаки (края, текстуры, формы). Фильтры сканируют изображение с определённым шагом.

• Слои подвыборки (Pooling layers) — уменьшают размерность, сохраняя важные признаки (max pooling, average pooling).

• Функции активации (обычно ReLU).

• Полносвязные слои в конце — для итоговой классификации.

Структура:

Особенности:

• Локальность: фильтры учитывают только небольшие области (локальные рецептивные поля).

• Общие веса: один и тот же фильтр применяется ко всему изображению (экономия параметров).

• Инвариантность к сдвигу: благодаря свёртке и пулингу сеть может распознавать объект независимо от его положения.

Применение:

• Компьютерное зрение: классификация изображений, обнаружение объектов, сегментация изображений, распознавание лиц.

• Обработка видео (как последовательность изображений).

• Обработка сигналов и звука (спектрограммы).

Известные архитектуры CNN:

• LeNet-5 — одна из первых (распознавание рукописных цифр).

• AlexNet — прорыв в 2012 году.

• VGG — простая, но глубокая.

• ResNet — с остаточными связями (skip connections), позволила строить очень глубокие сети.

• Inception (GoogLeNet) — с параллельными свёртками разного размера.

• MobileNet — лёгкие сети для мобильных устройств.

Пример: Классификация изображений: "кошка", "собака", "птица". CNN учится распознавать сначала края, потом простые формы (уши, глаза), потом более сложные признаки (морда, лапы).