26. Глубокая сверточная нейронная сеть. Пример применения на основе распознавания цифр.

сверточные нейронные сети — это класс нейронных сетей, которые:

• Принимают на вход двумерные массивы (изображения) напрямую, а не векторы признаков.

• Способны автоматически изучать признаки (features) непосредственно из необработанных данных изображения, без ручного проектирования признаков человеком.

• В отличие от полносвязных сетей, используют свертку по пространственной окрестности, а не полное соединение всех нейронов.

• Выполняют субдискретизацию (подвыборку) для уменьшения чувствительности к изменениям входных данных.

Ключевое преимущество (из текста):

«Наличие системы, которая может самостоятельно изучать объекты изображения на основе необработанных данных изображения, является важнейшим преимуществом CNN».

2. Архитектура LeNet как пример cnn

В материале в качестве базовой архитектуры для внедрения CNN используется LeNet (по имени Яна Лекуна). Причины выбора LeNet:

1. Достаточно проста для понимания.

2. Идеальна для знакомства с основными принципами CNN.

3. Упрощает вывод уравнений обратного распространения для сверточных сетей.

Основные элементы архитектуры CNN на рисунке в тексте:

• Входное изображение (2D массив)

• Сверточные слои (извлечение признаков)

• Слои подвыборки (pooling)

• Выходные карты признаков → векторизация → полносвязная сеть

• Класс определяется выходным нейроном с наибольшим значением

3. Пример применения: распознавание цифр (почтовых индексов)

В материале приводится конкретный исторический и практический пример применения сверточных нейронных сетей для распознавания цифр:

«Одним из самых ранних известных приложений CNNs является работа Лекуна и др. [1989] для чтения рукописных почтовых индексов США».

Детали примера:

• Задача: автоматическое распознавание рукописных цифр (почтовых индексов) на конвертах.

• Используемая архитектура: сверточная нейронная сеть (предшественник современных CNN).

• Результат: успешное применение на реальных почтовых данных США.

• Значение: это было одним из первых практических доказательств эффективности CNN.

27. Метод Отсу.

Подход, рассматриваемый далее, называемый методом Оцу (Otsu [1979]), является привлекательной альтернативой. Этот метод является оптимальным в том смысле, что он максимизирует межклассовую дисперсию — хорошо известную меру, используемую в статистическом дискриминантном анализе. Основная идея заключается в том, что правильно разделенные порогом классы должны быть различны с точки зрения значений интенсивности их пикселей, и, наоборот, порог, обеспечивающий наилучшее разделение между классами с точки зрения их значений интенсивности, будет наилучшим (оптимальным) порогом. Помимо своей оптимальности, метод Оцу имеет важное свойство: он полностью основан на вычислениях, выполняемых над гистограммой изображения, которая является легко получаемым одномерным массивом

1. Вычислить нормализованную гистограмму входного изображения. Обозначить компоненты гистограммы как .

2. Вычислить кумулятивные суммы для , используя уравнение

3. Вычислить кумулятивные средние , используя уравнение .

4. Вычислить глобальное среднее , используя уравнение

5. Вычислить значение межклассовой дисперсии для , используя уравнение

6. Получить порог Оцу как значение , для которого максимальна. Если максимум не единственен, получить путем усреднения значений , соответствующих обнаруженным различным максимумам.

7. Вычислить глобальную дисперсию , используя уравнение , а затем получить меру разделимости , вычислив уравнение с .