Техническое регулирование сквозных цифровых технологий в Российской Федерации. Учебно-методическое пособие

в дорожно-транспортном комплексе», а также рабочая группа

«Искусственный интеллект в образовании», не имеющая статуса

подкомитета.

Секретариат ТК164 ведет ФГАОУ ВО «Национальный

исследовательский университет «Высшая школа экономики»». На ее базе действует система добровольной сертификации (СДС) «Интеллометрика». Целью данной системы является оценка соответствия алгоритмов ИИ предъявляемым к ним требования. Как заявлено на сайте системы

(https://intellometrics.hse.ru/) «СДС «Интеллометрика» предоставляет гарантии

того, что алгоритмы ИИ выполняют заявленные функции

и могут быть использованы в определенных условиях эксплуатации».

Система добровольной сертификации «Интеллометрика» зарегистрирована Росстандартом в едином реестре систем добровольной сертификации 26 декабря 2023 года (свидетельство № РОСС RU.В2915.04ВШЭ0). Согласно публичным данным предметом добровольной сертификации в данной системе являются: продукция, работы (услуги), процессы и системы менеджмента. В рамках данной системы предлагается концептуально стандартный, во многом отработанный подход к сертификации четырех перечисленных направлений на основании подходов к построению системы добровольной сертификации по каждому из них, регламентированных соответствующим ГОСТ.

Данный подход на фоне зарубежного опыта представляется не достаточно эффективным в части оценивания соответствия систем искусственного интеллекта генеративного типа в составе соответствующих

41

продуктов ввиду того, что методика тестирования и проведенные по ней испытания в принципе не способны так проверить множество вариантов,

создаваемых искусственным интеллектом, на соответствие, например законодательству в области защиты детей от информации, причиняющей вред их здоровью и развитию, запрету на распространение экстремисткой символики и высказываний, пропаганды нестандартных ценностей и т.п.,

чтобы полностью исключить их возможную генерацию в отрыве от массива данных, с которым искусственный интеллект взаимодействует.

При этом наличие самой подобной системы сертификации можно расценивать как однозначно положительный факт, способствующий развитию сети испытательных лабораторий в области систем с искусственным интеллектом, накопления экспертного опыта оценивания их качества и развития соответствующей нормативно-правовой базы.

В середине 2024 года в работе ТК164 «Искусственный интеллект» принимали участие 68 профильных организаций, с помощью которых были разработаны и введены в действие в установленном порядке более шестидесяти национальных стандартов (ГОСТ Р) в направлениях,

соответствующих деятельности подкомитетов (здравоохранении,

автодорожном транспорте, строительстве, больших данных, образовании

и др.), в частности введены в действие серии ГОСТ Р «Системы

искусственного интеллекта на автомобильном транспорте», «Технологии искусственного интеллекта для обработки данных дистанционного

42

В настоящее время ряд стандартов по применению искусственного интеллекта находится в разработке или проходит предусмотренное регламентом публичные обсуждения с заинтересованными сторонами.

Вместе с тем, сутевое наполнение стандартов в области искусственного интеллекта представляет собой преимущественно предложение возможностей применения искусственного интеллекта в конкретном прикладном варианте использования и методов оценки системы для проверки корректности функционирования, что отражено в их названиях

(«Варианты использования», «Общие положения и методика испытаний»,

«Общие положения и терминология», и т.п.). Даже те стандарты,

в которых сформулирована некоторая рамка требований (например, ГОСТ Р 59899–2021 «Образовательные продукты с алгоритмами искусственного интеллекта для адаптивного обучения в общем образовании. Технические требования»), сами по себе, в отсутствие документа, вменяющего в обязанность ответственным лицам его применять, не являются обязательными к исполнению.

Возможно, данные стандарты следует рассматривать как некий задел на будущее, когда будет построена своя система, регулирующая применение технологий искусственного интеллекта по аналогии, например с законодательством Евросоюза (имеется в виду не система добровольной сертификации, а система, полноценно регулирующая «правила игры» на этом рынке). Тогда органам по сертификации потребуется в своей работе опираться на некоторую нормативную базу, подобно тому как это реализовано в директиве Евросоюза (Artificial Intelligence Act),

включающей в Приложении II перечень соответствующих отраслевых и национальных директив, используемых нотификационными органами в процессе сертификации систем с элементами искусственного интеллекта.

43

Понятийный аппарат, связанный с технологией искусственного интеллекта, закреплен в ГОСТ Р 59277–2020 «Системы искусственного

Для описания сквозной цифровой технологии и связанных с ее работой процессов и объектов в упомянутых стандартах используются

следующие термины и определения:

автоматическое распознавание речи (automatic speech recognition, ASR) – способность системы принимать входную информацию в виде человеческой речи;

данные (data) – предоставление информации в формальном виде, пригодном для передачи, интерпретации или обработки людьми или компьютерами;

набор данных – совокупность данных, прошедших предварительную подготовку (обработку) в соответствии с требованиями законодательства Российской Федерации об информации, информационных технологиях и о защите информации и необходимых для разработки программного обеспечения на основе искусственного интеллекта;

компьютерное зрение (computer vision) – способность функционального блока получать, обрабатывать и интерпретировать визуальные данные;

машинный перевод (machine translation) – автоматический перевод текста или речи с одного естественного языка на другой с помощью

интеллекта на основе обработки массива обучающих данных без явного программирования;

обезличенные данные (depersonalized data) – данные, которые

в результате обезличивания не позволяют однозначно определить их принадлежность к определенному субъекту персональных данных, в том числе с использованием дополнительной информации;

обработка естественного языка (natural language processing) –

анализ текста и речи на естественном языке, а также языка жестов (знаков)

для получения информации, подлежащей обработке средствами

вычислительной техники;

обучающие данные (training data) – подмножество доступных

данных, используемых для обучения модели машинного обучения.

технологии искусственного интеллекта – технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи,

интеллектуальную поддержку принятия решений и перспективные методы

искусственного интеллекта;

человека.

автономность (autonomy) – характеристика СИИ, связанная с ее способностью самостоятельно (без участия человека) выполнять возложенные на нее функции в течение заданного времени и с заданными

45

показателями качества, надежности, безопасности. Системы,

работающие в автономном режиме, подлежат обязательному контролю или надзору со стороны человека.

агент (agent) – физический/программный объект, который оценивает собственное состояние, состояние других объектов и окружающей среды для выполнения своих действий, включая прогнозирование и планирование, которые максимизируют успешность, в том числе при неожиданном изменении оцениваемых состояний, достижения своих целей;

алгоритм (algorithm) – конечное упорядоченное множество точно определенных правил для решения конкретной задачи;

безопасность информации [данных] – состояние защищенности информации [данных], при котором обеспечены ее [их]

конфиденциальность, доступность и целостность;

безопасность информационной технологии – состояние защищенности информационной технологии, при котором обеспечивается выполнение изделием, реализующим информационную технологию, предписанных функций без нарушений безопасности обрабатываемой информации;

библиотека знаний (knowledge library) – набор информационных (знаковых, символьных) моделей, которые выражают знания (также могут включать в себя определение моделей и их требования) о ряде вещей (понятий) и хранятся и воспроизводятся в электронном виде;

большие данные (big data) – обширные наборы данных, — главным образом, по таким характеристикам данных, как объем, разнообразие, скорость генерации и/или изменчивость, — которые требуют использования технологии масштабирования для эффективного хранения, обработки, управления и анализа;

46

вид (view) – множество соответствующих классов. (Таксономическая единица, объединяющая множество соподчиненных объектов с общими сущностными признаками);

встроенная система (embedded system) – специализированная система, в которой СИИ обычно встроена в объект, которым она управляет;

вычислительные средства (средства вычислительной техники) –

технические средства, непосредственно осуществляющие обработку

данных;

действие (activity) – множество связанных задач процесса;

доверие к системе искусственного интеллекта (Trustworthiness) –

уверенность потребителя и (при необходимости) организаций,

ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на нее задачи с требуемым качеством;

жизненный цикл (life cycle) – развитие системы, продукции, услуги,

проекта или другой создаваемой человеком сущности от замысла до списания;

знания (в искусственном интеллекте) (knowledge) – совокупность фактов, событий, убеждений, а также правил, организованных для систематического применения;

искусственный интеллект, ИИ (artificial intelligence, AI) – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты,

47

сопоставимые, как минимум, с результатами интеллектуальной деятельности человека;

интернет вещей (internet of thing) – инфраструктура взаимосвязей сущностей, систем и информационных ресурсов совместно с сервисами,

которые снимают с вещей первичные данные, обрабатывают и выдают

информацию для физического или виртуального мира;

промышленный интернет вещей (industrial internet of thing) –

интернет вещей, ориентированный на применение в промышленности;

интероперабельность (interoperability) – способность двух или более информационных систем или компонентов к обмену информацией, в том

в которой входящие в нее подсистемы работают по независимым алгоритмам, не имеют единой точки управления, все управление определяется единым набором стандартов — профилем интероперабельности;

информационная безопасность (information security) – защита конфиденциальности, целостности и доступности информации; кроме того,

сюда могут быть отнесены и другие свойства, например аутентичность,

подотчетность, безотказность и надежность;

информационная технология (information technology) – методы,

способы, приемы и процессы обработки (сбора, накопления, ввода-вывода,

приема-передачи, хранения, поиска, регистрации, преобразования, анализа и синтеза, предоставления, отображения, распространения и уничтожения)

информации с применением программных и технических средств;

48

класс (class) – описание множества объектов, для которых имеются одни и те же атрибуты, операции, методы, взаимосвязи и семантики. Класс включает в себя от одной до нескольких минимальных таксономических единиц (видов);

классификация (classification) – способ и результат упорядочения,

структуризации некоторого множества объектов, разделения его на определенные подмножества путем артикуляции, выделения некоторого признака объектов исходного множества как основания их структуризации по данному признаку. Такого рода признак называется основанием классификации;

объект классификации – элемент классификационного множества;

классификационная схема – классификационная структура,

основанная на отношениях подчинения;

киберфизическая система (cyber-physical system) – информационно-

технологическая концепция, подразумевающая интеграцию вычислительных ресурсов в физические процессы. В такой системе датчики, оборудование и информационные системы соединены на протяжении всей цепочки в логику управления для создания стоимости,

выходящей за рамки одного предприятия или бизнеса. Эти системы взаимодействуют друг с другом с помощью стандартных интернет-

протоколов для прогнозирования, самонастройки и адаптации к изменениям;

многоагентная система (multyagency system) – система, состоящая из множества взаимодействующих интеллектуальных агентов.

Многоагентные системы могут решить проблемы, которые трудны или невозможны для отдельного агента или для единой (монолитной) системы;

49

модель знаний (knowledge model) – информационная модель, которая выражает знания в структуре, интерпретируемой компьютером;

модель жизненного цикла (life cycle model) – структурная основа процессов и действий, относящихся к жизненному циклу, которая также служит в качестве общего эталона для установления связей и понимания;

нейротехнологии – технологии, которые используют или помогают понять работу мозга, мыслительные процессы, высшую нервную деятельность, в том числе технологии по усилению, улучшению работы мозга и психической деятельности;

онтология (ontology) – формализованное представление набора наименований понятий в предметной области и отношений между этими наименованиями понятий;

профиль интероперабельности (interoperability profile) –

согласованный набор стандартов, структурированный в терминах модели

интероперабельности;

процесс (process) – совокупность взаимосвязанных или взаимодействующих видов деятельности, преобразующая входы

в выходы;

программное обеспечение (software, программа, программное средство) – упорядоченная последовательность инструкций (кодов) для вычислительного средства, находящаяся в памяти этого средства и представляющая собой описание алгоритма управления вычислительными средствами и действий с данными;

распределенная система (distributed artificial intelligence) –

распределенная система обеспечивает решение проблемы управления на базе распределенной системы знаний в отличие от многоагентных систем,

где базы знаний отдельных агентов взаимодействуют;

50