Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Термины и понятия искусственного интеллекта в лингвистическом освещении. Монография
.pdf
31
портное средство; ТС, услуга платформы “Автодата”, электронная площадка данных платформы “Автодата”» [ГОСТ Р
59237–2020].
5. ГОСТ Р 59236–2020 «Платформа “Автодата”». Общие
положения». ГОСТ не регламентирует новые термины и определения.
В 2021 г. утвержден 21 стандарт.
Основным стал предварительный национальный стандарт
ПНСТ 553–2021 «Информационные технологии. Искусственный интеллект. Понятия и терминология». Он явился основ-
ным стандартом в области терминологии ИИ, стандартизировавшем основные термины и определения в области искусственного
интеллекта, машинного обучения, нейронных сетей, частных аспектов применения ИИ. ГОСТ рекомендовал использовать в нормативных документах, правовой, технической и организационнораспоряди-тельной документации, научной, учебной и справочной
литературе ряд базовых терминов. Как предварительный, он имел
срок действия с 01.03.2022 г. до 01.03.2023 г. Его рекомендации
вошли в современные действующие стандарты.
ГОСТ стандартизировал 101 термин и определение: «агент,
автоматизированный процесс, автоматический процесс, автоматическое реферирование, автономность, автономный, алгоритм машинного обучения, анализ тональности, аннотирование
данных; разметка, аугментация данных, байесовская сеть, безопасность, валидация, верификация, взрывающийся градиент, выборка данных, генерация естественного языка, генетический алгоритм, гетерономность; гетерономный, глубокое обучение, деревья решений, долгая краткосрочная память, доступность,
естественный язык, жизненный цикл, задача, задача обработки
естественного языка, заинтересованное лицо, знания, извлечение
взаимосвязей, интеллектуальный анализ данных, интегральная
схема специального назначения, интернет вещей, искусственный
интеллект, исчезающий градиент, когнитивные вычисления, компьютерное зрение, коннекционистская модель; коннекционистский подход; коннекционизм, конфиденциальность, лексема, мар-
32
кирование частей речи, машинное обучение, машинный перевод,
машины опорных векторов, модель, модель машинного обучения,
мягкие вычисления, набор обучающих данных, надежность,
нейрон, нейронная сеть, искусственная нейронная сеть, нейронная
сеть прямого распространения, непрерывное обучение, постоянное обучение, обучение на протяжении всей жизни, обработка
естественного языка, обучающие данные, обучение без учителя,
обучение, обучение модели, обучение с подкреплением, обучение с
учителем, обученная модель, общий ИИ, объяснимость, объяснимость, оптическое распознавание символов, отказоустойчивость,
планирование, повторное обучение, подотчетность, подотчетный, подсимвольный ИИ, поиск ответа на вопрос, показатель, полу-контролируемое машинное обучение, понимание естественного
языка, понятность, предсказуемость, прикладной (специальный)
ИИ, проверка качества данных, прозрачность, распознавание
именованных сущностей, распознавание речи, рекуррентная
нейронная сеть, риск, робастность, робот, робототехника,
свертка, сверточные нейронные сети; глубокие сверточные
нейронные сети, свойство вызывать доверие (надежность), семантические вычисления, символьный ИИ, синтез речи, система
ИИ, смещенность, точность данных, точность системы ИИ,
управление, управляемость; управляемый, устройство интернета
вещей, человеко-машинное объединение, экспертная система»
[ПНСТ 553–2021].
Пять стандартов определяют возможности технологий ИИ в
здравоохранении. Их внедрение обусловлено высокой технологичностью современной медицины, с одной стороны, а с другой —
высокими рисками, могущими возникнуть при некорректной работе алгоритмов ИИ. Введение данных ГОСТов имеет целью гарантировать функциональную надежность интеллектуальных систем в
здравоохранении, свести к минимуму причинение вреда пациентам, гарантировать подконтрольность искусственных интеллектуальных систем человеку, повысить уровень доверия к ИС и в целом сделать здравоохранение как отрасль более управляемым.
33
- ГОСТ Р 59921.1–2022 «Системы искусственного интел-
лекта в клинической медицине. Часть 1. Клиническая оценка».
ГОСТ содержит 31 термин и определение: «аналитическая
валидация (analytical validation), безопасность медицинских изделий (клиническая безопасность, безопасность), брошюра исследователя, валидация (validation), верификация (verification), главный
исследователь (principal investigator), достоверность, жизненный
цикл (life cycle), заявитель (sponsor), искусственный интеллект
(artificial intelligence), изготовитель (производитель), клиническая
валидация (сlinical validation), клиническая корреляция, клиническая оценка (clinical evaluation), клинические испытания (clinical
trial), медицинская организация, медицинские изделия, метаданные (metadata), мониторинг (monitoring), набор медицинских данных (набор данных), надежность, обеспечение качества (quality
assurance (QA)), программа клинических испытаний, программное
обеспечение (software) (программа, программное средство), программное обеспечение как медицинское изделие (software as a
medical device), серьезное неблагоприятное событие (serious
adverse event, SAE), система искусственного интеллекта (artificial
intelligence system), система менеджмента качества медицинских
изделий, технологии искусственного интеллекта, точность
(accuracy), эффективность медицинского изделия (клиническая
эффективность, эффективность)» [ГОСТ Р 59921.1–2021].
- ГОСТ Р 59921.2–2021 «Системы искусственного интел-
лекта в клинической медицине. Часть 2. Программа и методика технических испытаний».
Данный ГОСТ вводит и стандартизирует 19 терминов и
определений: «аналитическая валидация (analytical validation),
безопасность системы искусственного интеллекта, воспроизводимость, искусственный интеллект (artificial intelligence), изготовитель (производитель), качество системы искусственного
интеллекта, медицинские изделия, методика (метод) измерений,
повторяемость, программа технических испытаний, программное
обеспечение, являющееся медицинским изделием (software as a
medical device), протокол технических испытаний, результат ис-
34
пытаний, система искусственного интеллекта (artificial
intelligence system), система менеджмента качества системы искусственного интеллекта, технические испытания, техническая
документация, эксплуатационная документация изготовителя
(производителя)» [ГОСТ Р 59921.2–2021].
- ГОСТ Р 59921.3–2021 «Системы искусственного интел-
лекта в клинической медицине. Часть 3. Управление изменениями в системах искусственного интеллекта с непрерывным
обучением».
ГОСТ регулирует 11 специальных лексем: «адаптивные алгоритмы (adaptive algorithm), аналитическая валидация (analytical
validation), данные реальной клинической практики (real-world
data, RWD), искусственный интеллект (artificial intelligence), изготовитель (производитель), клиническая валидация (сlinical
validation), клиническая оценка (clinical evaluation), набор данных,
система искусственного интеллекта (artificial intelligence system),
система менеджмента качества систем искусственного интеллекта, эффективность» [ГОСТ Р 59921.3–2021].
- ГОСТ Р 59921.4–2021 «Системы искусственного интел-
лекта в клинической медицине. Часть 4. Оценка и контроль
эксплуатационных параметров».
В ГОСТе закреплено 14 терминов и определений: «жизненный цикл (life cycle), искусственный интеллект (artificial
intelligence), ложноотрицательный результат (ошибка второго
рода), ложноположительный результат (ошибка первого рода),
набор данных, программное обеспечение (software) (программа,
программное средство), изготовитель (производитель), система
искусственного интеллекта (artificial intelligence system), специфичность, техническая документация, чувствительность, эксплуатационная документация изготовителя (производителя),
эксплуатационные параметры» [ГОСТ Р 59921.4–2021].
- ГОСТ Р 59921.5–2022 «Системы искусственного интел-
лекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов».
35
ГОСТ содержит 19 терминов и определений: «аналитическая валидация (analytical validation), верифицированный набор
данных (ground truth), верификация, де-идентификация (обезличивание, анонимизация, де-персонификация) (de-identification), клиническая валидация (clinical validation), клинические испытания
(clinical trials), контроль доступа (access control), метаданные
(metadata), набор данных, обеспечение качества (quality assurance
(QA)), обучающая выборка (training sample), проверочная выборка
(validation sample), размерность набора данных, разметка (аннотация) данных, разреженность набора данных, сбор данных, система искусственного интеллекта (artificial intelligence system),
система менеджмента качества, тестовая (контрольная) выборка (test sample)» [ГОСТ Р 59921.5–2021].
- ГОСТ Р 59921.6–2021 «Системы искусственного интел-
лекта в клинической медицине. Часть 6. Общие требования к
эксплуатации».
В ГОСТе закреплено 13 терминов: «безопасность системы
искусственного интеллекта, жизненный цикл (life cycle), искусственный интеллект (artificial intelligence), изготовитель (производитель), качество системы искусственного интеллекта, критический дефект, набор данных, малозначительный дефект, нормативная документация, система искусственного интеллекта
(artificial intelligence system), техническая документация, эксплуатационная документация изготовителя (производителя), эффективность» [ГОСТ Р 59921.6–2021].
Принят ГОСТ, регламентирующий использование ИИ в сельском хозяйстве — ГОСТ Р 59920–2021 «Системы искусственного
интеллекта. Системы искусственного интеллекта в сельском
хозяйстве. Требования к обеспечению характеристик эксплуатационной безопасности систем автоматизированного управления движением сельскохозяйственной техники».
В нем закреплено 12 терминов: «безопасное состояние (safe
state), высокоавтоматизированная сельскохозяйственная машина
(highly automated agricultural machine), область присутствия потенциального источника опасности (warning zone), область риска
36
(hazard zone), подсистема восприятия окружающей обстановки
(perception subsystem), подсистема обеспечения безопасности
(safeguarding subsystem), подсистема самодиагностики (selfdiagnostics subsystem), подсистема управления (control subsystem),
препятствие (obstacle), присоединяемое оборудование (implement
equipment), сельскохозяйственная машина (agricultural machine),
система автоматизации управления движением (automated
driving system)» [ГОСТ Р 59920–2021].
Пять ГОСТов регламентируют применение ИИ в образовании.
С терминологической точки зрения, основной среди них —
ГОСТ Р 59895–2021 «Технологии искусственного интеллекта в
образовании. Общие положения и терминология». ГОСТ за-
крепляет 38 терминов и определений: «автоматическое распознавание речи (automatic speech recognition, ASR), адаптивное обучение, адаптированная образовательная программа, данные (data),
индивидуальная траектория обучения, искусственный интеллект;
ИИ, кодификатор элементов содержания, компьютерное зрение
(computer vision), машинное обучение (machine learning), машинный перевод (machine translation), минимальный уровень результативности, набор данных (dataset), обезличенные данные
(depersonalized data), обработка естественного языка (natural
language processing), образование, образовательная деятельность,
образовательная организация, образовательная программа, образовательный модуль, образовательный продукт (программнотехническая система) с алгоритмами искусственного интеллекта, обучающие данные (training data), обучающийся, онлайнпрокторинг, описательная аналитика (в образовании) (Descriptive
Analytics (in education)), паттерны списывания, педагогический
работник, персональные данные (personal data), предписывающая
аналитика (в образовании) [Prescriptive Analytics (in education)],
предсказательная аналитика (в образовании) [Predictive Analytics
(in education)], рукописная работа, стандарт цифрового следа,
таксономия образовательных материалов, технологии искусственного интеллекта, учебная аналитика (Learning analytics),
37
учебно-методические данные, учебно-методические материалы,
учебный элемент (УЭ), федеральный государственный образовательный стандарт; ФГОС, цифровой след (в образовании)»
[ГОСТ Р 59895–2021].
- ГОСТ Р 59900–2021 «Системы искусственного интел-
лекта. Типовые требования к контрольным выборкам исходных данных для испытания систем искусственного интеллекта в образовании».
В ГОСТе дефинируется 6 терминов: «валидационная выборка, гиперпараметр (в машинном обучении), контрольная выборка,
метрика (в машинном обучении), образовательный продукт с алгоритмами искусственного интеллекта, обучающая выборка»
[ГОСТ Р 59900–2021].
- ГОСТ Р 59899–2021 «Образовательные продукты с алго-
ритмами искусственного интеллекта для адаптивного обучения в общем образовании. Технические требования».
В ГОСТе содержится 3 термина: «адаптивное обучение, индивидуальная траектория обучения, цифровой след (в образовании)» [ГОСТ Р 59899–2021].
- ГОСТ Р 59897–2021 «Данные для систем искусственного
интеллекта в образовании. Требования к сбору, хранению, обработке, передаче и защите данных».
ГОСТ стандартизирует восемь терминов: «жизненный цикл
данных (data lifecycle), образовательный продукт с алгоритмами
искусственного интеллекта, основные данные (мастер-данные,
master-data), очистка данных (data cleansing), персональные данные (personal data), репозиторий, системы управления учебной
деятельностью (LMS-системы), транзакционные данные» [ГОСТ
Р 59897–2021].
- ГОСТ Р 59896–2021 «Образовательные продукты с алго-
ритмами искусственного интеллекта для адаптивного обучения в общем образовании. Требования к учебно-методическим
материалам».
В ГОСТе четыре термина: «адаптивное обучение, индивидуальная траектория обучения, информационно-образовательная
38
среда (ИОС), цифровой след (в образовании)» [ГОСТ Р 59896–
2021].
Два ГОСТа связаны с эргономикой, контролируют речевые
технологии с применением ИИ:
- ГОСТ Р 59880–2021 «Эргономика. Проектирование и
применение испытаний речевых технологий. Методика определения показателей качества синтеза речи по тексту».
ГОСТ зафиксировал девять терминов и определений: «естественность синтезированной речи, интонационная разборчивость
речи, интонационное оформление синтезированной речи, нормализация текста, нормальный темп синтезированной речи, омография, разборчивость синтезированной речи, смысловая разборчивость речи, ускоренный темп синтезированной речи» [ГОСТ Р
59880–2021].
- ГОСТ Р 59879–2021 «Эргономика. Проектирование и
применение испытаний речевых технологий. Методика определения показателей качества распознавания голосовых команд
управления».
ГОСТ регламентирует 11 терминов и определений: «верный
результат распознавания, голосовая команда, грамматика (системы распознавания голосовых команд управления), достоверность, задержка распознавание голосовой команды управления,
ложное срабатывание, ложный отказ, ошибка спутывания, показатель реального времени распознавания, результат распознавания, словарь (системы распознавания голосовых команд управления)» [ГОСТ Р 59879–2021].
- ГОСТ Р 59385–2021 «Информационные технологии. Ис-
кусственный интеллект. Ситуационная видеоаналитика. Термины и определения».
ГОСТ рекомендует вводимые термины и определения для
применения во всех видах документации, технических заданий,
специальной литературы по стандартизации ИИ. Стандарт регламентирует базовые понятия, которые могут быть подвергнуты
дальнейшей дифференциации по мере развития технологий ИИ с
39
учетом специфики отраслей применения интеллектуальных систем
ситуационной видеоаналитики.
ГОСТ стандартизирует 61 термин: «бесхозный предмет, ви-
деоаналитика; ВА, видеоаналитический детектор (детектор видеоаналитики), видеокамера, возгорание (открытое пламя), движение в запрещенной зоне, детекция [детектирование] объекта,
дым, задержка обнаружения ситуации, задымление (туман), зарегистрированное событие, идентификация (распознавание] объекта, исчезнувший предмет, класс ситуаций [сценариев], классификация объекта, контрастность изображения, контролируемая
зона, межкамерный трекинг, метаданные, непрерывный периметр, нетипичное поведение, объект сцены видеонаблюдения,
оставление предмета, оставленный предмет, охраняемый периметр, оцифрованная сцена видеонаблюдения; ОСцВ, оцифровка,
очередь, переброс предмета, передача предмета другому лицу, перемещение объекта из одной зоны в другую, пересечение линии,
плотность потока объектов, плотность расположения объектов,
подсчет объектов, помехообразующие факторы, предиктивная
видеоаналитика, принадлежность предмета человеку или объекту, распознавание действий, реидентификация объекта, свойства
объекта, сегментация фона, сигнальная линия, система видеоаналитики, система видеонаблюдения, ситуационная видеоаналитика, ситуация, скопление людей, скрытое [ая] оставление [закладка] предмета, сцена видеонаблюдения; СцВ, сценарий «Нетипичные изменения в сцене», сценарий «Стерильная зона», сценарий
ситуации, тепловая карта, толпа (образование толпы), трекинг,
унесенный предмет, условия освещенности, условия применимости детектора, фон, цифровое устройство формирования видеоизображений; ЦУФВ» [ГОСТ Р 59385–2021].
- ГОСТ Р 59898–2021 «Оценка качества систем искус-
ственного интеллекта. Общие положения».
В ГОСТе закреплено 30 терминов и определений: «аннотирование данных, разметка данных (data annotation), аугментация
данных (data augmentation), базовое значение показателя качества
(baseline quality score), безопасность (safety), валидация
40
(validation), выборка (sample), выброс (outlier), верификация
(verification, генеральная совокупность (general sample), жизненный цикл (life cycle), искусственный интеллект, ИИ (artificial
intelligence), изготовитель (производитель) (manufacturer), качество (quality), критерий оценки качества (quality assessment
criterion), метаданные (metadata), метрика (metric), набор данных
(dataset), надежность (reliability), обогащенные данные (enriched
data), оценка качества (quality assurance), показатель качества
(quality score) системы искусственного интеллекта, предвзятость, необъективность (bias), представительный набор существенных характеристик (representative coverage of relevant
characteristics), прецедент (use case), ресурс (resource), сервис
(service), система искусственного интеллекта (artificial
intelligence system), существенные (значимые) характеристики
(relevant characteristics) системы искусственного интеллекта
(СИИ), техническая система (technical system), технологии искусственного интеллекта (ИИ) (artificial intelligence technologies),
точность (accuracy)» [ГОСТ Р 59898–2021].
Три ГОСТа регламентируют использование ИИ на транспорте:
- ГОСТ Р 59391–2021 «Средства мониторинга поведения и
прогнозирования намерений людей. Аппаратно-программные
средства с применением технологий искусственного интеллекта для колесных транспортных средств. Классификация,
назначение, состав и характеристики средств фото- и видеофиксации».
Стандарт является первым в совокупности стандартов по
установлению требований к технологиям ИИ на транспорте.
В ГОСТе закреплено 18 терминов: «автоматический режим
работы СМВ, аппаратно-программные средства с применением
технологий искусственного интеллекта для колесных транспортных средств; АЛС ИИ КТС, АПС ИИ КТС для мониторинга поведения и прогнозирования намерений водителя (средства мониторинга водителя; СМВ), водитель, голосовые аудиосообщения, ИКпрожектор СМВ, искусственный интеллект, микросон, монито-
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]