- •Предисловие
- •Сфера применения
- •Ключевые слова
- •ЧАСТЬ 1
- •СОДЕРЖАНИЕ
- •1 Введение
- •2 Общие особенности оценки
- •2.1 Общие условия просмотра
- •2.1.1 Общие условия просмотра для субъективных оценок в лабораторной среде
- •2.1.2 Общие условия просмотра для субъективных оценок в домашней среде
- •2.1.3 Расстояние просмотра
- •2.1.3.1 Предпочтительное расстояние просмотра
- •2.1.3.2 Расчетное расстояние просмотра
- •2.1.4 Угол обзора
- •2.1.5 Условия помещения – цветовая гамма
- •2.1.6 Дисплей
- •2.1.6.1 Обработка дисплея
- •2.1.6.2 Разрешение дисплея
- •2.1.6.3 Настройка дисплея
- •2.1.6.4 Контрастность дисплея
- •2.1.6.5 Яркость дисплея
- •2.1.6.6 Искажения движения на дисплее
- •2.1.6.7 Безопасные области изображения широкоэкранных дисплеев формата 16:9
- •2.2 Исходные сигналы
- •2.3 Выбор материалов для испытания
- •2.4 Диапазон условий и привязки
- •2.5 Наблюдатели
- •2.5.1 Число наблюдателей
- •2.5.2 Отбор наблюдателей
- •2.5.3 Инструкции для оценки
- •2.6 Сеанс испытаний
- •2.7 Представление результатов
- •3 Выбор методов испытаний
- •A1-1 Введение
- •A1-2 Общие методы анализа
- •A1-2.1 Вычисление средних оценок
- •A1-2.2 Расчет доверительного интервала
- •A1-2.2.1 Обработка первоначальных (нескорректированных и/или неаппроксимированных) данных
- •A1-2.2.2 Обработка скорректированных и/или аппроксимированных данных
- •A1-2.3 Последующее отсеивание наблюдателей
- •A1-2.3.1 Последующее отсеивание на основе эксцесса для методов DSIS, DSCQS и альтернативных методов за исключением метода SSCQE
- •A1-2.3.2 Последующее отсеивание на основе эксцесса для метода SSCQE
- •A1-2.3.3 Последующее отсеивание на основе корреляции
- •A1-2.3.3.1 Корреляция Пирсона
- •A1-2.3.3.2 Ранговая корреляция Спирмена
- •A1-2.4 Расчет средних баллов и доверительных интервалов в случае испытаний в сложных условиях
- •A1-3 Обработка для нахождения зависимости между средней оценкой и объективным измерением искажений изображения
- •A1-3.1 Аппроксимация при помощи симметричной логической функции
- •A1-3.2 Аппроксимация несимметричной функцией
- •A1-3.2.1 Описание функции
- •A1-3.2.2 Оценка параметров аппроксимации
- •A1-3.3 Устранение остаточного ухудшения/улучшения и влияния краев шкалы
- •A1-3.4 Включение аспекта надежности в графики
- •A1-4 Выводы
- •A3-1 Введение
- •A3-2 Получение характеристик искажения
- •A3-3 Использование характеристики искажений
- •A4-1 Введение
- •A4-2 Анализ содержания программ
- •A4-3 Анализ канала передачи
- •A4-4 Получение характеристики общих искажений
- •ЧАСТЬ 2
- •CОДЕРЖАНИЕ
- •1 Введение
- •2 Рекомендуемые методики оценки изображения
- •3 Замечания
- •A1-1 Общее описание
- •A1-2 Общий порядок
- •A1-3 Представление материала для испытаний
- •A1-4 Шкалы оценок
- •A1-5 Представление оценок
- •A1-6 Сеанс испытаний
- •A2-1 Общее описание
- •A2-2 Общий порядок
- •A2-3 Представление материала для испытаний
- •A2-4 Шкала оценок
- •A2-5 Анализ результатов
- •A2-6 Интерпретация результатов
- •A3-1 Общий порядок
- •A3-2 Выбор материала для испытаний
- •A3-3 Сеанс испытаний
- •A3-4 Типы методов с одним источником воздействия (SS)
- •A3-4.1 Методы оценок с использованием определенных категорий
- •A3-4.2 Численные методы оценок с использованием категорий
- •A3-4.3 Методы оценок без использования категорий
- •A3-4.4 Методы оценки качества
- •A4-1 Общий порядок
- •A4-2 Выбор материала для испытаний
- •A4-3 Сеанс испытаний
- •A4-4 Типы методов со сравнением воздействий
- •A4-4.1 Методы оценок с использованием определенных категорий
- •A4-4.2 Методы оценок без использования категорий
- •A4-4.3 Методы оценки качества
- •A5-1 Записывающее устройство и установка
- •A5-2 Общая форма испытательного протокола
- •A5-3 Параметры просмотра
- •A5-4 Шкалы оценок
- •A5-5 Наблюдатели
- •A5-6 Инструкции для наблюдателей
- •A5-7 Представление данных, обработка и представление результатов
- •A5-8 Калибровка результатов непрерывной оценки качества и получение общей оценки качества
- •A6-1 Процедура испытания
- •A6-2 Различные этапы
- •A6-3 Особенности протокола испытаний
- •A6-4 Обработка данных
- •A6-5 Надежность участников
- •A7-1 Введение
- •A7-2 Явный, скрытый эталоны и алгоритмы
- •A7-3 Условия проведения испытаний
- •A7-4 Организация испытаний
- •A7-5 Демонстрация и анализ данных
- •A7-5.1 Итоговая информация
- •A7-5.2 Методы анализа
- •A7-5.3 Отбор наблюдателей
- •A7-6 Пример интерфейса SAMVIQ (информационный)
- •A8-1 Организация лабораторных условий
- •A8-1.1 Выбор дисплея и настройка
- •A8-1.2 Расстояние просмотра
- •A8-1.3 Условия просмотра
- •A8-2 Зрители
- •A8-3 Базовая ячейка испытаний
- •A8-4 Оценочный лист и шкала оценок
- •A8-5 План испытания и формирование сеанса
- •A8-6 Подготовка участников
- •A8-7 Сбор и обработка данных
- •A8-8 Условия использования результатов протокола просмотра экспертами
- •A8-9 Ограничения использования результатов EVP
- •ЧАСТЬ 3
- •СОДЕРЖАНИЕ
- •A1-1 Введение
- •A1-2 Условия просмотра
- •A1-2.1 Лабораторная среда
- •A1-2.2 Домашняя среда
- •A1-3 Методы оценки
- •A1-3.1 Оценка базового качества изображения
- •A1-3.2 Оценка качества изображения после постобработки
- •A1-3.3 Оценка характеристик искажения
- •A1-3.4 Характеристики искажения содержания изображения
- •А1-3.4.1 Определение критичности
- •A1-3.4.2 Процедура получения характеристик искажения содержания изображения
- •A1-4 Замечания по применению
- •A2-1 Условия просмотра
- •A2-2 Методы оценки
- •A2-3 Испытательные материалы
- •A3-1 Условия просмотра
- •A3-2 Методы оценки
- •A3-3 Контекст оценки
- •A4-1 Общие рекомендации по оценке
- •A4-2 Процедуры субъективной оценки изображений для многопрограммных служб с постоянной скоростью передачи битов
- •A4-3 Процедуры субъективной оценки изображений для многопрограммных служб с переменной скоростью передачи битов
- •A5-1 Введение
- •A5-2 Почему новый метод основан на "просмотре экспертами"
- •A5-3 Определение экспертов
- •А5-4 Выбор оценщиков
- •A5-5 Испытательный материал
- •A5-6 Условия просмотра
- •A5-7 Методика
- •A5-7.1 Сеансы оценки
- •A5-7.1.1 Этап I
- •A5-7.1.1.1 Демонстрация материала
- •A5-7.1.1.2 Шкала оценки
- •A5-7.1.1.3 Сеанс оценки
- •A5-7.1.1.4 Обработка результатов испытаний
- •A5-7.1.2 Этап II
- •A5-7.1.2.1 Группирование материала для испытания
- •A5-7.1.2.2 Тренировочный сеанс просмотра экспертами
- •A5-7.1.2.3 План этапа II
- •A5-8 Отчет
- •A6-1 Введение
- •A6-2 Общие особенности
- •A6-2.1 Условия просмотра
- •A6-2.2 Исходные сигналы
- •A6-2.3 Подбор материалов для испытания
- •A6-2.4 Диапазон условий и привязки
- •A6-2.5 Наблюдатели
- •A6-2.6 Проектирование эксперимента
- •A6-3 Методы оценки
- •A7-1 Показатели (воспринимаемые) оценки
- •A7-1.1 Первичные воспринимаемые показатели
- •A7-1.2 Дополнительные воспринимаемые показатели
- •A7-2 Методики субъективной оценки
- •A7-3 Общие условия просмотра
- •A7-4 Материал для испытаний
- •A7-4.1 Использование эталонного видеоматериала
- •A7-4.2 Пределы визуального комфорта
- •A7-4.3 Несоответствия между левым и правым изображениями
- •A7-4.4 Диапазон, распределение и изменение параллакса
- •A7-5 Экспериментальная аппаратура
- •A7-6 Наблюдатели
- •A7-6.1 Размер выборки наблюдателей
- •A7-6.2 Отсеивание по зрению
- •A7-7 Инструкции для наблюдателей
- •A7-8 Продолжительность сеанса
- •A7-9 Изменчивость ответов
- •A7-10 Критерии исключения зрителей
- •A7-11 Статистический анализ
- •A7-1 Испытания зрения
Рек. МСЭ-R BT.500-15 |
17 |
быть вычислен с использованием преобразований статистических переменных, учитывающих дисперсию соответствующей переменной.
Если результаты оценки качества представлены как характеристика искажений (т. е. экспериментальная кривая), то нижний и верхний доверительные пределы доверительного интервала будут функцией каждого экспериментального значения. Для вычисления этих доверительных пределов следует рассчитать стандартное отклонение и оценить аппроксимацию его зависимости для каждого экспериментального значения исходной характеристики ухудшений.
A1-2.3 Последующее отсеивание наблюдателей
A1-2.3.1 Последующее отсеивание на основе эксцесса для методов DSIS, DSCQS и альтернативных методов за исключением метода SSCQE
Прежде всего, необходимо выяснить, является ли распределение оценок в случае испытательной демонстрации нормальным или не является таковым, используя испытание 2 (путем вычисления коэффициента эксцесса функции, то есть отношения момента четвертого порядка к квадрату момента второго порядка). Если 2 лежит в пределах от 2 до 4, то распределение может считаться нормальным. По каждой демонстрации оценки uijkr каждого наблюдателя следует сравнить с соответствующим средним значением ūjkr плюс соответствующее стандартное отклонение Sjkr, умноженное на два (если
нормальное) или умноженное на |
20 (если не нормальное) (Pjkr), и с соответствующим средним |
|
значением минус то же стандартное отклонение, умноженное на два или на |
20 (Qjkr). Каждый раз, |
|
когда оценка наблюдателя находится выше Pjkr, показание счетчика, связанного с каждым наблюдателем (Pi), увеличивается. Аналогично, каждый раз, когда оценка наблюдателя находится ниже Qjkr, показание счетчика, связанного с каждым наблюдателем (Qi), увеличивается. Наконец, должны быть вычислены следующие два отношения: Pi + Qi, поделенное на общее количество оценок каждого наблюдателя за весь сеанс, и Pi – Qi, поделенное на Pi + Qi, как абсолютное значение. Если первое отношение больше 5%, а второе отношение меньше 30%, то наблюдатель i должен быть исключен (см. Примечание 1).
ПРИМЕЧАНИЕ. – Настоящая процедура не должна применяться более одного раза к результатам данного эксперимента. Кроме того, использование этой процедуры должно быть ограничено в случаях, когда используется относительно небольшое число наблюдателей (например, менее 20), и все они не являются экспертами.
Настоящая процедура рекомендуется при применении метода ЕСР (DSIS); она также с успехом применяется при использовании метода DSCQS и альтернативных методов.
Описанный выше процесс может быть выражен математически следующим образом:
По каждой испытательной демонстрации вычисляют среднее значение ūjkr, стандартное отклонение Sjkr и коэффициент эксцесса 2jkr, где 2jkr задается выражением:
|
|
= |
m |
|
|
4 |
|
||
|
|
|
|
|
|
2 jkr |
|
(m ) |
2 |
|
|
|
|
|
|
|
|
2 |
|
с
|
|
|
N |
|
|
|
|
(uijkr – uijkr) |
x |
|
|
|
|
|
m |
|
= |
i=1 |
|
x |
N |
|
||
|
|
|
||
|
|
|
|
. |
(5) |
Для каждого наблюдателя i находят Pi и Qi, то есть:
для j, k, r = 1, 1, 1 до J, K, R,
если 2 ≤ 2jkr ≤ 4, то:
если |
|
≥ ̅ |
+ 2 |
, |
тогда Pi = Pi + 1; |
||||
|
|
|
|
|
|
|
|||
если |
|
≤ ̅ |
− 2 |
, |
тогда Qi = Qi + 1; |
||||
|
|
|
|
|
|
|
|||
или же: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
если unjklr |
|
jklr + |
20 Sjklr , |
тогда Pi = Pi + 1; |
|||||
u |
|||||||||
|
|
|
|
|
|
||||
если unjklr |
|
jklr – |
20 Sjklr , |
тогда Qi = Qi + 1. |
|||||
u |
|||||||||
18 |
Рек. МСЭ-R BT.500-15 |
|
P |
+ Q |
|
Если |
i |
i |
|
J K R |
|||
|
|||
при этом:
|
P − Q |
|
||
0,05 и |
i |
i |
0,3, то исключается наблюдатель i, |
|
P |
+ Q |
|||
|
|
|||
|
i |
i |
|
|
N: число наблюдателей;
J: количество условий испытаний, включая эталонное условие;
K: количество испытательных изображений или последовательностей; R: количество повторов;
L: количество испытательных демонстраций (в большинстве случаев количество демонстраций будет равно J · K · R, однако отмечается, что некоторые оценки могут проводиться при неодинаковом количестве последовательностей для каждого условия испытания).
A1-2.3.2 Последующее отсеивание на основе эксцесса для метода SSCQE
В случае отбора определенных наблюдателей при использовании процедуры испытания SSCQE область применения больше не является одной из схем испытания (сочетание условия испытания и испытательной последовательности), а является временным интервалом (например, 10-секундным сегментом вынесения решения) схемы испытания. Применяется двухступенчатая фильтрация – на первом шаге выявляются и исключаются наблюдатели, решения которых имеют сильное отклонение от среднего поведения, на втором шаге осуществляется выявление и отбор несоответствующих наблюдателей без какого-либо рассмотрения систематического отклонения.
Шаг 1. Обнаружение местных отклонений от нормального порядка
В этом случае также необходимо выяснить, является ли распределение оценок для каждого временного интервала каждой схемы испытания "нормальным" или "не нормальным", используя испытание 2. Если 2 лежит между 2 и 4, распределение может считаться "нормальным". Затем процесс применяется к каждому временному интервалу каждой схемы испытания как математически выражено ниже.
Для каждого временного интервала каждой схемы испытания вычисляются среднее значение ūjkr, стандартное отклонение Sjklr и коэффициент 2jklr с использованием оценок uijkr каждого наблюдателя. Коэффициент 2jklr задается формулой:
β |
|
= |
m |
|
|
4 |
|
||
|
|
|
|
|
|
2jklr |
|
(m ) |
2 |
|
|
|
|
|
|
|
|
2 |
|
с
|
|
|
N |
|
|
|
|
(unjklr − u ) |
x |
|
|
|
|
|
m |
x |
= |
n=1 |
|
N |
|
|||
|
|
|
||
|
|
|
|
. |
(6) |
Для каждого наблюдателя i находят Pi
для j, k, l, r = 1, 1, 1 до J, K, L, R
если 2 ≤ 2jklr ≤ 4, то:
если unjklr ujklr + 2 Sjklr
если |
u |
u |
− 2 S |
njklr |
jklr |
jklr |
или же:
и Qi, то есть:
,тогда Pi = Pi + 1;
,тогда Qi = Qi + 1;
если
если
u |
u |
||
njklr |
|
|
jklr |
unjklr |
|
|
jklr |
u |
|||
+
20
–
20
Sjklr
Sjklr ,
,
тогда Pi = Pi + 1;
тогда Qi = Qi + 1.
Если |
Pi |
X или |
Qi |
X, тогда исключается наблюдатель i, |
J K L R |
J K L R |
Рек. МСЭ-R BT.500-15 |
19 |
при этом:
N: число наблюдателей;
J: количество временных интервалов в рамках испытательной комбинации условия испытания и испытательной последовательности;
K: количество условий испытаний;
L: количество последовательностей; R: количество повторов.
Данный процесс позволяет исключить наблюдателей, решения которых существенно отличаются от средних оценок. На рисунке 1-3 представлены два примера (две крайние кривые, демонстрирующие значительные отклонения). Однако данные критерии исключения не позволяют обнаружить возможные отклонения от нормального порядка, которые являются другим важным источником необъективности.
Шаг 2. Обнаружение местных отклонений оценок от нормального порядка
В случае шага 2 обнаружение также основано на формуле отбора, представленной в Приложении 2. Вносится небольшое изменение, касающееся области применения. Набор входных данных снова состоит из оценок, полученных по всем временным интервалам (например, 10 секунд) всех схем испытания. Однако на этот раз оценки предварительно концентрируются вокруг общего значения для сведения к минимуму эффекта отклонения, который уже был учтен на первом этапе процесса. Затем применяется обычный процесс.
Прежде всего, следует выяснить, является ли это распределение оценок для каждого временного интервала каждой схемы испытания "нормальным" или "не нормальным", используя испытание 2. Если 2 лежит между 2 и 4, распределение может считаться "нормальным". Затем процесс применяется к каждому временному интервалу каждой схемы испытания, как математически выражено ниже.
Первый шаг процесса – это вычисление концентрированных оценок по каждому временному интервалу и каждому наблюдателю. Средняя оценка ūklr для каждой схемы испытания определяется как:
|
|
1 |
|
1 |
N |
|
u |
= |
|
|
|||
|
|
|||||
klr |
|
N |
|
J |
||
|
|
|
n=1 |
|||
|
|
|
|
|
J
unjklr j =1
.
(7)
Аналогично определяется средняя оценка для каждой схемы испытания и каждого наблюдателя:
u |
|
= |
1 |
|
nklr |
J |
|||
|
|
|||
|
|
|
J
unjklr j =1
,
(8)
а unjklr соответствует оценке наблюдателя i для временного интервала j, условия испытания k, последовательности l, повтора r.
Для каждого наблюдателя концентрированные оценки u*njklr рассчитываются следующим образом:
u*njklr = unjklr −unklr + uklr . |
(9) |
Для каждого временного интервала каждой схемы измерения вычисляются среднее значение ū*jklr, стандартное отклонение S*jklr и коэффициент 2*jklr, который задается формулой:
|
|
|
|
|
|
N |
|
x |
|
|
|
|
|
|
|
* |
|
|
|
|
|
|
|
|
||
|
|
m4 |
|
|
|
(u njklr) |
|
|
2 *jklr |
= |
|
|
mx = |
n=1 |
|
|
|
(m2) |
2 |
|
|
N |
|
|||
|
|
|
при |
|
|
|
Для каждого наблюдателя i находят P*i и Q*i, то есть:
для j, k, l, r = 1, 1, 1, 1 до J, K, L, R,
. |
(10) |
