4. Расчёт нормативов допустимого сброса

4.1. Расчёт фоновых концентраций

Расчёт количественных значений показателей химического состава воды водотоков проектируемого или действующего выпуска сточных вод должен периодически проводится с целью установления оптимальной степени очистки, режима и условий сброса сточных вод, при которых качество воды водотока ниже выпуска вод будет удовлетворять установленным нормам.

Фоновые концентрации химических веществ рассчитываются для конкретного, задаваемого проектными или организациями створа водотока и являются количественной характеристикой содержания веществ в этом створе при наиболее неблагоприятных ситуациях, обусловленных как естественными условиями формирования химического состава и свойств воды, так и влиянием всех источников загрязнения, расположенных выше рассматриваемого створа.

За фоновую концентрацию вещества принимается статистически обоснованная верхняя доверительная граница возможных средних значений концентраций этого вещества, рассчитанная по результатам гидрохимических наблюдений для наиболее неблагоприятных гидрологических условий или наиболее неблагоприятного в отношении качества воды периода (сезона) в годовом цикле [5].

Для расчета фоновой концентрации вещества используют результаты систематических наблюдений, при получении которых не изменялись:

- методика отбора и анализа проб воды;

- водный режим водотока (зарегулирование, забор воды и т.п.);

- характер поступления рассматриваемых химических веществ на вышерасположенном участке водотока.

При расчете фоновой концентрации вещества следует учитывать только те створы наблюдений, где имеются данные не менее чем за один год - при ежемесячной, ежедекадной или еще более дробной системе отбора проб воды; не менее чем за двухлетний период при 6-11- разовом отборе проб воды в год; не менее чем за трехлетний период при 4-5-разовом отборе проб воды в год. Основное условие - чтобы наблюдения проводились во все характерные сезоны не менее одного года и минимальное число данных в каждом сезоне за расчетный период было не менее трех.

Расчетные значения фоновой концентрации действительны в течение трех лет со дня выдачи официального ответа на запрос, после чего подлежат пересмотру.

По специфике вычислительных операций для заданного химического вещества условно можно выделить пять методов расчета, связанных с определением фоновой концентрации вещества :

1) выделение в заданном створе максимально загрязненной струи;

2) оценка достоверности статистической связи между концентрацией вещества и расходом воды в водотоке (отдельно для максимально загрязненной струи и остальной массы воды в водотоке); расчет фоновой концентрации вещества при наличии достоверной статистической связи между указанными параметрами;

3) расчет фоновой концентрации вещества для случая, когда систематические наблюдения в течение последних трех лет проводились не реже чем один раз в месяц;

4) расчет фоновой концентрации вещества для случаев, когда наблюдения проводились реже чем один раз в месяц;

5) пересчет фоновой концентрации вещества, полученной в створе систематических гидрохимических наблюдений, на другой заданный створ водотока.

Для каждой точки контроля в створе водотока рассчитывается среднее значение концентрации рассматриваемого вещества по формуле

(1)

где - средняя концентрация вещества в рассматриваемой точке контроля;

- -е значение концентрации вещества в этой точке;

- число значений , взятых для определения .

Перед расчетом из рядов концентраций вещества должны быть удалены аномально высокие или низкие значения концентрации, появление которых может быть связано только с грубыми ошибками при получении информации или аварийными ситуациями на водном объекте.

_{Точка контроля, для которой полученное значение средней концентрации наибольшее, принимается за основную (опорную). Если концентрация вещества в основной точке контроля существенно отличается от концентраций этого вещества в "соседних" (справа, слева, выше, ниже) точках, то следует считать, что результаты наблюдений в основной точке контроля характеризуют качество воды в максимально загрязненной струе[5].}

_{Если концентрация вещества в основной вертикали отличается от концентраций этого вещества в одной или нескольких соседних (справа, слева, выше, ниже) точках контроля несущественно, то следует считать, что все эти точки расположены в одной контрольной струе. Для получения единого ряда концентраций, характеризующих состав воды в этой струе, результаты наблюдений, полученные в указанных точках контроля за расчетный период, объединяют и усредняют.}

_{Оценку значимости отличия сравниваемых выборок концентраций вещества следует осуществлять с помощью непараметрического статистического критерия Вилькоксона-Манна-Витни (критерий ).}

_{Сущность данной методики заключается в следующем.}

_{Значения концентраций обеих выборок располагают в общую возрастающую последовательность, например в виде}

_,

_{где ,+, - концентрации первой выборки;}

_{,+, - концентрации второй выборки.}

_{Каждому значению концентрации в общей возрастающей последовательности присваивается ранг, например:}

₍₁₎

_{Если в первой и второй выборках имеются равные значения концентрации, то каждому из них приписывается среднее значение ранга. Например, если , то для рассмотренной последовательности будем иметь:}

₍₂₎

_{При получим:}

_(2a)

_{Далее отдельно для каждой выборки подсчитывается сумма рангов. Например, для последовательности (2) получим:}

_{- для первой выборки}

_{сумма рангов равна 22,5;}

_{- для второй выборки}

_{сумма рангов равна 32,5.}

_{Значения критерия определяют по формулам}

_{, (3)}

_{, (4)}

_{где - меньшая сумма рангов в сравниваемых выборках;}

_{- число значений концентраций в выборке с суммой рангов ;}

_{- большая сумма рангов в сравниваемых выборках;}

_{- число значений концентраций в выборке с суммой рангов .}

_{Например, для последовательности (2) получим}

_{. (5)}

_{Если число данных в большей из сравниваемых выборок менее или равно восьми (), то рассчитывается теоретическое (критическое) значение критерия по формуле:}

_{, (6)}

_{где - число данных в меньшей из сравниваемых выборок.}

_{Примечание - Результат, полученный по формуле (6), округляется до первого знака после запятой[5].}

_{В том случае, если рассчитанное значение больше , то отличие между сравниваемыми выборками принимается незначимым.}

_{Например, для последовательности (2) ; ; ; . Следовательно, отличие сравниваемых выборок концентраций принимается незначимым (при ).}

_{Если число данных в большей выборке более восьми (), то оценка отличия сравниваемых выборок концентраций проводится по критерию , который представляет собой приближенно нормированную величину, распределенную по нормальному закону:}

_{. (7)}

_{В том случае, если рассчитанное значение попадает в интервал , отличие между двумя сравниваемыми выборками концентраций принимается незначимым (при ).}

_{Выбранные для расчета фоновой концентрации вещества данные сводятся в градации по месяцам (число градаций - 12).}

_{Далее из каждой выделенной градации исключают непоказательные экстремальные значения.}

_{В выделенных градациях рассчитывают среднюю концентрацию вещества. Месяц с наибольшим значением концентрации вещества принимают за основной (опорный). Если значение концентрации вещества в этом месяце существенно отличается от значений концентрации в остальных месяцах, то верхняя доверительная граница средней концентрации вещества в основном месяце принимается за искомое значение фоновой концентрации вещества . Формула для расчета фоновой концентрации вещества имеет вид:}

_{, (8)}

_{где - средняя концентрация вещества в основном месяце;}

_{- среднеквадратическое отклонение значений концентрации в этом месяце;}

_{- число данных в градации.}

_{Примечание к (8) формуле: для растворенного кислорода в формуле (8) знак "+" следует заменить на "-".}

_{Если отличие данных в основном месяце от данных в одном или нескольких других месяцах несущественно, то результаты наблюдений, попавшие в несущественно отличающиеся градации, объединяются с результатами наблюдений в основной градации. Для вновь составленной (увеличенной) градации определяют среднюю концентрацию. Верхняя доверительная граница, определяемая по формуле (8), составит искомое значение фоновой концентрации вещества *.}

_{________________}

_{* Если полученное значение фоновой концентрации превышает максимальное наблюденное значение , то это означает, что либо были неправильно выбраны градации (или периоды) временных изменений концентрации вещества, либо при действительно высокой изменчивости значений концентрации вещества в выделенном периоде было проведено недостаточно наблюдений для расчета фоновой концентрации .}

_{Пример расчёта фоновой концентрации.}

_{Расчёт взвешенных веществ точка отбора р. Паша с. Часовенское}

Поскольку содержание взвешенных веществ в воде не зависит от расхода речной воды. Для выяснения значимости отличия результатов наблюдений, полученных в 1989 г., от данных 1988, 1987 гг. используем статистический критерий .

	Дата	азот Нитратный мг/дм3	ранг		Дата	азот Нитратный мг/дм3	ранг
	1989				1988
у1	10.02	1.4	2	х1	10.02	1.33	1
у2	22.04	26.0	8	х2	22.04	24.7	7
у3	23.08	4.5	4	х3	23.08	4.23	3
у4	25.10	12.0	6	х4	25.10	11.4	5
Сумма рангов			20				16

а	в	с	ранг
х1	10.02	1.33	1
у1	10.02	1.4	2
х3	23.08	4.23	3
у3	23.08	4.5	4
х4	25.10	11.4	5
у4	25.10	12.0	6
х2	22.04	24.7	7
у2	22.04	26.0	8

Значения критерия определяют по формулам

- меньшая сумма рангов в сравниваемых выборках;

- число значений концентраций в выборке с суммой рангов ;

u*= 16-4(4+1)/2=6

Так как число данных в большей выборке меньше 8, то значение u рассчитывается:

u_т=(0,448m*-0.301)n*-0.287m*-0.204=(0.448*4-0.301)*4-0.287*4-0.204=4.6

В случае если u* больше u_т то различия с выборками незначительны.

1989 и 1987

	Дата	азот Нитратный мг/дм3	ранг		Дата	азот Нитратный мг/дм3	ранг
	1989				1987
у1	10.02	1.4	1,5	х1	10.02	1,4	1,5
у2	22.04	26.0	7	х2	22.04	26,1	8
у3	23.08	4.5	3,5	х3	23.08	4,5	3,5
у4	25.10	12.0	5	х4	25.10	12,1	6
Сумма рангов			17				19

а	в	с	ранг
у1	10.02	1.4	1,5
х1	10.02	1.4	1,5
у3	23.08	4.5	3,5
х3	23.08	4.5	3,5
у4	25.10	12.0	5
х4	25.10	12.1	6
у2	22.04	26.0	7
х2	22.04	26.1	8

Значения критерия определяют по формулам

- меньшая сумма рангов в сравниваемых выборках;

- число значений концентраций в выборке с суммой рангов ;

u*= 17-4 (4+1)/2=7

Так как число данных в большей выборке меньше 8, то значение u рассчитывается:

u_т=(0,448m*-0.301)n*-0.287m*-0.204=(0.448*4-0.301)*4-0.287*4-0.204=4.6

В случае если u* больше u_т то различия с выборками незначительны

Так как данные за 1987-1989 гг. отличаются несущественно, в дальнейшем статистическом анализе все данные будем рассматривать совместно. Результаты группируем помесячно и для каждой выделенной градации определяем среднюю концентрацию

месяц	2	4	8	10
1989	1,4	26	4,5	12
1988	1,3	24,7	4,2	11,4
1987	1,4	26,1	4,5	12,1
сумма	4,1	76,8	13,2	35,6
n	3	3	3	3
средняя	1,4	25,6	4,4	11,8

В апреле средняя концентрация наибольшая, поэтому этот месяц относим к основной (опорной) градации. Используя критерий , определим значимость отличия основной градации от остальных.

Сравниваем апрель и февраль:

		2	Ранг			4	ранг
X1	1989	1,4	2.5	Y1	1989	26	5
X2	1988	1,3	1	Y2	1988	24,7	4
X3	1987	1,4	2.5	Y3	1987	26,1	6
сумма			6				15

а	в	с	ранг
X2	1988	1,3	1
X1	1989	1,4	2.5
X3	1987	1,4	2.5
Y1	1989	26	5
Y3	1987	26,1	6
Y2	1988	24,7	4

Значения критерия определяют по формулам

- меньшая сумма рангов в сравниваемых выборках;

- число значений концентраций в выборке с суммой рангов ;

u*= 6-3 (3+1)/2=0

Так как число данных в большей выборке меньше 8, то значение u рассчитывается:

u_т=(0,448m*-0.301)n*-0.287m*-0.204=(0.448*3-0.301)*3-0.287*3-0.204=2,1

В случае если u* больше u_т то различия с выборками незначительны

у нас наоборот. Поэтому февраль и апрель не совместимы.

Сравниваем апрель и август:

		4	Ранг			8	ранг
X1	1989	26	5	Y1	1989	4,5	2,5
X2	1988	24,7	4	Y2	1988	4,2	1
X3	1987	26,1	6	Y3	1987	4,5	2,5
сумма			15				6

Значения критерия определяют по формулам

- меньшая сумма рангов в сравниваемых выборках;

- число значений концентраций в выборке с суммой рангов ;

u*= 6-3 (3+1)/2=0

Так как число данных в большей выборке меньше 8, то значение u рассчитывается:

u_т=(0,448m*-0.301)n*-0.287m*-0.204=(0.448*3-0.301)*3-0.287*3-0.204=2,1

В случае если u* больше u_т то различия с выборками незначительны

у нас наоборот. Поэтому февраль и апрель не совместимы.

Расчет ведем по апрелю.

Находим среднюю концентрацию за апрель (n=3) используя формулы (1), (2), (3), получаем:

, (1)

где - средняя концентрация вещества в рассматриваемой точке контроля;

- -е значение концентрации вещества в этой точке;

- число значений , взятых для определения.

26

24,7

26,1

₌25,6

- среднеквадратическое отклонение, определяемое для анализируемого ряда значений концентрации вещества по формуле

; (2)

	с			С2
	26			676
	24,7			610
	26,1			681
Сумма с	76,8		СуммаС2	1967
(Сумма с)2	5898

• _{=корень((}1967-5898/3)/(3-1))=0,71

, (3)

где - средняя концентрация вещества в основном месяце;

- среднеквадратическое отклонение значений концентрации в этом месяце;

- число данных в градации.

_{tSt определяем по Приложению В [5].}

₌₁

_{=25,6+(0,71*1/корень3)=26 мг/дм3}

_{Дальнейшие расчёты фоновых концентраций проведены в приложении 25.}

_{Данные для расчета фона представлены в приложениях 26 - 28.}