Специальные вопросы обработки геоэкологической информации 0
Особенности геоэкологической информации
Учет водности при оценке годовых объемов стока
Учет неэквидистентности
Учет неоднородности по числу измерений
Вероятностная оценка экстремальных уровней загрязнения
Оценка выбросов в рядах данных наблюдений за концентрациями ЗВ
1. Учет водности при оценке годовых объемов стока
Анализ влияния неучёта водности рек на точность расчета средних годовых концентраций загрязняющих веществ
В настоящее время для оценки средних годовых концентраций загрязняющих веществ (ЗВ) в речном стоке в основном используются два метода [1]. В первом из них учитывается водность реки в период отбора проб на химанализ, и расчётная величина средней годовой концентрации ЗВ определяется как среднее взвешенное по расходу воды значение:
|
(1) |
,
где
j
– средняя годовая концентрация
загрязняющего вещества в j-ый
год, nj – число измерений концентраций
в j-ый год, i – номер измерения концентраций
и расходов воды в данном году, Sji и Qji –
i-ое значение концентраций и расходов
воды в j-ый год.
Во втором методе расчётная величина средней годовой концентрации определяется без учёта водности, как среднее арифметическое значение по всем измеренным значениям концентраций в j-год, то есть:
|
(2) |
,
В практике гидроэкологических расчётов наибольшее распространение, особенно для малых рек, получил второй метод. Это связано с тем, что, во-первых, взятие проб воды в реках на химический анализ не всегда сопровождается измерением расходов воды. Во многих случаях на реках, где берутся пробы воды на химанализ, расходы воды не измеряются вообще. Во-вторых, для многих исследователей разница в результатах расчёта по первой и второй формуле представляется не существенной, так как ранее при анализе других процессов, как правило, в большинстве случаев среднее по измерениям практически совпадало с действительным средним значением рассматриваемого процесса.
Между
тем можно показать, что второй метод
имеет достаточно существенное ограничение.
Действительно, среднегодовая концентрация
загрязняющих веществ в данном створе
(
)
в каждый j-год
определяется как отношение годового
объема стока ЗВ (Mзвj ) к годовому
объёму стока воды (Wс j), то есть
|
(3) |
,
В свою очередь годовой сток ЗВ (Mзвj ) через данный створ есть сумма расходов ЗВ QЗВji, то есть
|
(4) |
,а суточный расход ЗВ равен произведению:
|
(5) |
,где
– средняя концентрация в i-ый день j-го
года,
– расход воды в данном створе. Отсюда
|
(6) |
,Объём годового стока воды через данный створ:
|
(7) |
.
Подставляя (6) и (7) в формулу (3) получаем формулу (1) расчёта средней годовой концентрации. Таким образом, первый метод, основанный на использовании формулы (1), учитывающей водность реки, является физически обоснованным и, следовательно расчеты этим методом дают оптимальные результаты.
Если принять расход воды постоянным в течение года, то из формулы (1) получаем формулу (2), то есть формулу расчёта средней годовой концентрации как среднего арифметического значения по измеренным значениям концентрации. Действительно,
|
(8) |
.
Таким образом, при расчёте средней годовой концентрации как среднего арифметического значения заведомо принимается, что расходы воды в течение года на рассматриваемом объекте являются постоянными.
На самом деле, расходы воды являются крайне непостоянной величиной, и способность реки транспортировать ЗВ своими водами в течение года меняется в десятки и в сотни раз [2, 3]. Поэтому формула (2), не учитывающая значение расхода воды при измерении концентраций ЗВ не отражает действительное значение средней годовой концентрации.
В связи с полученным выводом возникают два вопроса:
1. Как влияет не учёт водности в период отбора проб на точность оценки средних годовых концентраций?
2. Что можно сделать для снижения возможных погрешностей за счет неучёта водности при отсутствии измеренных расходов воды?
Для ответа на первый вопрос, по-видимому, достаточно сопоставить результаты расчёта средних годовых концентраций первым и вторым методом по конкретным рядам наблюдений. Схема таких расчетов и анализ полученных результатов приводятся ниже.
Более сложным является ответ на второй вопрос. При отсутствии измерений расходов воды в период отбора проб на химанализ, проблема учёта водности решилась бы при наличии надёжной связи концентрации ЗВ и расходов воды. Этой теме посвящено немало исследований [2]. Однако, обобщая их, можно сказать, что взаимосвязь химического состава речного стока с величиной расходов воды имеет довольно сложный характер. В условиях высокой антропогенной нагрузки такая связь вообще часто нарушена. По-видимому, требуется другой, более общий подход, позволяющий, хотя бы приближенно учитывать при расчете средних годовых концентраций ЗВ в реках внутригодовые колебания водности.
Для решения поставленных вопросов в работе использовались поэлементные ряды наблюдений за содержанием ТМ в стоке р. Охты (устье) за период 1969–1988 гг. и р. Великой у г. Псков и г. Остров (верхний и нижний створы) период 1969–1989 гг. Такой выбор исходных данных обусловлен тем, что в этот период на этих постах проводились наблюдения как за качеством, так и за расходами воды. Следует отметить, что р. Охта, как и многие другие водотоки на урбанизированных территориях, зарегулирована в нижнем течении водохранилищем. При этом пробы воды для определения концентраций ТМ отбирались в устье реки, а измерения расходов воды проводились на гидрометрическом посту в Ново-Девяткино, расположенном выше Охтинского водохранилища, то есть на свободном, большей частью, от подпора водохранилища участке реки. Поэтому для расчёта средневзвешенных концентраций ТМ по формуле (1) в данном случае использовались среднемесячные расходы воды, на которые не оказывает влияния суточное регулирование водохранилища. Естественно, что это может привести к некоторым погрешностям, связанным со сглаживанием значений водности во времени. С другой стороны исследования по Охте имеют и самостоятельный интерес, так как большинство малых рек в пределах городских территорий тем или иным образом зарегулировано и расходы воды на них измеряются вне зоны подпора.
По р. Великой, створы измерения проб воды на химанализ и расходов воды совпадают и регулирование стока на участке от места взятия проб до гидроствора отсутствует.
Погрешность расчетов Δ средних годовых концентраций за счёт не учёта водности естественно находить как разность значений концентраций, полученных при расчёте по формуле (2) - Sai и формуле (1) - Sci, то есть
Δi = Sai - Sci , (9)
где i – порядковый номер года. Тогда относительная погрешность
δi = (Δi / Sci) · 100%. (10)
Результаты расчётов погрешностей средних годовых концентраций по формулам (9) и (10) для каждого отдельного года по всем исходным рядам сводились в специальные таблицы. В качестве примера в таблице 1 представлена выборка результатов таких расчётов по р. Охта для ряда значений концентраций хрома. В первом столбце таблицы приведены годы наблюдений, во втором и третьем столбце – среднегодовые концентрации хрома, вычисленные как средневзвешенные по водности – Sc, и как среднеарифметические – Sa, в четвёртом – погрешности Δ, в пятом – относительные погрешности δ %.
Таблица 1 – Погрешности расчёта средних годовых концентраций хрома за счёт неучёта водности. Р. Охта, устье.
Год |
Sc, мкг/л |
Sa, мкг/л |
Δ, мкг/л |
δ, % |
1969 |
0.00 |
0.00 |
0.00 |
16.61 |
1970 |
5.12 |
10.80 |
5.68 |
110.98 |
1971 |
9.39 |
6.00 |
-3.39 |
-36.12 |
1972 |
3.50 |
4.88 |
1.39 |
39.68 |
1973 |
6.53 |
8.45 |
1.92 |
29.47 |
… |
… |
… |
… |
… |
1985 |
5.07 |
6.13 |
1.05 |
20.78 |
1986 |
9.56 |
9.11 |
-0.45 |
-4.70 |
1987 |
8.06 |
10.50 |
2.44 |
30.33 |
1988 |
17.82 |
22.98 |
5.16 |
28.98 |
По полученным значениям средних годовых концентраций с учётом и без учёта водности были рассчитаны числовые характеристики многолетних значений средних годовых концентраций всех рассматриваемых элементов с учётом и без учёта водности [4]. В качестве примера в таблице 2 представлены результаты таких расчётов по некоторым ТМ. Здесь: Среднее – среднее многолетнее значение, σs – среднее квадратическое отклонение средних годовых концентраций, Cv и Cs – соответственно коэффициент вариации и коэффициент асимметрии, max и min – соответственно максимальные и минимальные значения измеренных концентраций за период наблюдений.
Таблица 2 – Числовые характеристики многолетних значений концентраций ТМ
металл |
|
Среднее |
σs |
Cv |
Cs |
max |
min |
р.Охта |
|||||||
Cu мкг/л |
ср.взв. |
23.51 |
54.34 |
2.31 |
3.44 |
201.86 |
0.01 |
ср.арифм. |
25.27 |
48.47 |
1.92 |
3.04 |
178.33 |
0.01 |
|
Fe об мг/л |
ср.взв. |
0.96 |
0.39 |
0.41 |
-0.02 |
1.61 |
0.26 |
ср.арифм. |
0.98 |
0.37 |
0.38 |
0.54 |
1.93 |
0.29 |
|
Mn мкг/л |
ср.взв. |
36.59 |
52.38 |
1.43 |
1.43 |
127.71 |
0.01 |
ср.арифм. |
37.42 |
55.68 |
1.49 |
1.54 |
143.84 |
0.01 |
|
NI, мкг/л |
ср.взв. |
21.02 |
39.52 |
1.88 |
2.33 |
118.37 |
0.00 |
ср.арифм. |
32.63 |
73.21 |
2.24 |
2.76 |
223.33 |
0.00 |
|
р.Великая - г.Псков, верхний створ |
|||||||
Fe об, мг/л |
ср.взв. |
0.16 |
0.09 |
0.56 |
0.09 |
0.33 |
0.03 |
ср.арифм. |
0.14 |
0.06 |
0.46 |
-0.25 |
0.24 |
0.03 |
|
Mn, мкг/л |
ср.взв. |
7.55 |
5.44 |
0.72 |
1.99 |
15.69 |
4.62 |
ср.арифм. |
12.41 |
10.40 |
0.84 |
1.89 |
27.87 |
5.48 |
|
р.Великая - г.Псков, нижний створ |
|||||||
Fe об, мг/л |
ср.взв. |
0.18 |
0.16 |
0.86 |
1.72 |
0.63 |
0.02 |
ср.арифм. |
0.16 |
0.11 |
0.69 |
1.21 |
0.43 |
0.05 |
|
Mn, мкг/л |
ср.взв. |
5.58 |
5.61 |
1.01 |
0.71 |
13.66 |
0.54 |
ср.арифм. |
7.88 |
7.78 |
0.99 |
0.62 |
19.63 |
1.20 |
|
р.Великая - г.Остров, верхний створ |
|||||||
Fe об, мг/л |
ср.взв. |
0.15 |
0.07 |
0.49 |
1.32 |
0.35 |
0.06 |
ср.арифм. |
0.12 |
0.05 |
0.39 |
1.04 |
0.25 |
0.07 |
|
Mn, мкг/л |
ср.взв. |
3.95 |
5.26 |
1.33 |
0.91 |
10.95 |
0.11 |
|
ср.арифм. |
8.16 |
12.00 |
1.47 |
1.28 |
28.30 |
0.23 |
р.Великая - г.Остров, нижний створ |
|||||||
Fe об, мг/л |
ср.взв. |
0.15 |
0.09 |
0.64 |
1.31 |
0.39 |
0.04 |
|
ср.арифм. |
0.11 |
0.06 |
0.56 |
1.25 |
0.26 |
0.05 |
Mn, мкг/л |
ср.взв. |
6.06 |
7.33 |
1.21 |
0.68 |
16.36 |
0.04 |
|
ср.арифм. |
6.36 |
8.88 |
1.40 |
1.41 |
22.00 |
0.23 |
В таблице 3 представлены расчеты значений погрешностей определения средних многолетних годовых концентраций за счет неучёта водности.
Таблица 3. Расчёт погрешностей определения средних многолетних значений средних годовых концентраций за счёт неучёта водности
металл |
Sci |
Sca |
Δi |
δi % |
р.Охта - устье |
||||
Cu, мкг/л |
23.51 |
25.27 |
1.77 |
7.51 |
Fe об, мг/л |
0.96 |
0.98 |
0.02 |
1.57 |
Cr об, мкг/л |
10.08 |
10.17 |
0.09 |
0.91 |
Mn, мкг/л |
36.59 |
37.42 |
0.83 |
2.27 |
PB, мкг/л |
5.64 |
6.36 |
0.73 |
12.88 |
HG, мкг/л |
0.49 |
0.38 |
-0.11 |
-23.18 |
ZN, мкг/л |
160.73 |
108.35 |
-52.38 |
-32.59 |
NI, мкг/л, |
21.02 |
32.63 |
11.61 |
55.25 |
р.Великая - г.Псков, верхний створ |
||||
Fe об, мг/л |
0.16 |
0.14 |
-0.02 |
-2.68 |
Mn, мкг/л |
7.55 |
12.41 |
4.86 |
56.36 |
р.Великая - г.Псков, нижний створ |
||||
Fe об, мг/л |
0.18 |
0.16 |
-0.02 |
7.31 |
Mn, мкг/л |
5.58 |
7.88 |
2.69 |
58.72 |
р.Великая - г.Остров, верхний створ |
||||
Fe об, мг/л |
0.15 |
0.12 |
-0.02 |
-9.47 |
Mn, мкг/л |
3.95 |
8.16 |
4.21 |
120.73 |
р.Великая - г.Остров, нижний створ |
||||
Fe об, мг/л |
0.15 |
0.11 |
-0.04 |
-17.51 |
Mn, мкг/л |
6.06 |
6.36 |
0.31 |
114.58 |
Как
следует из результатов расчёта,
представленных по форме таблице 1,
значения погрешностей расчёта средних
годовых концентраций ЗВ в реках за счет
не учёта водности -
в отдельные годы могут быть весьма
значительны. Так, погрешность погодичных
средних арифметических значений
концентраций по отношению к средним
взвешенным по водности составляет от
-60 % (1973 г., железо, р. Великая –
г. Остров, нижний створ) до +500 %
(1987 г., марганец, р. Великая –
г. Остров, нижний створ). Таким образом
за счет не учёта водности при расчетах
средних годовых концентраций могут
быть получены погрешности в 2, 3, а то и
в 5 раз превышающие действительные
значения этих концентраций.
На рисунке 1 представлены экстремальные значения погрешностей расчета средних годовых концентраций δ за счёт не учёта водности по отдельным металлам и пунктам. Очевидно, что подавляющее большинство экстремальных погрешностей положительны. В основном только для железа они имеют отрицательный знак. Отсюда следует, что не учёт водности приводит чаще всего к завышению максимальных значений средних годовых концентраций. По-видимому, это объясняется тем, что максимальные концентрации загрязняющих веществ в реках часто наблюдаются в период зимней или летней межени, когда расходы воды меньше средних годовых значений. При не учёте водности, то есть при расчётах средних годовых концентраций по формуле (2), этим максимальным концентрациям присваивается (см. выше), как и всем другим, водность, равная среднегодовому значению расхода воды, что естественно приводит к завышению средних годовых концентраций. Отрицательный знак экстремальной погрешности δ по концентрациям железа может быть следствием того, что внутригодовая и межгодовая изменчивость концентраций железа в реках Северо-Запада на много меньше, чем изменчивость концентраций других элементов. Так коэффициент вариации средних годовых концентраций железа (таблица 3) составляет от 0,41 до 0,86, в то время как по хрому, имеющему наименьший коэффициент вариации из всех других металлов, коэффициент вариации изменяется от 0,81 до 0,93.
Рисунок 1. Максимальные погрешности оценок среднегодовых концентраций ТМ за счёт не учёта водности, %.
Таким образом, при вычислении среднегодовых концентраций ЗВ как среднеарифметических значений концентраций внутри года, то есть без учёта водности, получаются результаты, весьма существенно отличающиеся от действительных, и погрешности за счёт не учёта водности могут быть столь велики, что приведут к серьёзному искажению представлений о загрязнении реки рассматриваемыми веществами, особенно при коротких рядах наблюдений.
Рассмотрим теперь, как влияет неучёт водности рек в период отбора проб воды на числовые характеристики многолетних колебаний средних годовых концентраций (таблицы 2, 3).
Как следует из представленных данных (таблицы 2, 3), за счёт неучёта водности значения средних многолетних средних годовых концентраций по всем ТМ, кроме железа, существенно увеличиваются. При этом, если по р. Охте эти концентрации увеличиваются на величину от 2 до 50%, то на р. Великой от 40 до 120 %. Также увеличиваются за счет неучёта водности по большинству пунктов наблюдений и значения средних квадратических отклонений средних годовых концентраций - σ. При этом преувеличения составляют от 10 до 90 %. В некоторых случаях, в частности по р. Охте (медь, железо), σ – наоборот уменьшается. Правда, это уменьшение составляет всего от 4 до 8 %. Коэффициент асимметрии Cs в среднем практически не меняется. По некоторым металлам он существенно увеличивается за счет неучёта водности, по другим металлам несколько уменьшается. Возможно, неустойчивость изменения Cs объясняется малым объемом выборок и большими погрешностями определения Cs по ним.
В заключение следует отметить, что наибольшие погрешности расчётов средних многолетних значений наблюдаются на р. Великой. На р. Охте эти погрешности значительно меньше. По-видимому, это объясняется тем (см. выше), что по р. Великой водность определялась на момент взятия проб воды на химанализ, а на р. Охте для характеристики водности использовались средние месячные значения расходов. Естественно это привело к сглаживанию колебаний водности и, следовательно, уменьшению амплитуды колебания годовых и средних многолетних значений концентраций, рассчитанных с учётом водности.
Таким образом, неучёт водности в период отбора проб может привести к большим погрешностям оценки единичных средних годовых и средних многолетних средних годовых концентраций загрязняющих веществ. Учитывая это представляется, что учёт водности при расчетах средних годовых концентраций необходим, во всех случаях. Проблема здесь заключается в том, что часто, особенно на малых реках, измерения расходов воды в период взятия проб на химанализ отсутствуют.
Для решения этой проблемы нами был апробирован прием, заключающийся в использовании типовых суточных гидрографов по однородным районам. Этот путь, по крайней мере, для Северо-Запада, оказался достаточно эффективным. Методика реализации и результаты апробирования этого приема будут опубликованы позднее.
Выводы
1. В настоящее время для оценки средних годовых концентраций загрязняющих веществ (ЗВ) в речном стоке в основном используются два метода. В первом из них учитывается водность реки в период отбора проб на химанализ и расчётная величина средней годовой концентрации определяется как среднее взвешенное по расходу воды значение. Во втором методе расчётная величина средней годовой концентрации определяется без учёта водности, как среднее арифметическое значение по всем измеренным значениям концентраций.
2. Теоретической основой второго метода является предположение о постоянстве расходов воды в течение года, что не соответствует действительности. Однако из-за отсутствия по многим пунктам наблюдений за расходами воды именно второй метод расчета средних годовых концентраций получил наибольшее распространение. В связи с этим встает вопрос о погрешностях расчетов средних годовых концентраций к которым может привести необоснованное использование второго метода
3. Результаты исследования показали, что возможные погрешности расчета средних годовых концентраций за счёт не учёта водности достигают очень больших значений. Так, для р. Охты погрешность расчета средних годовых концентрации варьирует от -40 % до 170 %. Для р. Великой, за счёт более детального учёта внутригодовых колебаний водности реки, погрешности варьируют – от -60 % до 500 %.
4. Неучёт водности при оценках средних годовых концентраций в существенной степени сказывается и на числовых характеристиках средних многолетних средних годовых концентраций ТМ. Так по всем ТМ, за исключением железа, средние многолетние значения средних годовых концентраций увеличиваются по отношению к средним многолетним средним годовым концентрациям, рассчитанным с учётом водности, на величину от 2 до 120% .
5. Таким образом, неучёт водности в период отбора проб может привести к значительным погрешностям расчётов средних годовых и средних многолетних концентраций, большей частью в сторону преувеличения, что в свою очередь приведет к аналогичному преувеличению объемов стока загрязняющих веществ через заданный створ. Поэтому во всех случаях необходимо использовать первый метод оценки средних годовых концентраций, учитывающий водность в период взятия проб на химаналих.
6. При отсутствии наблюдений за расходами воды можно воспользоваться районным типовым суточным гидрографом, что позволит, при надлежащем анализе, сократить возможные погрешности определения средних годовых концентраций в 1,5 – 2 раза.