Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Кабельная инфраструктура ЦОД. Учебное пособие
.pdf
Министерство цифрового развития, связи и массовых коммуникаций
Российской Федерации
Федеральное государственное бюджетное образовательное учреждение
высшего образования
«Сибирский государственный университет телекоммуникаций и
информатики» (СибГУТИ)
И. Б. Елистратова
Л. В. Первушина
Л. В. Семендилова
КАБЕЛЬНАЯ ИНФРАСТРУКТУРА ЦОД
Учебное пособие
Новосибирск
2023

2
УДК [621.315.2:621.391.029.7](075.8)
ББК 32.889
Утверждено редакционно-издательским советом СибГУТИ
Рецензенты: канд. техн. наук, доц. В.О. Калинин;
канд. техн. наук, доц. Ю.С. Лизнева
Елистратова, И. Б. Кабельная инфраструктура ЦОД : учебное пособие /
И. Б. Елистратова, Л. В. Первушина, Л. В. Семендилова ; Сибирский
государственный университет телекоммуникаций и информатики, кафедра
фотоники в телекоммуникациях. – Новосибирск, 2023. – 73 с.
Рассмотрены основные вопросы кабельной инфраструктуры ЦОД:
пассивная основа ЦОД с использованием электрических и волоконнооптических кабелей связи. Освещены вопросы физических основ передачи
сигнала по оптическим кабелям и кабелю «витая пара». Изложена методика
инженерного расчёта контролируемых параметров и тестирования кабельной
системы на основе витой пары. Представлена информация о серверных
ресурсах, системах хранения данных, энергоэффективности. Затронуты
вопросы проектирования и монтажа инфраструктуры ЦОД. Приведены
вопросы и задания для самоконтроля и необходимые приложения.
Учебное пособие предназначено для студентов, обучающихся по
направлению подготовки 11.03.02 «Инфокоммуникационные технологии и
системы связи».
© Елистратова И.Б., 2023
© Сибирский государственный университет
телекоммуникаций и информатики, 2023

3
Содержание
Стр.
Введение
4
1
Пассивная основа ЦОД
7
2
Кабельные системы ЦОД. Электрические линии связи
9
2.1 Кабели «витая пара»
9
2.2 Расчет вносимых потерь кабеля из витых пар
13
2.3 Переходные влияния
17
2.4 Тестирование кабельной системы на основе витой пары
21
3
Кабельная инфраструктура ЦОД. Оптические линии связи
28
3.1 Оптические кабели
28
3.2 Стандарты МОВ для СКС
31
3.3 Мониторинг в центрах обработки данных
32
3.4 Миграция на более высокие скорости
35
4
Серверные ресурсы
38
4.1 Виртуализация и консолидация серверных ресурсов
38
4.2 Системы хранения данных
39
5
Проектирование инфраструктуры
41
5.1 Ключевые компоненты ЦОД
41
5.2 Вычислительные мощности
42
5.3 Разработка кабельной инфраструктуры
43
6
Энергоэффективность ЦОД
47
6.1 Основы энергоэффективности ЦОД
47
6.2 Стандарты энергоэффективности ЦОД
49
6.3 Оценка энергоэффективности центра обработки данных
50
7
Контрольные вопросы и задания
51
Библиография
57
ПРИЛОЖЕНИЕ А Глоссарий
59
ПРИЛОЖЕНИЕ Б Характеристики кабелей типа «витая пара»
61
ПРИЛОЖЕНИЕ В Инструменты мониторинга в центрах обработки
данных
67
ПРИЛОЖЕНИЕ Г Пример схемы реального ЦОД
69
ПРИЛОЖЕНИЕ Д Типы и характеристики коннекторов
70

4
Введение
Сегодня в отрасли связи важное место занимает индустрия центров
обработки данных. Центры обработки данных развиваются и будут развиваться
до тех пор, пока растет спрос на информацию. Уже сегодня проектировщики
центров обработки данных рассматривают такие проблемы, как экологичность,
энергоэффективность и т.д.
В центрах обработки данных концентрируются основные
информационные услуги: от виртуального хостинга до коллокации
оборудования, которые, как показывает практика, оказывает непосредственное
и отчетливое влияние на определение стратегии развития ЦОД и формирование
модели управления. Весь объем услуг дата-центров следует разделить на три
группы на основе их связи с облачными вычислениями:
1. Традиционные услуги центров обработки данных: аренда площади,
аренда оборудования, телекоммуникационные услуги.
2. Услуги на основе «облачных» вычислений – XaaS (X (anything) as a
service).
3. Дополнительные услуги: системы охранного видеонаблюдения за
серверными стойками, система контроля и управления доступом к стойкам,
аренда помещений для размещения персонала клиентов на территории датацентра, обучение персонала клиентов, реклама.
При решении о размещении на той или иной территории центры обработки
данных руководствуются комплексом показателей, таких, как удалённость от
возможных источников стихийных бедствий и катастроф, равно как и
возможность протяжки до центра оптоволоконных сетей. В этих условиях
центры обработки данных становятся ещё одним источником экономического
развития территории, на которой они расположены, предоставляя рабочие
места обслуживающего персонала, активизируя энергосистему территории и т.
п. Переходя к рассмотрению обозначенных выше тенденций, необходимо
отметить, что первая из них – консолидация – обусловлена непосредственно
двумя ведущими процессами. Это, во-первых, поглощение более крупными
организациями более мелких. Наиболее ярко это проявилось в политике таких
мощных участников рынка, как Intel и HP, которые предложили комплексную
программу присоединения более мелких организаций, в которой открытая и
прозрачная организационно-правовая архитектура процесса присоединения
совмещалась с возможностями использования инновационного дизайна
информационного центра, обеспечивавшего комфортное объединение
информационных центров. Во-вторых, амбициозные проекты ряда
государственных органов и частных компаний по созданию так называемого
публичного облака (public cloud), то есть комплекса информационно-
вычислительных ресурсов, информационных систем, программных продуктов и
сервисов, размещенных на ИКТ-инфраструктуре «облачного» оператора и
предоставляемых конечным потребителям как XaaS. В условиях чего

5
«облачный» оператор гарантирует высокую доступность, производительность,
целостность и сохранность данных клиента. Обобщая сказанное выше,
необходимо отметить, что в этих условиях начинает формироваться новая
бизнес-модель функционирования дата-центра, которой будет свойственно, как
минимум, равное значение технических и экономических факторов, причем
вторые, скорее, со временем будут превалировать. Таким образом, генеральной
линией стратегии развития центров обработки данных в перспективе станет
способность удовлетворять потребности клиентов (пользователей), которые, в
частности, могут быть обеспечены бесперебойным электропитанием
оборудования и эффективным охлаждением.
Индустрия центров обработки данных зависит от многих факторов и в то
же время влияет на множество факторов. Поэтому задача проектирования
сервисов и обслуживающих систем является крайне ответственной
Во всем мире существует масса центров обработки данных. Часть из них
удовлетворяет потребностям малых хостингов и предприятий в одном. Другая
часть была построена специально для нужд определенных корпораций,
например, Яндекс, Google, Facebook, Сбербанк.
ЦОД представляет собой специализированное здание, расположенное в
пределах либо в непосредственной близости от узла связи или точки
присутствия одного или нескольких операторов связи. В структуру центра
входит: высоконадежное серверное оборудование, система хранения и передачи
данных, программное обеспечение, архитектурные и технические решения,
нацеленные на повышение надежности и функциональности, комплекс
организационных мероприятий, система мониторинга и администрирования.
Пример устройства центра обработки данных приведен в приложении Г.
В 1980-е и 1990-е года многие предприятия стали нуждаться в
гарантированной безотказной работе своей информационной системы, с
должным уровнем безопасности, надежности и управляемости. Для
выполнения таких целей был создан концепт центра обработки данных (ЦОД).
Преимуществом центра обработки данных являются повышение
надежности и эффективности эксплуатации данных, предоставление услуг в
режиме 24/7/365 с простым администрированием, контролем доступа, высоким
уровнем защиты. Высокий уровень защиты предохраняет от отказов
оборудования и программного обеспечения, сбоев энергопитания, пожаров и
задымлений, несанкционированного доступа, взломов, краж, вирусов,
затоплений, резких температурных изменений, пыли, частичного разрушения
здания, электромагнитного излучения.
Центры обработки данных исторически создавались во время отсутствия
явно установленных стандартов. Это привело к тому, что многие сетевые
администраторы оказались перед необходимостью самостоятельно выбирать
технологии. В апреле 2005 г. Ассоциация изготовителей оборудования для
передачи данных ответила на запросы сетевых администраторов выпуском
TIA-942 – первого стандарта на телекоммуникационную инфраструктуру

6
центров обработки данных (Telecommunications Infrastructure Standards for Data
Centres), который регламентирует требования к таковой инфраструктуре.
С каждым годом центры обработки данных набирают все большую
актуальность, обслуживая как маленькие предприятия, так и крупные
корпорации, всесторонне способствуя развитию бизнеса в стране. Персонал
предприятия, обслуживаемого ЦОДом, имеет централизованный доступ к
информации в любой точке при наличии подключения к интернету.

7
1 Пассивная основа ЦОД
Поскольку центр обработки данных объединяет в себе большое
количество вычислительных и запоминающих устройств, необходимо
организовать надежную взаимосвязь между его компонентами.
Структурированная кабельная система является пассивной основой, с помощью
которой оборудование ЦОДа связывается в единое целое. СКС – лишь она из
многих подсистем центра обработки данных, но без нее ЦОД потеряет главное
свое качество – надежность. Структурированная кабельная система в ЦОДе
должна быть грамотно построена с соблюдением всех современных правил и
стандартов. СКС ЦОД предназначена для кабельного соединения оборудования
ЦОД между собой и с активным оборудованием сети передачи данных с целью
объединения оборудования ЦОД в единый (локальный) сетевой комплекс. Для
выполнения функций передачи и приема трафика в центрах обработки данных
существуют телекоммуникационные зоны, во множество которых входят:
− комната ввода;
− главная распределительная зона (MDA – Main Distribution Area);
− горизонтальная распределительная зона (HDA – Horizontal Distribution
Area);
− место зонного распределения (ZDA – Zone Distribution Area);
− аппаратная зона (EDA – Equipment Distribution Area).
Типовая топология центра обработки данных приведена на рисунке 1.1.
Рисунок 1.1 – Типовая топология центра обработки данных

8
Центры обработки данных, не способные подстраиваться под рост объема
информации, могут существовать не более пяти лет. Умение управлять данным
ростом может положительно повлиять на сервисное обслуживание центра
обработки данных. Теперь важно опережать эти объемы, используя при этом
экономически эффективные средства.
Сегодня все менее эффективным становится раздельное
функционирование локальных сетей, систем хранения данных и
вычислительных систем. Это противодействует унификации услуг, снижает
энергоэффективность, вынуждает дублировать сетевые технологии и повышает
операционные расходы вычислительных ресурсов [2].
Для удовлетворения сложившихся тенденций разрабатывается ряд
технологий, например, DCB (Data Center Bridging) и FCoE (Fiber Chanel over
Ethernet). Технология DCB объединяет в себе локальные сети (LAN), системы
хранения данных (SAN) и высокопроизводительные вычислительные системы
(HPC). Технология FCoE помещает кадр FC в кадр Ethernet. Данные новшества
обеспечивают транспорт без потерь и поддержку больших кадров Ethernet.
Помимо этого, оптимизируется проектирование кабельной архитектуры с
целью приспособления к динамичным изменениям и скорейшего введения в
эксплуатацию.

9
2 Кабельные системы ЦОД. Электрические линии связи
2.1 Кабели «витая пара»
Кабельные системы ЦОДа не остаются без внимания и подвергаются
исследованиям и модернизации. В совокупности с разработкой новых
соединительных модулей разрабатываются и новые кабельные носители – как в
медных системах, так и в оптических.
Характеристики категорий медных кабелей приведены в таблице 2.1.
Таблица 2.1 – Характеристики категорий медных кабелей
№
Категория
кабеля
Количество
пар, шт.
Полоса частот, МГц
Максимально поддерживаемая
скорость
1
CAT1
1
0,1
64 кбит/сек
2
CAT2
2 1 4 Мбит/сек
3
CAT3
4
16
10 Мбит/сек
4
CAT4
4
20
16 Мбит/сек
5
CAT5
4
100
100 Мбит/сек
6
CAT5e
4
125
1000 Мбит/сек
7
CAT6
4
250
1000 Мбит/сек
8
CAT6a
4
500
10Гбит/сек
9
CAT7
4
700
10Гбит/сек
10
CAT7a
4
1000
40Гбит/сек
В медных системах на сегодняшний день уже активно разрабатываются
требования к медным кабелям категории 8, поддерживающим рабочую частоту
до 2ГГц. Однако в передовых ЦОД по-прежнему используется кабель
категории 7 и 7А.
Как правило, кабель имеет 4 пары в одной оболочке. Немного реже
встречаются 2-парные варианты, которые можно применять с ограниченным
числом сетевых протоколов.
Проводники изготовлены из монолитной медной проволоки толщиной 0,5
– 0,65 мм. Толщина изоляции – около 0,2 мм, материал обычно
поливинилхлорид (английское сокращение PVC), для более качественных
образцов 5 категории – полипропилен (PP), полиэтилен (PE). Особенно
высококлассные кабели имеют изоляцию из вспененного (ячеистого)
полиэтилена, которые обеспечивают низкие диэлектрические потери, или
тефлона, который обеспечивающий уникальный рабочий диапазон температур.
Разрывная нить (обычно капрон) используется для облегчения разделки
внешней оболочки – при вытягивании она делает на оболочке продольный
разрез, который открывает доступ к кабельному сердечнику, гарантированно не
повреждая изоляцию проводников.
Внешняя оболочка имеет толщину 0,5-0,6 мм и обычно изготавливается
из привычного поливинилхлорида с добавлением мела, который повышает

10
хрупкость. Это необходимо для точного облома по месту надреза лезвием
отрезного инструмента. Кроме этого, начинают применяться так называемые
"молодые полимеры", которые не поддерживают горение и не выделяют при
нагреве галогенов. Их широкому внедрению пока мешает только более высокая
(на 20-30%) цена.
Самый распространенный цвет оболочки – серый. Оранжевая окраска,
как правило, указывает на негорючий материал оболочки, который позволяет
прокладывать линии в закрытых областях. В общем случае, цвета не
обозначают особых свойств, но их применение позволяет легко отличать
коммуникации c разным функциональным назначением, как при монтаже, так и
обслуживании [11].
Отдельно нужно отметить маркировку. Кроме данных о производителе и
типе кабеля, она обязательно включает в себя метровые или футовые метки.
Конструкция кабельного сердечника достаточно разнообразна. В
недорогих кабелях пары уложены в оболочке "как попало". Более качественные
варианты предусматривают парную (по две пары между собой) или
четверочную скрутку (все четыре пары вместе). Последний вариант позволяет
уменьшить толщину сердечника и достигнуть лучших электрических
характеристик. Но относительно высокая стоимость не позволила этим типам
кабеля получить широкое распространение в России (и тем более в недорогих
домашних сетях).
Форма внешней оболочки также может быть различна. Чаще других
применяется самая простая – круглая, а для 2-парных кабелей – овальная.
Только для прокладки под половым покрытием, по очевидной причине,
используется плоский кабель.
Отдельно стоят кабели для наружной прокладки. Они обязательно имеют
влагостойкую оболочку из полиэтилена, которая наносится (как правило)
вторым слоем поверх обычной, поливинилхлоридной. Кроме этого, возможно
заполнение пустот в кабеле водоотталкивающим гелем и бронирование с
помощью гофрированной ленты.
По наличию (или отсутствию) экрана различают несколько типов кабелей
[7]:
− UTP (unshielded twisted pair), что означает незащищенная витая пара
(НЗВП), то есть кабель, витые пары которого не имеют индивидуального
экранирования;
− FTP (Foiled Twisted Pair) – фольгированная витая пара. Имеет общий
экран из фольги, однако у каждой пары нет индивидуальной защиты;
− STP (shielded twisted pair) – защищенная витая пара (ЗВП), каждая пара
имеет экран;
− ScTP (Screened Twisted Pair) – экранированный кабель, который может
как иметь, так и не иметь защиту отдельных пар.
TP (twisted pair) в переводе означает «витая пара». Все типы экрана
можно представить в таблице 2.2.
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
