Энергоснабжение ЦОД, стандарты ЦОД

Проектирование Центров Обработки Данных (ЦОД, Дата-центров)

До сих пор не существует единого российского ГОСТа, где были бы определены требования к ЦОД. В России действующих ЦОД еще слишком мало, чтобы делать обобщения, поэтому приходится использовать зарубежные опыт и модели расчетов.

Стандартизация рассматривается как один из принципов системного подхода к построению инфраструктуры, обеспечивающий масштабируемость решений и сокращение капитальных расходов. Она помогает унифицировать реализацию взаимосвязанных инфраструктурных систем ЦОД. Сейчас проектировщики руководствуются стандартом EIA/TIA-492 (США), но близок к завершению и европейский стандарт EN 50173-5, на основе которого будет сформирован соответствующий российский ГОСТ.

Проектирование и планирование ЦОД регламентируется американским стандартом ANSI TIA/EIA-942 (TIA-942) «Telecommunications Infrastructure Standard for Data Center», (Русская версия, 2.4 Mb) утвержденным в апреле 2005г.

На сегодня, это единственный комплексный стандарт, где освещается широкий круг вопросов, связанных с организацией ЦОД. Он предлагает последовательный подход к решению задач по созданию ЦОД. Комплексных европейских и международных аналогов не существует, однако, как предполагается, ISO возьмет его за основу при разработке соответствующего международного стандарта. Для ряда американских стандартов, входящих в ANSI/EIA/TIA-942, имеются международные аналоги. Так, например, аналогами ANSI/TIA/EIA-568 (Commercial Building Telecommunications Cabling Standard, Implementationof Telecommunications Enclosures, Additional Cabling Guidelines for DTE Power) являются ISO 11801и европейские EN 50173, EN 50174 (Comite Europeen de Normalisation Electrotehnique, CENELEC). Стандарт обобщает многолетний опыт создания ЦОД. Следование его рекомендациям позволяет максимально приблизиться к уровню надежности с заветными пятью девятками — 99,999%. Ряд требований следует принять в качестве постулата

Стандарт TIA-942 описывает общую структуру, основные элементы и топологию ЦОД и охватывает все разнообразие подсистем ЦОД, включая систему электроснабжения:

Энергоснабжение Центров Обработки Данных (ЦОД)

При расчете системы энергоснабжения Дата-Центров (ЦОД) проектировщики руководствуются действующим на территории РФ регламентирующим актом «Правила устройства электроустановок (ПУЭ)». Этот документ выделяет категории надежности электроснабжения (объекты I, II категории и объекты особой группы первой категории) и дает общие рекомендации по обеспечению каждого из уровней.

Стандарт TIA-942   определяет четыре уровня бесперебойной работы ЦОД. Первый уровень составляет 99,67 %, что соответствует запланированному времени простоя не более 28,8 часов в год. Уровень надежности ЦОД IV класса составляет 99,995 %, что означает суммарный перерыв в работе не более 15 минут в год. В отличие от первого уровня четвертый предполагает полное резервирование. На практике даже при значительном улучшении дизайна компьютерного оборудования ЦОД, построенные за последние пять лет и заявляющие функциональность IV уровня, в действительности часто соответствуют I, II и III уровню. Центры первого и второго класса могут занимать часть какого-либо помещения, а объекты III и IV класса размещаются в отдельных зданиях.

Требования к энергетической системе ЦОД IV уровня надежности также предусматривают полное резервирование. Такой центр должен быть оснащен как минимум двумя полностью независимыми электрическими системами, начиная от фидеров электропитания и входных магистралей от провайдеров услуг связи и заканчивая дублированием блоков питания серверных лезвий. Основные положения стандарта TIA 942 в части, касающейся энергоснабжения ЦОД:

  • помещение для ввода кабелей  в базовой топологии оно одно, но может быть и несколько
  • главный распределительный пункт (Main Distribution Area), где расположен центральный кросс кабельной системы ЦОД, маршрутизаторы, коммутаторы локальной сети и сети хранения данных. Там же могут размещаться и кроссы, предназначенные для коммутации горизонтальных кабелей. Для целей резервирования в ЦОД может быть организовано два и более MDA 
  • пункт распределения горизонтальной подсистемы общей кабельной системы ЦОД (Horizontal Distribution Area ) 
  • распределительный пункт зоны (Zone Distribution Area), наличие которого расширяет возможности по реконфигурации системы
  • область размещения компьютерного оборудования (Equipment Distribution Area).

Стандарты Тополгии ЦОД

Параметр / Класс
ЦОД (уровень)

1
Низкая отказоустойчивость

2

3

4
Высокая отказоустойчивость

Тип здания

C соседями

С соседями

Отдельно стоящее

Отдельно стоящее

Количество энерговводов

1

1

Один активный,
второй резервный

Два активных

Первоначальная мощность Вт на м2

215 — 323

430 — 537

430 — 645

537 — 860

Максимальная мощность Вт на м2

215 — 323

430 — 537

1075 — 1615

1615+

Бесперебойное кондиционирование

Нет

Нет

Возможно

Есть

Высота фальшпола в метрах

0.3

0.45

0.75 — 0.9

0.75 — 0.9

Нормативная нагрузка на фальшпол, кг на м2

415

488

732

732+ 
(по страндарту 2005г 1000+)

Общая длительность отказов за год

28,8 ч

22 ч

1,6 ч

0,4 ч

Доступность ЦОД

99,671 %

99,749 %

99,982 %

99,995%

Срок ввода в эксплуатацию (мес.)

3

3 — 6

15 — 20

15 — 20

Типовой проект впервые реализова в

1965 г.

1970 г.

1985 г.

1995 г.

Стоимость строительства (+ — 30%)
Площадь фальшпола*
Мощность ИБП

$ 4844 / м2
$ 10 000 / кВт

$ 6450 / м2
$ 11 000 / кВт

$ 9700 / м2
$ 20 000 / кВт

$ 11 800 / м2
$ 22 000 / кВт


Строительство ЦОД

Российский документ СН-512-78 (строительные нормы) «Инструкция по проектированию зданий и помещений для электронно¬вычислительных машин», последняя редакция, февраль 2000г. интересен с точки зрения общего подхода, а также ссылок на действующие СН и СниП. При проектировании нор¬мируемые параметры можно уточнить, обратившись к действующим ГОСТам, МГСН, НБП, РД и другим документам отечественной нормативной базы

Проектирование систем вентиляции и кондиционирования

Система вентиляции и кондиционирования должна работать в режиме 24х7х365. Работа системы должна поддерживаться резервным генератором. Величину рабочей температуры и влажности нужно контролировать и поддерживать в заданном диапазоне

  • температура сухого термометра 20-25 °C;
  • относительная влажность 40-55 %;
  • максимальная температура конденсации 21 °C;
  • максимальная скорость изменения 5 °C в час.

В зависимости от местных условий может потребоваться оборудование для создания дополнительной влажности или для осушки воздуха. Температуру и влажность окружающего воздуха следует измерить после того, как оборудование будет введено в эксплуатацию.

Измерения рекомендуется выполнять на высоте 1,5 м над уровнем пола через каждые 3-6 м вдоль центральной линии «холодных» проходов и во всех точках поступления воздуха в работающее оборудование. Измерения температуры лучше проводить в нескольких точках поступления воздуха в устройство, для которого вероятность возникновения проблем с охлаждением является высокой. Перепад давления по отношению к окружающим областям должен быть положительным.

Проектирование систем пожаротушения

Все распылительные системы должны срабатывать по сигналу датчика, реагирующего на дым и температуру. Основные помещения ЦОД нуждаются в установке приборов газового пожаротушения (для некоторых видов систем они являются обязательными), тогда удастся избежать выхода из строя дорогостоящего оборудования.

Когда существует опасность проникновения воды, следует предусмотреть средства для ее удаления из помещения (например, сливное отверстие в полу) и обеспечить по меньшей мере один сток или другое средство удаления воды на каждые 100 м2 площади. Все водопроводные и канализационные трубы, проходящие через помещение, надо располагать в стороне от оборудования, а не над ним.