Перейти к содержимому

Поиск по журналу

Введите слово или часть названия. Esc — закрыть.

КЛ · Климатическое оборудование
КМ14569

Охлаждение серверной: как выбрать рабочее решение под свою нагрузку

Опубликовано
Обновлено
Чтение
12 мин
Шифр
КЛ-14569

Главный ориентир при выборе охлаждения серверной простой: система должна отводить столько тепла, сколько оборудование реально выделяет в пике, с запасом на рост, и делать это непрерывно — включая моменты отключения основного питания. Ошибка в любую сторону стоит дорого: недостаток холода приводит к троттлингу и аварийным отключениям, а избыточная мощность — к постоянным переплатам за электричество.

В этой статье разобраны основные способы охлаждения серверных помещений, их сильные и слабые стороны, а также порядок расчёта и проверки, который поможет принять обоснованное решение без обращения к подрядчику на первом этапе.

С чего начать: тепловой расчёт вместо выбора «по площади»

Частая ошибка — подбирать климатическое оборудование по метражу комнаты, как для офиса. Серверная охлаждается не по площади, а по тепловыделению оборудования. Комната 10 м² с двумя стойками по 10 кВт требует совершенно другой системы, чем комната 30 м² с парой коммутаторов.

Базовый расчёт выглядит так:

  1. Сложите максимальное энергопотребление всего ИТ-оборудования по паспортным данным или данным PDU (устройств распределения питания). Это значение в киловаттах практически равно тепловыделению: почти вся потреблённая электроэнергия превращается в тепло.
  2. Добавьте тепловыделение вспомогательных источников: освещение, ИБП (часть потерь преобразования), периферия. Обычно это 5–15% сверх нагрузки стоек.
  3. Заложите запас на рост. Разумный диапазон — 20–30% к текущей нагрузке, если план развития известен, и больше, если стойки будут заполняться постепенно.

Условный пример: две стойки с паспортной нагрузкой по 8 кВт каждая, плюс ИБП и освещение дают ещё 1,5 кВт. Итого около 17,5 кВт, с запасом 25% — примерно 22 кВт холодопроизводительности. Это уже уровень, где бытовые сплит-системы не подходят, а речь идёт о промышленном оборудовании.

Почему важен не только максимум, но и профиль нагрузки

Если нагрузка стабильна круглосуточно, системе нужен режим непрерывной работы 24/7/365 — это ключевое требование, отличающее серверное климатическое оборудование от обычного. Бытовые и полупромышленные кондиционеры не рассчитаны на такую эксплуатацию: компрессоры, рассчитанные на циклы «работа днём — отдых ночью», быстро вырабатывают ресурс при постоянной работе зимой и летом.

Основные решения для охлаждения серверных помещений

Прецизионные кондиционеры (CRAC/CRAH)

Классика для машинных залов. Прецизионный кондиционер — моноблок или шкафной агрегат, рассчитанный на круглогодичную работу и точное поддержание температуры и влажности. Варианты по способу отвода тепла:

  • С выносным конденсатором (сплит-схема). Холодильный контур выносит тепло наружу. Простое и распространённое решение для небольших и средних серверных, но ограничено длиной трасс между блоками.
  • С водяным охлаждением конденсатора. Тепло уносится водой в контур здания. Подходит, когда наружные блоки разместить негде или трассы получились бы слишком длинными.
  • CRAH — с chilled water. Внутри блока нет компрессора: воздух охлаждается холодной водой от чиллера или городской сети холодоснабжения. Стандарт для крупных ЦОД, где масштабируется централизованно.

Типичная схема подачи воздуха — через приподнятый фальшпол: кондиционер нагнетает холодный воздух под пол, он выходит через перфорированные плитки перед стойками. Альтернатива при отсутствии фальшпола — верхняя раздача по воздуховодам или свободная схема с направлением потока вдоль рядов.

Чиллер + внутренние блоки (фанкойлы или CRAH)

Выносной чиллер производит холодную воду, которая циркулирует по зданию и охлаждает воздух во внутренних блоках. Плюсы: холодильная машина обслуживается снаружи, внутри помещения нет фреоновых трасс, систему легко масштабировать добавлением модулей чиллера. Минусы: дороже на старте, нужны насосные группы, гидравлическая обвязка и защита контура от замерзания. Это рациональный выбор для средних и больших площадей и для зданий, где уже есть система холодоснабжения.

Фрикулинг (свободное охлаждение)

Фрикулинг — это отвод тепла наружным воздухом напрямую или через теплообменник, без работы компрессора. Работает, когда уличная температура ниже требуемой в помещении. В большинстве регионов России значительную часть года температура позволяет использовать его хотя бы частично, что заметно снижает энергопотребление: компрессоры — главный потребитель электричества в холодильном цикле.

  • Прямой фрикулинг подаёт уличный воздух в помещение после фильтрации. Дёшево и эффективно, но в помещение попадают пыль и влага, поэтому требуется качественная фильтрация и контроль влажности.
  • Косвенный фрикулинг использует теплообменник или промежуточный контур: уличный воздух с помещением не смешивается. Чище и надёжнее, но чуть менее эффективен из-за температурного перепада на теплообменнике.
  • Естественный фрикулинг через чиллер — режим, когда чиллер охлаждает воду без компрессора за счёт наружного воздуха. Наиболее распространённый вариант в связке с chilled water.

Практический вывод: если серверная находится в регионе с холодными зимами, наличие режима фрикулинга — один из самых весомых критериев при выборе оборудования, потому что он напрямую снижает эксплуатационные расходы год от года.

Внутрирядные и потолочные блоки близкого размещения

При высоких плотностях (условно от 10–15 кВт на стойку и выше) классическая схема «кондиционер по периметру + фальшпол» перестаёт справляться: холодный воздух не доходит до середины ряда или перемешивается с горячим. Решение — приблизить охлаждение к источнику тепла:

  • Внутрирядные блоки (in-row) встраиваются между стойками и забирают горячий воздух прямо из коридора, отдавая холод туда же. Могут работать на воде (CDU + чиллер) или на фреоне.
  • Потолочные блоки (overhead) подвешиваются над рядом и подают холод сверху вниз.
  • Жидкостное охлаждение — холодные пластины на процессоры или погружение в диэлектрическую жидкость. Применяется для самых высоких плотностей и HPC-нагрузок; требует специфической инфраструктуры и обычно оправдано только при осознанном проектировании под конкретные задачи.

Резервирование и автономность: то, что часто недооценивают

Отказ охлаждения при работающих серверах за считанные минуты поднимает температуру до критической. Поэтому проектируют не одну систему, а схему:

  • N+1 — один резервный блок сверх необходимого количества. Минимально разумный уровень для большинства серверных.
  • 2N — полное дублирование всей системы. Для критичных объектов.
  • Питание климатического оборудования от ИБП или отдельной гарантированной линии, чтобы пережить переключение на генератор. Наружные блоки и чиллеры часто подключают напрямую к сети — и именно они остаются обесточенными при аварии.

Также важно уточнить у производителя допустимый рабочий диапазон наружных температур: оборудование должно уверенно запускаться и работать и при −30 °C, и при жаре выше +40 °C, если объект находится в соответствующем климате. Для зимней эксплуатации нужны зимние комплекты (регулирование скорости вентиляторов, подогрев картеров), иначе возможны сбои пуска и повреждение компрессора.

Сравнение основных вариантов

Решение Типичный масштаб Сильные стороны Ограничения
Прецизионный кондиционер со сплит-схемой Малые и средние серверные, единицы–десятки кВт Относительно простая установка, автономность каждого блока, понятное обслуживание Ограничение по длине трасс, нет центрального масштабирования, каждый блок — отдельная точка отказа
Чиллер + CRAH/фанкойлы Средние и крупные залы, десятки–сотни кВт Масштабируемость, обслуживание снаружи помещения, эффективный фрикулинг Выше стоимость и сложность обвязки, нужна насосная группа и защита от замерзания
Фрикулинг (прямой/косвенный) Любой масштаб как дополнение к основной системе Большая экономия энергии в холодный сезон Не работает в жару сам по себе; прямой вариант требует борьбы с пылью и влажностью
Внутрирядные блоки Высокие плотности, от ~10 кВт на стойку Предсказуемый airflow, короткий путь воздуха, локальное масштабирование Занимают место в ряду, дороже на кВт холода, требуют продуманной разводки воды или фреона
Жидкостное охлаждение (DLC/иммерсия) HPC, GPU-кластеры, экстремальные плотности Наивысшая эффективность отвода тепла, низкий шум Специфическая инфраструктура, совместимость с оборудованием, сложнее обслуживание

Организация воздушных потоков: половина результата без замены оборудования

Нередко проблема перегрева решается не покупкой второго кондиционера, а наведением порядка в циркуляции воздуха. Типичные меры:

  • Горячий и холодный коридоры. Стойки разворачивают так, чтобы фронты (забор холодного воздуха) смотрели друг на друга, а тылы (выброс горячего) — тоже. Это предотвращает перемешивание потоков.
  • Заглушки в пустых юнитах. Открытые пространства в стойке позволяют горячему воздуху циркулировать внутри и возвращаться на вход серверов. Заглушки стоят недорого и дают измеримый эффект.
  • Правильная раскладка перфорированных плиток — только перед стойками в холодном коридоре, а не хаотично по полу.
  • Изоляция кабельных проходок в фальшполе и стенах: щели сводят на нет разделение коридоров.
  • Бланкинг и шторки в стойках, кабельные лотки, перекрывающие вытяжную зону серверов, — перенос или экранирование.

Быстрая проверка качества airflow — термометрия: замеры температуры на входе и выходе серверов, тепловизионная съёмка или хотя бы регулярный обход с термогигрометром. Если разница между входом и выходом велика, а входной воздух тёплый — холодный воздух теряется по пути.

Температура и влажность: к каким значениям стремиться

Современные рекомендации отраслевых ассоциаций (в частности, ASHRAE для дата-центров) допускают достаточно широкий диапазон на входе в оборудование — ориентировочно от +18 до +27 °C для класса A1 с допустимыми кратковременными отклонениями. На практике многие эксплуатирующие организации держат входную температуру в районе +20…+24 °C: каждое повышение допустимого порога на градус снижает расход энергии на охлаждение.

Влажность важна не меньше температуры: слишком сухой воздух повышает риск электростатических разрядов, слишком влажный — риск конденсата. Ориентир — поддержание точки росы в пределах, рекомендованных производителем оборудования, обычно это умеренная влажность без конденсации. Конкретные целевые значения стоит брать из документации на ваше оборудование и уточнять актуальные рекомендации на дату проектирования.

Энергоэффективность: как оценивать совокупные затраты

Цена оборудования — лишь часть расходов. За срок службы системы львиная доля затрат приходится на электричество и обслуживание. Полезный показатель — PUE (Power Usage Effectiveness): отношение общего энергопотребления объекта к энергопотреблению ИТ-оборудования. Значение 1,0 означает, что вся энергия идёт на серверы; чем ближе к единице, тем эффективнее инфраструктура. Для небольших серверных типичные значения заметно хуже, чем у крупных ЦОД, но грамотный фрикулинг и организация airflow позволяют их существенно улучшить.

Что снижает эксплуатационные расходы:

  • режим фрикулинга и плавное регулирование производительности (инверторные компрессоры, EC-вентиляторы) вместо ступенчатого включения/выключения;
  • повышение допустимой входной температуры в рамках рекомендаций производителя;
  • устранение перемешивания воздушных потоков;
  • регулярное обслуживание: чистые фильтры, чистые теплообменники наружных блоков, правильные зарядки контуров;
  • мониторинг с алертами, чтобы отклонения ловились до аварии, а не после.

Типичные ошибки при организации охлаждения

  • Подбор по площади, а не по тепловыделению. Приводит либо к дефициту холода, либо к переплате.
  • Использование бытовых сплит-систем. Они не рассчитаны на работу 24/7 и на отрицательные уличные температуры без доработок; выходят из строя именно тогда, когда работают на пределе.
  • Отсутствие резерва N+1. Один отказавший компрессор останавливает всю серверную.
  • Климатическое оборудование вне гарантированного питания. При пропадании сети серверы живут на ИБП, а охлаждение стоит — температура растёт быстрее, чем разряжаются батареи.
  • Игнорирование влажности. Пересушенный воздух зимой — источник статических разрядов и отказов плат.
  • Хаотичный airflow: открытые юниты, перемешанные коридоры, щели в фальшполе. Деньги потрачены на холод, который не доходит до серверов.
  • Закладка мощности «впритык» без плана роста. Через год-два систему приходится переделывать, что дороже изначального запаса.

Пошаговый порядок действий

  1. Зафиксируйте текущую нагрузку: данные PDU, паспортные мощности, фактические замеры тока по фазам.
  2. Определите план роста: сколько стоек и какой плотности появится в горизонте 3–5 лет.
  3. Посчитайте требуемую холодопроизводительность с запасом и решите вопрос резервирования (минимум N+1).
  4. Оцените возможности площадки: есть ли место под наружные блоки, фальшпол, куда заводить воду, какие ограничения по шуму и фасаду здания.
  5. Выберите архитектуру: сплит-прецизионники для малых объектов, чиллер + CRAH или in-row для средних и крупных, обязательно рассмотрите фрикулинг.
  6. Продумайте питание климатики от гарантированного источника и сценарий работы при отключении сети.
  7. Наведите порядок в airflow: коридоры, заглушки, плитки, герметизация проходок.
  8. Запланируйте мониторинг температуры и влажности с оповещениями и регламент обслуживания (чистка фильтров и теплообменников, проверки контуров).
  9. После запуска проведите термометрию под нагрузкой и убедитесь, что входные температуры серверов укладываются в целевой диапазон, включая самый жаркий период года.

Сценарии выбора под разные условия

  • Небольшая серверная в офисе, 5–20 кВт, одна-две стойки. Один-два прецизионных кондиционера со сплит-схемой по схеме N+1, зимний комплект, питание от ИБП. Фальшпол необязателен — верхняя раздача или свободный airflow с разделением коридоров.
  • Средний зал, 50–200 кВт, планы роста. Чиллер с фрикулингом и внутренние блоки CRAH либо гибрид: периметральные прецизионники плюс внутрирядные под высокие плотности. Резервирование на уровне чиллеров и насосов.
  • Высокие плотности, GPU/HPC. In-row охлаждение или жидкостное отведение тепла от узлов, обязательный расчёт по каждой стойке отдельно.
  • Регион с долгой холодной зимой. Приоритет — косвенный фрикулинг или чиллер с естественным охлаждением: экономия будет основной статьёй возврата инвестиций.
  • Арендованное помещение без права капитальных работ. Локальные решения: закрытые стойки с встроенными блоками охлаждения, вынос тепла водой или фреоном на улицу через компактные узлы — с проверкой несущей способности и согласований.

Что уточнить у поставщика или подрядчика до подписания договора

  • Расчёт холодопроизводительности с методикой: на каких данных он построен и какой заложен запас.
  • Диапазон рабочих наружных температур и состав зимнего комплекта.
  • Схема резервирования и поведение системы при отказе одного элемента.
  • Возможность и экономика фрикулинга для вашей климатической зоны.
  • Подключение климатического оборудования к гарантированному питанию и время автономной работы.
  • Регламент и стоимость обслуживания, доступность запчастей, сроки реакции сервисной службы.
  • Гарантийные условия: что считается нарушением эксплуатации, кто выполняет пусконаладку.

Практические выводы

Выбор системы охлаждения серверной определяется тремя вещами: реальным тепловыделением с учётом роста, требованиями к бесперебойности и климатическими условиями региона. Для небольшой серверной разумный минимум — прецизионные кондиционеры с резервом N+1, зимним исполнением и питанием от гарантированного источника. Для среднего и крупного зала выгоднее централизованная схема с чиллером и фрикулингом, дополненная внутрирядными блоками там, где плотность высокая.

Первый практический шаг — снять фактическую нагрузку с PDU и посчитать тепловыделение по формуле из начала статьи. Второй — проверить текущую организацию воздушных потоков: нередко часть проблемы решается заглушками и расстановкой плиток за копейки. И третий — заложить в проект мониторинг: система, о состоянии которой никто не знает, работает аварийно ровно до момента, когда становится слишком поздно.

Материал прочитан. Продолжить в архиве →