Производство гидро и иммерсионных систем охлаждения асик майнеров для центров обработки данных

Об иммерсионном и не только охлаждении, история, краткий обзор технологий.

Введение

Про то, что серверное оборудование, каким бы оно ни было, мощные вычислительные комплексы в крутых ЦОДах (центрах обработки данных), стойка в офисе, крупная майнинговая ферма или парочка АСИКов для домашнего промысла, нужно охлаждать – знают все. Не все задумываются над вопросом зачем, вроде понятно, чтоб не сломалось, но вот как – интересует всех. Как охладить серверное оборудование, чтобы оно работало эффективно, и при этом ценник за обслуживание не улетел в космос, вопрос злободневный и важный.

Маленький образовательный экскурс, можно пропустить, если знаете, как это все устроено

Растет эффективность вычислительной техники, оборудование нашпиговывается все большим количеством электронных компонентов на единицу площади, но вместе с этим растет и проблема отведения тепла. Физику не обманешь: чем больше плотность электронных компонентов, тем большее совокупное количество тепла они выделяют, и тем больше нужно затрачивать усилий на их охлаждение.  

Основой любой современной микросхемы является кремниевый кристалл, на котором умещается до миллиарда транзисторов, по которым проходит электрический импульс. Чем больше транзисторов, тем большая производится работа, тем сильнее греется чип. Греется сам и нагревает все вокруг: печатные платы, другие компоненты из которых состоит схема, резисторы, конденсаторы, силовые ключи и проч. Поэтому самое первое, что начали делать производители, они начали снабжать сильно греющиеся чипы и процессоры специальными радиаторами. Когда этой мощности перестало хватать, радиаторы стали устанавливать в вентилятор. Если открыть любой современный компьютер, мы увидим на процессорах большие радиаторы с вентилятором и еще дополнительные вентиляторы, которые продувают сам корпус серверного устройства. Потом и этого перестало хватать. Стали использоваться внешние по отношению к устройству технологии охлаждения. И вот эти технологии мы сейчас и рассмотрим.  

Основные технологии охлаждения серверного оборудования

Охлаждение бывает воздушным, на сегодняшний день это самый распространенный способ; погружным, с помощью диэлектрических жидкостей; жидкостным при помощи водоблоков;  термоэлектрическим при помощи элементов Пельтье. Это методы, которыми забирается тепло от микросхемы, но дальше это тепло нужно отвести не только от микросхемы, но и от всей установки. И здесь начинается самое интересное. 

Воздушное охлаждение

Заглянем в современный центр обработки данных. В любом ЦОД у нас есть стойки, серверы и специализированные системы охлаждения, включающие в себя кондиционеры, чиллеры, вентиляторы, которые продувают все стоечные конструкции из «холодного» коридора в «горячий» например так, как на схеме ниже.

Из горячего коридора воздух выдувается в систему охлаждения, доводится до нужной температуры и опять идет на продувку, то есть получаем замкнутый цикл воздушного охлаждения. В системе охлаждения горячего воздуха могут использоваться модные сегодня адиабатические контуры, но это уже частности. Главным остается принцип – охлаждение оборудования при помощи воздуха.  Есть разновидность ЦОД, в котором система разомкнута, и воздух из горячего коридора сбрасывается прямо на улицу. Применяется такой способ нечасто и в основном для майнингового оборудования, когда и почему, рассмотрим чуть ниже.


Про преимущества воздушного охлаждения обычно не пишут, это базовый способ охлаждения. Но поскольку у нас идет сравнение разных технологий, стоит упомянуть, что воздушное охлаждение проверено временем, имеет наиболее развитую техническую базу, не увеличивает вес конструкции, не требует спецподготовки оборудования, позволяет пользоваться преимуществами холодного климата, что в некоторых регионах может быть решающим фактором.

Иммерсионное охлаждение

Расскажем о технологиях погружного или иммерсионного охлаждения. Как мы приблизительно помним из школьного курса физики, жидкость обладает существенно большей теплопроводностью, то есть способностью отвести большее количество тепла в единицу времени, чем газ, в нашем случае – воздух.  

В однофазной системе иммерсионного охлаждения оборудование работает будучи полностью погруженным в диэлектрическую жидкость.  Схематично это выглядит так: 

А в жизни вот так:



В установке используются минеральные или синтетические  масла, к которым добавляются различные присадки, избавляющие от окисления на открытом воздухе, понижающие порог возникновения статического электричества и др.  А вы знаете, что самая первая система иммерсионного охлаждения – это высоковольтный трансформатор? Да, потому что он работает полностью погруженным в трансформаторное масло. Возникает резонный вопрос – зачем же тогда какие-то другие масла и жидкости изобретать, есть же трансформаторное масло! И стоимость у него весьма привлекательная! Однако использовать его для работы с серверным оборудованием, увы, нельзя. Трансформатор представляет собой герметичную конструкцию и прямого контакта с окружающей средой не имеет. Это позволяет сделать трансформаторное масло практически идеальным диэлектриком, но далеко не безопасным. Использование трансформаторного масла в открытых системах однофазного иммерсионного охлаждения может напрочь испортить ожидаемый результат.  Это масло является химически активным, оно поглощает влагу из воздуха, при этом теряя свои диэлектрические свойства, и как следствие, вступает в агрессивную реакцию с компонентами серверного оборудования. И, самое неприятное, пары трансформаторного масла могут вызвать серьёзное отравление с тяжёлыми последствиями для организма. Поэтому для однофазного охлаждения в открытых системах применяются безвредные для человека минеральные или синтетические масла на основе низковязких вазелиновых масел высокой степени очистки или кремнийоорганических полиметилоксановых синтетических масел.

Так как получить искомый результат? Мы поместили оборудование в контейнер, залили его иммерсионной жидкостью (маслом), и что дальше? Как и в обычных воздушных системах охлаждения тут тоже применяется технология горячего и холодного коридоров, то есть принудительная циркуляция диэлектрической жидкости. Для охлаждения масла его пропускают через первый контур теплообменника, а по второму контуру идет охлаждающая жидкость – холодная вода, фреон, этиленгликоль. Остывшее масло поступает обратно в контейнер с оборудованием, забирает тепло и уходит в теплообменник на охлаждение, поддерживая замкнутый цикл. В чем специфика по отношению к воздушному охлаждению, так это в том, что оборудование не должно содержать движущихся частей. Поэтому перед погружением в иммерсионку оборудование проходит специальную подготовку, и с него снимается все, что движется. А вот мобильный телефон, вполне себе электронное оборудование, и в нем точно нет вентилятора. Что будет, если мобильный телефон уронить в иммерсионную жидкость? Будет ли он работать? Да, только станет липким и противным, и его надо будет разобрать и очистить от масла, так что, наверно, не стоит экспериментировать. 

 

Итак, трансформаторное масло нам не подходит, синтетическое и минеральное высокой степени очистки – пожалуйста, а можно ли использовать «зеленые жидкости» из органического масла (рапсовое, оливковое, бобовое)? Чисто теоретически, даже подсолнечное масло - диэлектрик, и совершенно безвредно для человека. Но его диэлектрические свойства весьма спорны, пожароопасность (температура вспышки) не сопоставима с минеральными аналогами, возни с присадками до изнеможения, в общем, на органических маслах лучше еду готовить, а оборудование охлаждать более надежными способами.  

 

Следующий закономерный вопрос – а какое масло лучше, синтетическое или  минеральное? Вопрос дискуссионный, у обоих есть и преимущества и недостатки. Преимущество минерального – доступная стоимость. Синтетика более инертна, но в три раза дороже. Что такое инертность иммерсионной жидкости по отношению к оборудованию и изоляции? Это насколько она может вступать в активное взаимодействие с ними. Ведь используют для работы в системах иммерсионного охлаждения не специально выпущенное для них оборудование, а обычное. Сегодня оборудование, рассчитанное на погружное охлаждение, не выпускается, за исключением ряда специфичных случаев, и общеприменимых стандартов нет. А используется погружное охлаждение главным образом в майнинге. Нельзя не упомянуть один тонкий момент. При погружении в жидкость комфортно работать греющимся чипам, а вот другие компоненты, конденсаторы, провода нагреваются до температуры, до которой они обычно не нагреваются в воздухе – опять же за счет физических свойств распространения тепла в жидкости и в газе. Например, на воздухе работает процессор с вентилятором, температура кристалла под 100 градусов, рядом проходит провод, и его температура градусов 30. В иммерсионном контейнере  температура жидкости около 40-45 градусов, процессор эффективно охлаждается, а все остальное, в том числе провод из нашего примера, нагревается до тех же 45 градусов, то есть до температуры иммерсионной жидкости. Для изоляции проводов обычно используется поливинилхлорид, но он тоже бывает разный. Самый дешевый не рассчитан на комфортную работу при температуре выше 35-40 градусов. Естественно, что если он 24Х7 находится в таких условиях, то изоляция начинает дубеть и разрушаться, и лучше бы использовать более дорогие модификации от 3 уровня и выше (всего их 5), они более устойчивы; идеальное решение – силиконовые провода. Но все это пагубно сказывается на стоимости, поэтому проще и дешевле несколько раз поменять кабель с дешевой изоляцией, чем ставить силиконовый. Года 3-4 он прослужит, а больше в общем-то и не нужно, если мы говорим про майнинговое оборудование. Потому что через 3-4 года начнется моральное и физическое устаревание компьютерного «железа», появятся новые виды оборудования, новые технологии и новые алгоритмы хэширования для майнинга, и для сохранения эффективности работы нужно будет апгрейдить всю установку.

 

Преимущества однофазного иммерсионного охлаждения. Одним из основных преимуществ, особенно если речь идет не о промышленных установках, а о частном майнинговом хозяйстве, является практически полное отсутствие шума от устройств. И это не каприз: АСИК в штатной комплектации, оснащенной вентилятором, прогоняет  около 1000 кубометров воздуха в час. Представляете, как он жужжит?  А если это 24 часа в сутки? А если у вас плохая шумоизоляция? В общем, дальше можно дать волю воображению. Стоимость охлаждения. Если майнинговое оборудование охлаждать обычным замкнутым воздушным циклом, как в ЦОДах, то это примерно +25% к стандартному энергопотреблению, существенное удорожание. Поэтому в майнинговых воздушных фермах замкнутым системам предпочитают открытые – воздух выбрасывают за борт и берут уличный, о чем мы уже выше упоминали. Но при этом, особенно если экономить на очистных фильтрах, оборудование быстрее забивается пылью, ломается, требует постоянного обслуживания, а вентиляторы и движущиеся части – частой замены. В воздушных майнинговых фермах, построенных в режиме экономии, прекрасные условия для пожара: кислород, высокая температура и инициатор возгорания, искра, возникающая при работе оборудования в неидеальных условиях и пыльном воздухе.

Вот, что иногда случается с воздушными фермами.... 

В иммерсионной жидкости кислорода нет, поэтому даже в случае, например, короткого замыкания, пожару не на что опереться, нет кислородной базы. А рабочая температура иммерсионной жидкости существенно ниже температуры самовозгорания, которая составляет порядка 350 градусов. Если жидкость нагрелась до такой температуры, то это либо попадание метеорита, либо извержение вулкана, либо другой катаклизм, и об оборудовании можно не беспокоиться.

Двухфазное иммерсионное охлаждение

Двухфазное охлаждение, как следует из его названия, работает на фазовом переходе.  В таких системах уже используется не масло, а специальная фторкетоновая жидкость. В местах сильного нагрева оборудования, то есть на чипах, жидкость закипает, что сопровождается резким понижением температуры, чипы охлаждаются, жидкость превращается в пар. Пар попадает на специальные конденсоры, остывает, конденсируется и стекает в установку. Система полностью герметична, на рисунке ниже приведена ее схема.... 

На схеме вообще все просто выглядит, но не стоит обольщаться кажущейся легкостью исполнения. На чуть более технически подробном уровне картинка выглядит уже вот так:


И чем дальше погружаешься в описание технического решения, тем больше понимаешь, что такую штуку дома не наколхозишь. Сложно. Одной управляющей электроники столько, что хватит оборудовать парочку небольших производств, про умные дома даже не упоминаю.

А вот так выглядит установка в жизни:


Преимущества системы двухфазного охлаждения. По сравнению с однофазной двухфазная установка обладает фантастической эффективностью, любые чипы в любом режиме разгона в ней работают отлично. Еще один приятный момент: для очистки оборудования от фторкетоновой иммерсионной жидкости никакие усилия не нужны, его достаточно просто вытащить из установки, и жидкость испарится сама, бесследно.  Вот в нее уже мобильный телефон можно ронять совершенно безнаказанно (проверено на личном телефончике). Фторкетоновая жидкость имеет температуру кипения 61 градус по Цельсию. Чтобы сконденсировать пар, разогретый до 61-62 градусов, его достаточно охладить до 55-56 градусов, например, статическим радиатором, находящимся на улице, и этого вполне хватит. В терминах стоимости это означает, что затраты на охлаждение здесь крайне низки по сравнению с другими способами. Производитель самой известной фторкетоновой жидкости Novec, компания 3M, утверждает, что одним литром жидкости можно отвести 4кВт тепла. Плотность размещения оборудования на единицу площади выше, чем в однофазной системе и на порядок выше, чем при охлаждении воздухом.  Казалось бы, сплошные достоинства! Теперь о ложке дегтя в нашей бочке меда, то есть двухфазной системе иммерсионного охлаждения. Во-первых, сложность управления, о чем мы уже упоминали; во-вторых, цена вопроса. Стоимость одного литра иммерсионной жидкости таких известных марок как, например, Novec, Syntex на сегодняшний день составляет 6-7 тысяч рублей. На один АСИК потребуется около 10 литров, и это без стоимости самой установки, дальше считайте сами. Поэтому двухфазные системы применяются там, где никакой другой тип охлаждения не возможен, например, жаркий климат, отсутствие проточной воды или ее непомерная дороговизна. Тем не менее за этой технологией будущее. Представим себе, что оборудование производится сразу для эксплуатации в двухфазной иммерсионной установке, и что радиаторы/вентиляторы, которые там не нужны, не включаются в базовую сборку. Это влияет и на стоимость покупки, и на стоимость обслуживания. На сегодняшний день двухфазные системы эксплуатируются корпорацией Bitfury, входящей в эту же группу компанией Allied Control и рядом крупных ЦОДов. Как только будет преодолен главный сдерживающий фактор, и цена фторкетоновой жидкости снизится, двухфазные системы ожидает взрывной рост использования.   


Охлаждение с помощью водоблоков

Поговорим про водоблоки. Как мы уже рассказывали раньше, для охлаждения нам нужно отвести тепло с максимально греющихся частей устройства. Если прижать к каждому греющемуся элементу (площадке чипа) плоскую медную пластину с внутренней емкостью, по которой течет холодная вода, то мы таким образом отведем тепло именно оттуда, откуда надо. Преимущества таких систем в том, что при отведении тепла непосредственно с чипа, можно вторые контура (водяные) охлаждать драйкулерами. Драйкулер, или сухая градирня, это теплообменник, который обеспечивает охлаждение поступающей в него воды при помощи вентиляторов и окружающего воздуха. Решение простое, и поэтому красивое. Тепло отводится только оттуда, откуда нужно, каждый элемент конструкции сам по себе не сложен: водоблок, помпа, радиаторы, вентиляторы; главное тут аккуратно собрать конструкцию, обеспечив герметичность соединений, и настроить оптимальный режим работы как с точки зрения потребления электричества, так и с точки зрения уровня шума (источники шума – помпа и вентиляторы). Несомненным  преимуществом водоблоков является компактность и простота конструкции, можно разместить АСИК в условиях городской квартиры, не поступившись площадью и качеством жизни, но подготовка оборудования требует специальных навыков. И если вы не работаете каждый день с электронным оборудованием и не можете собрать/разобрать АСИК с завязанными глазами на скорость, лучше обратиться в специализированный сервисный центр за помощью, благо такие есть.


Термоэлектрическое охлаждение

Еще один вид охлаждения – термоэлектрическое охлаждение, или охлаждение при помощи элемента Пельтье (TEC  или термоэлектрическая пластинка). Принцип действия – возникновение разности температур при протекании электрического тока через два соприкасающихся полупроводника. В процессе термопластинка нагревается с одной стороны, охлаждается с другой, и элемент Пельтье холодной стороной поглощает тепло, выделяемое чипом, а горячей стороной передает его куда-то дальше. То есть чуда не происходит, и выделяемое тепло тоже нужно отводить, делать слоеный пирожок из процессора, термопластинки и кулера с начинкой из термопасты. Слоев в пирожке может быть несколько, и эффективность отвода тепла, теоретически, может быть очень высока, но сложность кроется в грамотном техническом решении. Конечно, в умелых инженерных руках пирожок выйдет что надо, и эффективность охлаждения при сопоставимой стоимости решения будет выше, чем, например, у водоблока (сравниваем по некой общности в конструктивном решении), но сложность расчёта конструкции, управления и сборки пока оставляет этот метод скорее в плоскости самостоятельных инженерных изысканий, нежели коммерчески привлекательного и надежного метода охлаждения для майнингового оборудования. Хотя термопластинки с эффектом Пельтье используются для охлаждения в промышленных установках, но в качестве  вспомогательных элементов. Например, в двухфазной иммерсионной системе элемент Пельтье используется в охлаждающей ловушке – при его помощи дорогущая фторкетоновая жидкость конденсируется из воздуха, идущего на сброс из установки при повышении давления, и таким образом предотвращаются ее потери.


Сравнение разных методов охлаждения и муки выбора

Ну все это замечательно, скажете вы. Масса интересной информации, картиночки красивые. А как и что выбрать-то??

Да, универсального, подходящего всем решения мы не найдем. Его нет. Но вполне можно выбрать привлекательный вариант, руководствуясь вашими начальными условиями: количеством и качеством/состоянием оборудования, которое вам нужно охладить;  целью его использования; промышленным/домашним размещением, то есть наличием производственной площади, «гаражным»  или «квартирным» размещением; климатическими особенностями; доступностью использования воды, как охлаждающего агента; и финансовыми возможностями.

Давайте рассмотрим несколько жизненных ситуаций, а чтобы вам легче было потом перейти к собственному случаю, приведем сравнительную таблицу методов охлаждения, в которой за точку отсчета принято обслуживание одного АСИКа.

Допустим, вы начинающий майнер, купили себе один АСИК, и теперь пытаетесь как-то запустить его в городской квартире, не доведя жужжанием до бешенства и противоправных действий семейство и соседей.  То есть отдельного помещения у вас нет, водопроводная(холодная) вода и электричество в доступе, есть как минимум окно, как максимум, балкон с забортным воздухом, и на этом ваши производственные мощности заканчиваются. Тогда у вас выбор между водоблоками и однофазным иммерсионным охлаждением. Почему? Воздух – не вариант, во-первых, шум никуда не денется, во-вторых, из-за одного АСИКа превращать квартиру в мини-серверную со всеми прелестями горячего и холодного коридоров точно не стоит. Двухфазная система – можно, но неоправданно дорого, не окупится в обозримом будущем. Экзотику с элементом Пельтье не рассматриваем, разве что вы пытливый исследователь и ваша цель не окупить вложение, а получить научно-практический опыт. А что выбрать, водоблок или однофазку? Если вы планируете остановиться на одном АСИКе, и вас не смутит легкий шум от работающей помпы – ваше решение водоблок, как наиболее экономичный с точки зрения места, достаточно эффективный по охлаждению для одной машинки, довольно простой в содержании. Единственное, на чем не стоит экономить, если вы новичок, это на специалисте, который вам всё соберет, настроит, покажет, обучит, оставит координаты для дальнейшей помощи и обслуживания, в общем, убережет вас от граблей, на которые вы непременно наступите, если  решите всё делать самостоятельно. Если же вы держите в уме мини-ферму, и планируете расширить ваше хозяйство с 1 до 2-3 машинок, и ваша жилплощадь вынесет установку одного большого аквариума, то имеет смысл рассмотреть однофазную систему. Есть компактные установки, рассчитанные на малое количество АСИКов, которые легко вписываются в квартирный интерьер, вообще не шумят, не сложны в эксплуатации и, в отличие от водоблока, гораздо проще настраиваются при добавлении очередной единицы оборудования, то есть не требуют дополнительных затрат при расширении парка.

Другой случай из жизни. Вы планируете эксплуатировать 5-9-12 АСИКов, недавно купленных, свеженьких, это еще не ЦОД, но уже вполне себе капиталовложение. И есть под него ангарчик/подвальчик/подсобка с электричеством. И хочется его разумно и правильно использовать с наибольшей отдачей. Возиться с водоблоками не очень рационально, стоимость обслуживания на таком объеме проиграет иммерсионному охлаждению, воздух – небезопасно, либо дорого с точки зрения воздушной подготовки и кондиционирования, коэффициент PUE (о нем чуть ниже) будет чуть ли не 2, значит однофазная или двухфазная система. А какая лучше? Хороший вопрос. Так и хочется  написать – конечно, двухфазная!!! Она же такая эффективная! Но, пожалуй, нет. Точнее, безусловно эффективная и нереально крутая, но есть нюансы. Стоимость решения в сборе существенно выше однофазной,  в два и более раза, в зависимости от параметров и объема установки. Чем на большее количество АСИКов рассчитана установка, тем больше потребуется жидкости, а еще надо учитывать, что она имеет тенденцию улетучиваться, как только ей предоставляется такая возможность – то есть при всех плановых/неплановых открытиях контейнера. Учитывая то, что площадь размещения оборудования при таком его количестве не является решающим фактором, доступность воды, как хладагента второго контура, на просторах нашей необъятной родины не вызывает затруднений, за исключением буквально нескольких регионов, увы, экономическая целесообразность использования двухфазной системы вызывает большие вопросы.  Вам нравится Тесла? Не ученый, а машина? Вот примерно такие же ощущения….  Очень нравится, крутейшая тачка, но не куплю. Лучше что-то менее экономически спорное. Хотя скорее всего через N лет ситуация изменится в пользу и Теслы, и двухфазного иммерсионного охлаждения.

Ну и, наконец, вы бывалый майнер. И у вас образовалось заметное количество не самого нового оборудования, либо прикупили по случаю задешево, либо постепенно плановой заменой образовалось, не суть. Что с ним делать? Можно перепродать при повышении спроса. А можно поэксплуатировать напоследок, выжав максимум возможного при минимуме затрат. И вот в этом случае, особенно если вы расположены не в южных широтах, и климат не самый жаркий, вам подойдет воздушное охлаждение с разомкнутой системой, или попросту говоря, выбросом отработанного горячего воздуха за борт и забором нового холодного с улицы. Конечно, определенные затраты на обеспечение пожаробезопасности будут, но без роскошеств.

А теперь подведем итоги и приведем сравнительную таблицу. Мы рассмотрели разные способы охлаждения, описали их качественные характеристики, и сейчас попробуем свести их в таблицу, используя в качестве мерила обслуживание одного АСИКа воздушным способом. Допустим, это будет 1. Есть один коэффициент, который для воздушного охлаждения всегда будет твердо больше единицы, это PUE (Power Usage Effectivness), энергоэффективность. Считается, что современные ЦОДы с воздушным охлаждением имеют коэффициент в диапазоне 1,2-1,5, поскольку в среднем 38% от общего объема потребляемого электричества тратят на охлаждение. А при майнинге затраты на воздушное охлаждение возрастают еще на 25%.  Иммерсионные системы по оценкам экспертов имеют эффективность близкую к 1 – и это одно из основных их достоинств. Высокую энергоэффективность имеет и водоблочное решение, тепло отводится непосредственно с чипа, достаточно иметь температуру водоблока 50-60 градусов, а охладить проходящую по нему воду до этой температуры можно обычным атмосферным воздухом в сухой градирне и дополнительные ухищрения не нужны. Чем выше температура среды, требующаяся для эффективного охлаждения, тем меньше энергозатрат на ее поддержание.

По некоторому размышлению, охлаждение при помощи элементов Пельтье в таблицу мы не включили, поскольку не используется оно в качестве основного, для охлаждения АСИКов, решает узкоспециализированные задачи, и сравнивать его с остальными способами некорректно, как сладкое с розовым. Вроде и коррелирует, а по факту – нет.ще один вид охлаждения – термоэлектрическое охлаждение, или охлаждение при помощи элемента Пельтье (TEC  или термоэлектрическая пластинка). Принцип действия – возникновение разности температур при протекании электрического тока через два соприкасающихся полупроводника. В процессе термопластинка нагревается с одной стороны, охлаждается с другой, и элемент Пельтье холодной стороной поглощает тепло, выделяемое чипом, а горячей стороной передает его куда-то дальше. То есть чуда не происходит, и выделяемое тепло тоже нужно отводить, делать слоеный пирожок из процессора, термопластинки и кулера с начинкой из термопасты. Слоев в пирожке может быть несколько, и эффективность отвода тепла, теоретически, может быть очень высока, но сложность кроется в грамотном техническом решении. Конечно, в умелых инженерных руках пирожок выйдет что надо, и эффективность охлаждения при сопоставимой стоимости решения будет выше, чем, например, у водоблока (сравниваем по некой общности в конструктивном решении), но сложность расчёта конструкции, управления и сборки пока оставляет этот метод скорее в плоскости самостоятельных инженерных изысканий, нежели коммерчески привлекательного и надежного метода охлаждения для майнингового оборудования. Хотя термопластинки с эффектом Пельтье используются для охлаждения в промышленных установках, но в качестве  вспомогательных элементов. Например, в двухфазной иммерсионной системе элемент Пельтье используется в охлаждающей ловушке – при его помощи дорогущая фторкетоновая жидкость конденсируется из воздуха, идущего на сброс из установки при повышении давления, и таким образом предотвращаются ее потери.

Показатель

Воздушное Охлаждение

Иммерсионная 1-фазная система

Иммерсионная 2-х фазная система

Водоблоки

PUE

1,5-1,7

1,03

1,02

1,02-1,1*

Площадь размещения, включая обслуживание системы

1

0,25

0,1

0,35

Эффективная температура охлаждающей среды/жидкости

Не выше 27°, эффективно 18-24°

40-45°

55-56°

55-56°

Подготовка оборудования

1

2**

2**

3***

Замена оборудования

1

1,5****

1

3*****

Пожароопасность

1

0,1

0,0001******

0,5*******

Сложность управления

1

0,5

1

1

Эксплуатационные затраты

1

0,5

0,25

0,75

Общая стоимость решения

1

0,5

2

0,75

* Энергоэффективность водоблока оценивается по совокупности потребления всех задействованных устройств, включая водяной насос и вентиляторы, поэтому коэффициент колеблется в указанном диапазоне

** Снятие движущихся деталей. В однофазных системах снимают вентиляторы, в двухфазных дополнительно убирают радиаторы, хотя это не обязательно, иногда меняют на специализированные.

*** Разборка АСИКа и обратная сборка с прикручиванием водоблочных конструкций

**** При замене нужно очистить извлеченное оборудование от иммерсионного масла

***** Замена оборудования (АСИКа) фактически влечет за собой замену водоблоков, поскольку переставить их на новое оборудование со старого весьма проблематично, иногда просто невозможно из-за конструктивных особенностей, они сделаны/собраны/настроены под конкретную плату.

****** Ноль не позволило написать математическое образование, все же нулевую вероятность здесь нельзя доказать. НО в качестве иллюстрации практически невозможного события – возгорания здесь можно привести такой пример. Жидкость с аналогичными характеристиками Novec 1230 используется в качестве огнетушащей в системах автоматического пожаротушения HI-FOG, применяемых в ЦОДах и помещениях повышенной пожароопасности.

******* В водоблоках используется вода, важно следить за герметичностью всех соединений, иначе при попадании воды в корпус устройства велик риск короткого замыкания с неприятными последствиями.

Еще одна табличка проиллюстрирует разнообразие применяемых для охлаждения рабочей среды способов

Способ охлаждения

Воздушное охлаждение

1-фазная система

2-фазная система

Водоблоки

Воздух (атмосферный, комнатный)

+

-

-

-

Чиллер

+

+

+

+

Проточная вода

-

+

+

+

Мокрая вентиляторная градирня

Ограниченно (адиабатические контуры)

+

+

+

Сухая градирня (драйкулер)

-

ограниченно

+

+


Заключение и тема на десерт

Когда пишешь на такую интересную тему, всегда хочется рассказать побольше, дать много примеров: а еще вот такой метод есть, а вот еще про адиабатику, как способ увеличения эффективности для воздушных и иммерсионных однофазных систем можно рассказать, и так далее, но следует остановиться и осмыслить данную информацию, чтобы непросто знать, а использовать ее в практическом русле, при выборе решения наиболее эффективного и экономически выгодного для вас, именно в вашем конкретном случае. Однако стоит упомянуть об еще одном аспекте, безусловно стóящем отдельного подробного рассмотрения, - это утилизация отведенного тепла и его полезное применение, например, для обогрева дома, или бассейна, или теплицы и так далее.  Это не так сложно, как кажется на первый взгляд, и всяко правильнее, чем греть атмосферу, вызывая стенания зеленых активистов. Но об этом в следующий раз 😃