Центровете за данни се променят, за да приемат изкуствения интелект 

Според Бил Гейтс ерата на изкуствения интелект (AI) вече е започнала. Преди няколко седмици той обяви, че сме в ерата на AI и изглежда, че е прав. Всъщност, тя може да е започнала преди доста време без никой да го осъзнава напълно.

За обикновените хора AI все още е нещо сравнително екзотично… или дори семпло. Причината е, че единственото пряко взаимодействие с AI за повечето хора е ChatGPT или подобна услуга. Но за компаниите, които предлагат тези услуги, AI вече е нещо много повече. Умните алгоритми са много сложна задача, която ще става все по-трудна и ще промени всичко в ИТ сферата.

Това включва и центровете за данни. Всъщност, много от тях вече се променят и компаниите работят усилено върху проектирането на изцяло нови архитектури на центрове за данни специално за изкуствен интелект. Някои от тях са готови и бяха показани наскоро. Големи имена като Мета и други работят по своите проекти с различни подходи. Изведнъж центровете за данни и хардуерът за AI се превърнаха в гореща тема и динамична ниша в света на ИТ. Нека проучим някои от най-новите разработки и да видим накъде се насочват центровете за данни.

Центрове за данни от следващо поколение

AI идва с множество специфични изисквания. Същността им обаче е проста: „По много от всичко“. AI се нуждае от много повече място за съхранение, много изчислителна мощност и оптимизация на всеки детайл със същата цел – максимална скорост и ефективност. Звучи доста просто, нали? Просто да се преосмисли цялата архитектура на центъра за данни.

Мeta прави точно това. Съобщава се, че през последните няколко месеца ИТ гигантът тихо е изместил основния си фокус от метавселената към AI. И наскоро компанията всъщност реално представи досегашната си работа по оптимизиране на хардуера и архитектурата на центъра за данни точно за AI.

Това включва преминаване към течно охлаждане за „значителен процент“ от нейния AI хардуер и изцяло нови ASIC чипове, които са направени да се справят с работните натоварвания на умните алгоритми. Компанията показа работата си по време на конференцията AI Infra @Scale и изглеждаше доста горда от постиженията си.

„Ние изграждаме усъвършенствана инфраструктура за AI от години и тази работа отразява дългосрочни усилия, които ще позволят още повече напредък и по-добро използване на тази технология във всичко, което правим“, каза изпълнителният директор на Meta Марк Зукърбърг, цитиран от DataCenterFrontier.

„Преосмисляме всичко, което правим за ИТ инфраструктурата за AI. Ние изграждаме центрове за данни, които са специфични за изкуствен интелект. Създаваме нов хардуер, включително наши собствени чипове. Хиляди инженери правят иновации в тази широкомащабна инфраструктура, която е изградена специално за AI“, каза Апарна Рамани, вицепрезидент по инженерство и инфраструктура в Meta.

Meta казва, че благодарение на тези усилия ще може да изгражда центрове за данни по-бързо и по-евтино и да спести до 31% в сравнение с настоящия дизайн. Новите центрове за данни също ще използват и „по-екологични“ материали като бетон с по-малък въглероден отпечатък и т.н. Целта е в дългосрочен план да имат нулеви нетни емисии и разумно ползване на вода.

AI изисква много повече ресурси

Постигането на целите за устойчивост ще бъде предизвикателство, като се има предвид, че AI ще изисква много повече ресурси. „Нуждите на Meta от AI ще нараснат драстично през следващото десетилетие, тъй като ние пробиваме нови позиции в изследванията на AI, доставяме повече авангардни AI приложения и изживявания за нашата мрежа от приложения и изграждаме нашата дългосрочна визия за метавселената“, казва Сантош Джанардхан, ръководител на глобалната инфраструктура в Meta.

Компанията вече планира всичко в „приблизително 4 пъти по-голям мащаб“. В момента Meta има 21 кампуса за центрове за данни по целия свят, струващи над 16 милиарда долара. Тези кампуси често разполагат с множество сгради с центрове за данни – общо са 80. Meta планира да ги удвои до 2028 г., като стигнат до 160. Разбира се, всеки нов център за данни ще бъде по-мощен и ще продължи да еволюира.

Едно от новите творения е чипът MTIA (Meta Training and Inference Accelerator). Това е ASIC чип, специално създаден за AI. Meta казва, че MTIA всъщност ще бъде два пъти по-ефективен от графичните процесори, използвани в повечето AI инфраструктури. Но има и друго предизвикателство. Той ще генерира повече топлина, така че ще изисква и „нови подходи“ към цялостния дизайн на центъра за данни и те също са в процес на разработка. Целта е те да започнат да се прилагат до 2025 г.

Meta казва, че очаква AI чиповете да консумират до 5 пъти повече мощност спрямо настоящите типични CPU сървъри. Разбира се, топлината също ще бъде повече. Така че, за да постигне както върхова производителност, така и максимална енергийна ефективност, Meta планира да премине към течно охлаждане. То ще включва две фази. Първата е използване на комбинация от въздушно и течно охлаждане със студени плочи. Този подход ще бъде за съществуващите зали на центровете за данни, тъй като няма нужда от инсталиране на допълнителни тръбопроводи.

Втората фаза ще бъде за новата архитектура на центровете за данни през 2025 г. Той ще използва решение, което е собствена разработка на Meta, за течно охлаждане като има традиционна плоча с течност, преминаваща през нея. Но след това тази плоча и процесорът ще се потапят в още охлаждаща течност. Meta планира постепенно да разшири това решение и да го мащабира „колкото ни е необходимо“с цел намаляване на разходите и ускоряване на внедряването.

AI също се нуждае от енергия

Очевидно всички тези промени в архитектурата също ще се нуждаят от повече енергия. Meta е предвидила промени в своя нов дизайн, за да улесни доставянето на захранване към сървърите по по-ефективен начин. Целта е да се елиминира възможно най-много оборудване по веригата за енергия.

Едно от решенията ще бъде намаляване на разпределителните кутии, които създават „задръствания“. В резултат на това плътността на сървърния стелаж може да бъде увеличена с незначителни модификации, казва Meta. Новото течно охлаждане също ще изисква повече мощност, тъй като „вече не можем просто да отворим прозорците си и да разчитаме на безплатно охлаждане с въздух“.

ИТ гигантът също е напълно наясно, че ще има още предизвикателства и промени. „Намираме се в началото на следващата епоха на информацията. Работните натоварвания на AI нарастват с темп от 1000 пъти на всеки две години“, казва Алексис Бьорлин, вицепрезидент на инженерната инфраструктура в Meta. Тя добавя, че генеративният AI ще изисква много по-голям мащаб на изчисленията. „Докато традиционните натоварвания на AI могат да се изпълняват на десетки или стотици графични процесори наведнъж, генеративните натоварвания на AI се изпълняват на хиляди, ако не и повече“, казва тя.

AI помага за промяна на центровете за данни

Засега изглежда, че AI само изисква промени от центровете за данни, но не им дава нищо в замяна. Това не е така, отбелязва DataCenterKnowledge. Всъщност изкуственият интелект играе и ще играе важна роля в следващото поколение центрове за данни.

Например, това ще помогне за подобряване на физическата сигурност на съоръженията. AI може да анализира данни и видео потоци, за да открие физически пробиви на периметъра, неизправности или други проблеми още в ранните етапи на инцидентите. Освен това той може да идентифицира потенциални рискове и да сигнализира на персонала, за да бъде готов. AI няма да замени служителите в центровете за данни, но ще им помогне значително.

AI ще помогне и при реакцията при инциденти. Има много възможни инциденти, които могат да се случат в център за данни: прекъсване на захранването, пожари, прегряване, отказ на охлаждане, различни кибератаки, физически атаки или просто човешка грешка. AI може постоянно да наблюдава различни източници на данни и да оценява ситуациите в реално време, като помага на операторите да определят възможните рискове и да им предлагат решения, когато има нужда от такива. Може дори да автоматизира някои от решенията и да действа много по-бързо.

Изкуственият интелект ще помогне и за управлението на енергията. Той може да анализира потреблението на енергия, да идентифицира области, които могат и трябва да бъдат оптимизирани и дори да предлага решения. Освен това може да помогне за прогнозиране на пикове в натоварването, да помогне за управлението на енергийните източници и да подобри общата консумация.

По същия начин AI може и ще помогне на операторите на центрове за данни да управляват и оптимизират своя капацитет както физически, така и в сървърите. Алгоритмите ще бъдат по-бързи и ще предлагат повече възможности и вероятности на операторите, за да могат да вземат решенията си навреме.

Заключение

За финал – твърди се, че AI скоро ще може да се развива сам и не само да пише код, но всъщност да се самоусъвършенства и еволюира. Същото ще се случи и с хардуера, от който има нужда AI. Изкуственият интелект ще помогне за разработването на хардуера, от който се нуждае, за да работи още по-добре. Търсенето на специфичен AI хардуер и центрове за данни тепърва започва да расте. Естествена стъпка е AI да помогне за посрещането на тези изисквания и дори да предложи повече от очакваното. Ще подобри всичко, включително самите си услуги. А центровете за данни ще продължат да бъдат основата за всичко.

Това ще бъде от полза и за клауда. Почти всички големи клауд платформи вече предлагат AI услуги на своите клиенти. Техните предложения ще продължат да стават все по-големи и по-разнообразни. Конкуренцията ще бъде ожесточена и ще доведе до още повече инвестиции в архитектура на центрове за данни и оптимизации, за да могат те да са напълно готови за AI.