Много се изписа за това какъв натиск AI оказва върху центровете за данни. Тези съоръжения се борят да покрият всички нужди на AI и технологията тепърва започва да се развива. Все още сме в много ранните дни на разработката на AI и той вече изисква много ресурси. Така че, е време за по-интелигентен подход и един донякъде пренебрегван досега метод може да помогне – Edge computing (изчисления „на ръба“).
Изглежда, че edge и AI биха могли да бъдат перфектна двойка и главният бенефициент от това биха били центровете за данни. Edge AI изглежда като перфектно решение за много казуси и може да бъде от полза за изкуствения интелект като цяло.
Първо, бързо припомняне на основите. Edge computing означава доближаване на голяма част от компютърните нужди до източника или мястото, където са необходими. Например инсталиране на сървър на базова станция, който покрива компютърните нужди за интелигентните светофари в района. Или да разполагате със сървър, за да изчислите данните за интелигентна фабрика. Основната идея на Edge computing е работното натоварване да е близо до мястото на нуждите, но да се разчита на центровете за данни само за съхранение или по-сложни изчислителни задачи. По този начин както центърът за данни, така и мрежата ще бъдат по-малко натоварени, което ще спести ресурси, като същевременно ще подобри качеството на услугата.
Всичко това прави очевидно, че edge computing-ът може да e идеално решение за AI задачи. Докладът Edge Advantage за 2023 г. от NNT Data например показва, че 70% от предприятията използват edge изчисления за решаване на бизнес предизвикателства. И повечето експерти са съгласни, че AI изчисленията трябва да се извършват близо до мястото, където се генерират данните, което означава – на ръба.
Как Edge AI може да помогне?
Идеята за използване на периферни изчисления за нуждите на AI е толкова популярна, че вече се е превърнала в собствена ниша. Нарича се Edge AI и според DataCenterKnowledge означава обработка на данни, когато и къде са генерирани, вместо да се разчита единствено на отдалечени сървъри. И така, основите са същите като при обикновените edge изчисления. Разликата е, че Edge AI е фокусиран единствено върху работните натоварвания на AI. Това означава, че периферните сървъри също са по-специфични и съобразени с нуждите на AI. Привържениците на този подход казват, че този той ще подобри оперативната ефективност на компаниите.
„Изчисленията с изкуствен интелект не са просто бъдещето, те вече са тук. Производствените предприятия, например, преместват AI системите от облака към периферията, позволявайки по-бърза обработка на данни и намалявайки забавянето и разходите за облачен сървър. Преместването на AI системите от облака на ръба, особено в производствени среди, води до по-бърза обработка на данни от устройства и сензори за Интернет на нещата (IoT), свързани чрез локални мрежи във фабриките. Това намалява забавянето, намалява разходите за облачен сървър и отваря нови възможности за локализирани иновации“, казва Кайхан Крипендорф, основател на Outthinker Networks.
Негови колеги от индустрията подкрепят мнението. „Виждаме няколко предприятия да настояват за тези решения. Причината е, че Edge AI предоставя функционална интелигентност и възможности за вземане на решения в реално време в оперативни технологични среди, например директно във фабриката“, казва Пол Блудоф, старши директор периферни услуги в NTT.
В резултат, пазарът на Edge AI бързо се разширява. Големи имена се присъединяват към сегмента и предлагат свои собствени решения. Сред тях са NTT Data, Siemens, Microsoft и IBM. Всеки от тези доставчици се фокусира върху различна идея. Siemens предлага индустриална крайна платформа за производителите, за да използват AI приложения в завода. IBM се фокусира върху Edge AI решения за здравеопазване, телекомуникации и автомобилостроене. NTT Data разработва напълно управлявано решение Edge AI, което има за цел да „разбие силозите на IT-OT, позволявайки усъвършенствани случаи на използване на AI за промишлеността и производството“.
LLM също харесват Edge
LLM (Large Language Models – големи езикови модели) са ниша на AI, която е особено гореща в момента. LLM съдържат Generative AI проекти като OpenAI ChatGPT, Microsoft Copilot, Google Gemini, MetaAI и т.н. LLM обаче не са само чатботове. Те могат да изпълняват много повече задачи и функции, в зависимост от начина, по който са програмирани и обучени.
Като такива LLM са от голям интерес и за предприятията. „До 2027 г. повече от 50% от моделите на GenAI, които предприятията използват, ще бъдат специфични или за индустрия, или за бизнес функция – спрямо приблизително 1% през 2023 г. Моделите на домейни могат да бъдат по-малки, с по-малко изчислителна интензивност и да намалят свързаните рискове от халюцинации спрямо модели с общо предназначение“, каза Арун Чандрасекаран, анализатор в Gartner, пред Data Center Knowledge.
Това е чудесно за бизнеса, но също така е още едно голямо предизвикателство за центровете за данни. Анализаторите казват, че в обозримо бъдеще моделите, работещи на ръба, ще продължат да се обучават в центъра за данни. По този начин едно от основните предимства на Edge AI – по-малко трафик, няма да бъде напълно реализирано, тъй като периферните LLM непрекъснато ще търсят центъра за данни за допълнителна информация, обучение и данни.
Ето защо разработчиците на LLM вече са започнали да работят върху рационализирането и усъвършенстването на моделите. Вече имаме няколко версии, които са много по-малки, но много ефективни. Повечето от тях в момента са фокусирани върху смартфони, като въвеждат AI функции локално на устройството. Следващата стъпка към LLM, специално проектирани за Edge AI, обаче е логична и ще се случи по-скоро отколкото очакваме.
Няма да е толкова лесно, колкото ни се иска
Разбира се, както при всяка нова технология, няма да е толкова лесно, колкото да я включим и да започнем да се наслаждаваме на предимствата веднага. Ще има доста предизвикателства, докато направим нещата както трябва. Докладът Edge Advantage за 2023 г. например казва, че „почти 40% от тези, които планират периферни внедрявания, изразиха опасения относно възможностите на текущата им инфраструктура да поддържа технологията.“ И наистина, много предприятия са изправени пред пречки, които не са очаквали, казва Блудоф.
Едно от основните предизвикателства е да се гарантира, че данните от IoT устройства, сензори, машини и други участници в мрежите ще бъдат събрани, обработени и анализирани на ръба. Това е моментът, когато много предприятия откриват, че Edge сървърът не означава нещо малко със скромен хардуер. Точно обратното. Изисква сериозна изчислителна мощност, която е в състояние да се справи с големи натоварвания с очаквания за реално време.
Освен това е важно да има и подходящ процес за организиране на събирането и обработката на данните. За щастие в тази област се правят проекти, които ще решат тази част от предизвикателството. NTT например прави „свръхлека крайна AI платформа“, която има функция за управление на AI приложения на ръба. Тя също така предлага функции за автоматизация за сканиране на активите на инвентара, за идентифициране на потенциални уязвимости и др.
Достатъчно сигурен ли е Edge AI?
Говорейки за уязвимости, естественият въпрос е как Edge AI отговаря на съвременните нужди за киберсигурност? AI и LLM имат своите специфични нужди за киберсигурност, които трябва да бъдат разгледани допълнително в Edge AI средата. Особено ако въпросната услуга Edge AI обработва лични данни като здравни досиета, лични въпроси, фирмени тайни и т.н.
В някои случаи Edge AI е от полза за сигурността. Ако е в състояние да обработва по-голямата част от заявките локално, а не да ги прехвърля към център за данни, тогава има по-малко данни за хакерите да прихванат. Ако конфигурацията на Edge AI се предоставя от доставчик на услуги, тогава той ще носи отговорност за киберсигурността на предложението си. Но ако предприятието е направило настройката на Edge в рамките на собствените си активи, тогава самата компания ще бъде отговорна да го поддържа защитен и да не разчита на защитите на партньорския център за данни или на локалната сигурност.
Edge AI идва точно сега
За разлика от други проекти или идеи, Edge AI вече е факт и се използва в реалния свят. „Вярваме, че сближаването между кула и облак е нещо, което има дългосрочна траектория и ще се случи, когато мобилните оператори започнат да преобразуват мрежите си към 5G и да надграждат своето ядро. Тъй като облакът продължава да расте, ние виждаме тази необходимост да се насочва все повече към децентрализирано изчисление“, казва Джон Расуейлър, старши вицепрезидент по иновациите в американския Tower отдел в American Tower пред DataCenterDynamics.
Компанията е една от многото, които вече използват крайни сървъри, като ги разполагат като места за колокация в САЩ. Предимно при базови станции, които са идеални за тази цел. „Кулите са идеалното място за микро центрове за данни, тъй като недвижимите имоти в градовете са скъпи и ограничени, следователно е много трудно да се изградят по-големи центрове за данни тук. Освен това те вече са оборудвани със свързаност и мощност – два критични фактора за активиране на центрове за данни“, казва старшият консултант на STL Partners Мат Бамфорт в публикация в блог.
Edge AI вече подобрява оперативната ефективност в производството, казва DataCenterKnowledge. Например IoT сензорите на производствените машини генерират данни, които незабавно се анализират от Edge AI и предвиждат потенциални повреди на оборудването. Той маркира компонентите, които са на път или биха могли да се повредят, като по този начин помага на производителя да се справи с поддръжката. Това намалява времето за престой и повишава общата производителност.
Производителят на домакински уреди и електроника Haier е сред компаниите, които вече използват Edge AI. Haier казва, че това е довело до оптимизирани производствени процеси и е въвело способността за по-лесно персонализиране на продуктите за местните пазари. Компанията е толкова доволна от своите резултати от Edge AI, че дори го превърна в бизнес – COSMOPlat, който предлага интегрирани AI системи на други производители.
Edge AI очевидно помага и при интелигентните градове. Няколко града в САЩ вече използват AI за подобряване на управлението на трафика на натоварени кръстовища. Те отбелязват както по-малко инциденти, така и повишена пропускливост на трафика на интелигентните кръстовища.
Edge AI носи ползи и за устойчивостта. „Чрез намаляване на потреблението на енергия и претоварването на мрежата, Edge AI помага на компаниите да минимизират въздействието си върху околната среда, като същевременно стимулират дигиталната трансформация“, казва Блудоф. И така, както виждаме, Edge AI вече носи много предимства на своите потребители и едва започва да се развива. Когато бъде разработен още повече на всички фронтове, той ще бъде още по-успешен в подобряването на AI услугите, като същевременно ще осигури на обикновените центрове за данни така необходимата глътка свеж въздух чрез намалено работно натоварване.