Dla wielu twórców oprogramowania, dostawców chmury oraz producentów sprzętu Edge AI, czyli wykorzystanie sztucznej inteligencji na brzegu sieci, stało się ważnym tematem. Rozwiązania mające na celu umieszczenia przetwarzania AI jak najbliżej miejsca, gdzie generowane są dane to także nowy obszar szans biznesowych dla integratorów.

Może to polegać np. na zdobyciu kompetencji w zakresie wdrażania prywatnych sieci komórkowych (w tym 5G) dla klientów korporacyjnych we współpracy z dostarczającymi takie rozwiązania partnerami technologicznymi. Ktoś, kto wybierze taką drogę, będzie integrować tę technologię z tradycyjną infrastrukturą przewodową i bezprzewodową. Obserwatorzy rynku spodziewają się sporego wzrostu zastosowań prywatnych sieci komórkowych, szczególnie w środowiskach przemysłowych. Prywatne sieci komórkowe i 5G w połączeniu z edge computingiem napędzają sztuczną inteligencję na brzegu sieci, gdzie wymagane są duże prędkości i niskie opóźnienia.

Według IDC globalne wydatki na edge computing wyniosły 228 miliardów dolarów w 2024 roku, co stanowi wzrost o 15 procent w porównaniu do 2023 roku. Firma badawcza prognozuje dalszy gwałtowny wzrost globalnych wydatków na edge computing, które w 2028 roku mają wynieść aż 378 miliardów dolarów.

Edge AI w wielu zastosowaniach i branżach

Największego wpływu sztucznej inteligencji wdrażanej na brzegu sieci można się spodziewać nie w biurach korporacji, a w fabrykach, kopalniach, w lotniskowych strefach obsługi bagażu, na korytarzach szpitalnych itp. Rewolucja nastąpi wszędzie tam, gdzie szybkie podejmowanie decyzji jest kluczowe, a nie ma czasu na interakcję z chmurą. Wszystko musi być realizowane lokalnie, nie tylko ze względów bezpieczeństwa, ale także z powodu opóźnień. W tym kontekście Edge AI staje się doskonałym rozwiązaniem dla wymienionych segmentów rynku, które w przeważającej większości nie przeszły jeszcze – w przeciwieństwie do sektora biurowego – zaawansowanej transformacji cyfrowej.

Możliwości jest wiele. Przykładowo jedna z dużych amerykańskich firm z sektora produkcji wykorzystuje w oparciu o kamerę 4K wizję komputerową, która w czasie rzeczywistym monitoruje wydarzenia na terenie fabryki o powierzchni kilku tysięcy metrów kwadratowych. Analizuje ruch pojazdów autonomicznych, towarów oraz sprawdza, czy pracownicy noszą wymagane wyposażenie ochronne na różnych obszarach hali.

System przetwarza wielkie ilości danych na godzinę, jednocześnie podejmując decyzje i korelując te działania w jednym modelu AI. Kontroluje, czy ktoś ma na sobie kask ochronny czy nie, czy drzwi zostały pozostawione otwarte, ile pudeł zostało umieszczonych na palecie i przygotowanych do wysyłki – wszystko w jednym ujęciu. I co najważniejsze, system może natychmiast podjąć działania.

Ten sam proces bez wizji komputerowej wymagałby oddzielnych urządzeń rejestrujących różne obszary obiektu, w tym stanu palet, ludzi czy drzwi. Całościowe rozwiązanie Edge AI z jedną kamerą z maszynowym widzeniem nie tylko eliminuje wszystkie te czujniki i urządzenia IoT, ale także może natychmiast podjąć stosowne działania, powiadamiając odpowiednie osoby.

Wykorzystanie edge computingu było do tej pory znikome, szczególnie w branżach takich jak handel detaliczny czy produkcja, gdzie kluczowe są aplikacje w czasie rzeczywistym. Jednak AI na brzegu ewoluuje, a obserwatorzy rynku coraz częściej dostrzegają rosnące zapotrzebowanie na nowe zastosowania, które nie tolerują nawet sekund opóźnienia – m.in. wspomnianą wizję komputerową i bezpieczeństwo w produkcji.

Sprawa opóźnień jest kluczowa. W przypadku użytkownika wpisującego zapytanie w chatbotcie, gdy interfejsem jest tekst w przeglądarce, nie ma znaczenia, czy to zajmie jedną sekundę czy dziesięć. Nie potrzeba do tego Edge AI – może to zostać przetworzone w chmurze lub innym centrum danych, gdziekolwiek znajdują się serwery z LLM. Jeśli jednak trzeba zrobić coś związanego z wizją komputerową, gdzie są kamery w sklepie do rozpoznawania twarzy lub analizy zachowania klientów, wtedy konieczne jest przetwarzanie na brzegu sieci. Potrzebne jest rozproszone podejście, bo przesyłanie całego materiału wideo do centralnego miejsca w celu przetworzenia zupełnie się wtedy nie sprawdzi.

Producenci platform do współpracy szczególnie interesują się Edge AI, aby odciążyć funkcje, które nie muszą być przetwarzane w chmurze lub centrum danych. Przykładem może być Webex firmy Cisco Systems, która oferuje funkcję usuwania szumów w tle wspomaganą przez AI, automatycznie filtrującą niepożądane dźwięki. Gigant technologiczny z San Jose nawiązał nawet współpracę z firmą Nvidia w 2023 roku, aby stworzyć Room Kit EQX – zintegrowane rozwiązanie dla średnich i dużych sal konferencyjnych, które łączy w jednej jednostce komponenty audio, wideo i obliczeniowe. Urządzenie to jest napędzane przez platformę Nvidia Jetson Edge AI i wprowadza zaawansowane funkcje AI do portfolio urządzeń do współpracy.

Ważna rola integratorów

Jednak – bez względu na branżę potencjalnego wdrożenia – żaden dostawca na świecie nie ma pełnego rozwiązania w zakresie Edge AI, więc rola integratora będzie kluczowa dla kanału sprzedaży, który będzie musiał łączyć różne elementy w unikalny sposób, dostosowany do potrzeb poszczególnych klientów.

Przykładowo integrator może się zająć siecią. Łączność do zastosowań Edge AI często nie jest wystarczająco wydajna i może podlegać okresowym przerwom w sieci Wi-Fi. Nawet jeśli te przerwy będą ultrakrótkie, to będzie to miało znaczenie. Dlatego spore nadziej wiąże się z prywatnym 5G które umożliwia budowanie sieci o wysokiej wydajności i dużej pojemności. Pozwoli ona bezproblemowo połączyć wszystkie punkty danych z procesu produkcyjnego na brzegu sieci i analizować je w czasie rzeczywistym. Dzięki temu przedsiębiorstwa mogą korygować potencjalne błędy oraz identyfikować problemy z bezpieczeństwem na bieżąco, a także przechowywać dane do późniejszej analizy.

Wielu dużych klientów, zwłaszcza w sektorze produkcyjnym, korzystało dotąd z AI w scentralizowanych data lakes w chmurach, takich jak Microsoft Azure, Amazon Web Services czy Google Cloud. Jednak koszty operacyjne w tych środowiskach stają się coraz wyższe. Firmy starają się je obniżyć, przenosząc sztuczną inteligencję na krawędź sieci. Dodatkową korzyścią tego podejścia jest dla integratora modernizacja sieci.

Modernizacja sieci w sektorze produkcyjnym będzie musiała nastąpić, ponieważ wcześniej miały one bardzo niską przepustowość i służyły głównie do obsługi skanerów kodów kreskowych czy wózków widłowych. Gdy teraz pojawia się potrzeba wdrożenia przetwarzania na krawędzi sieci, będzie to wymagać przynajmniej 10-gigabitowego szkieletu oraz 10-gigabitowych portów do podłączenia jednostek obliczeniowych, klienci zaczną budować infrastrukturę sieciową z prawdziwego zdarzenia.