Firmy wdrażają AI szybciej, niż potrafią ją kontrolować. Dojrzały nadzór ma co trzecia

Tempo wdrażania sztucznej inteligencji zaczyna wyprzedzać zdolność firm do panowania nad nią — wynika z badania przeprowadzonego na zlecenie Red Hat. Dojrzałe mechanizmy nadzoru nad agentową AI wdrożyło jedynie 31 proc. przedsiębiorstw.

Agentowa AI to systemy, które nie tylko odpowiadają na pytania, ale działają samodzielnie — inicjują procesy, analizują dane, podejmują operacyjne decyzje bez udziału człowieka. Im większa ta autonomia, tym większe ryzyko, gdy coś pójdzie nie tak. I tu, według badania, jest luka.

Monitoring agentowej AI na jakimś poziomie wprowadziło 64 proc. firm. Ale za dojrzały i silny uznaje swój nadzór tylko 31 proc. Kolejne 32 proc. przyznaje, że ma jakieś zasady, lecz z istotnymi lukami. Jedna czwarta wdrożyła reguły podstawowe albo żadnych. Innymi słowy — narzędzia idą naprzód, procedury zostają w tyle.

Drugi wątek badania to uzależnienie od dostawcy. W branży mówi się o tym „vendor lock-in" — sytuacja, w której firma tak mocno wrasta w rozwiązania jednego dostawcy, że zmiana staje się kosztowna albo ryzykowna. Testem dojrzałości jest tu „exit strategy", czyli plan awaryjny na wypadek, gdyby trzeba było zmienić dostawcę modeli lub platformy AI.

Taki plan ma 63 proc. firm. Tyle że sam plan niewiele znaczy. Wśród tych, które go mają, 29 proc. spodziewa się, że zmiana dostawcy odbiłaby się na ciągłości działania w stopniu umiarkowanym, a 10 proc. — w znacznym. Formalna gotowość to jedno, realna odporność drugie.

Wśród firm bez planu jest jeszcze ciekawiej. Trzy na dziesięć nie mają go wcale. Część zakłada, że migracja byłaby łatwa — ale, jak zauważa Red Hat, za tym przekonaniem może stać nie odporność infrastruktury, tylko po prostu niewielka skala dotychczasowych wdrożeń. Mało się wdrożyło, to i mało jest do przenoszenia.

Firma zwraca uwagę, że uzależnienie od dostawców modeli AI przypomina wcześniejsze doświadczenia z chmurą i zamkniętym oprogramowaniem. Zmiana dostawcy to nie samo podpisanie nowej umowy — to przebudowa procesów, nowe integracje, przepisanie polityki bezpieczeństwa. Przy AI dochodzi jeszcze jedno: inny model może inaczej odpowiadać i inaczej współpracować z firmowymi danymi. Migracja bywa więc trudniejsza niż w klasycznym IT.

Trzeci obszar to kontrola nad danymi. Tu deklaracje wypadają lepiej, choć nie idealnie. Jakąś wiedzę o tym, gdzie ich dane są przechowywane i kto ma do nich dostęp, ma 92 proc. firm. Ale pełną kontrolę i wgląd deklaruje już tylko 49 proc. Reszta przyznaje, że są obszary do uporządkowania.

Ze wszystkich trzech obszarów wychodzi ten sam schemat. Firmy zaczęły budować mechanizmy nadzoru, ale w większości utknęły na etapie częściowej gotowości. Rozwój AI wyprzedza rozwój procesów, które miałyby ją okiełznać.

Tu potrzebne zastrzeżenie o nadawcy. Red Hat sprzedaje rozwiązania oparte na otwartym źródle i stawiające na niezależność od pojedynczego dostawcy — więc teza „liczy się kontrola, otwartość i brak uzależnienia" prowadzi wprost do jego oferty. Same liczby pochodzą jednak z badania zewnętrznej firmy i dotyczą realnego, szeroko dyskutowanego problemu.

Warto też odnotować zasięg. Badanie objęło pięć rynków Europy Zachodniej — nie Polski — mimo że komentarz firmuje szef Red Hat w Polsce. Wnioski dotyczą więc firm brytyjskich, holenderskich, francuskich, niemieckich i włoskich, a przełożenie ich na polski rynek to już założenie, nie wynik.

Źródła: informacja prasowa Red Hat