Zaufanie do GenAI rośnie, ale brakuje zabezpieczeń [raport IDC]

Generatywna AI zdobywa zaufanie firm na całym świecie, lecz wiele organizacji wciąż nie inwestuje w przejrzystość, bezpieczeństwo i dobre zarządzanie. Jak wynika z raportu IDC przygotowanego dla SAS, tam gdzie dba się o wiarygodność, łatwiej o realne korzyści i wyższy zwrot z wdrożeń.

Co mówi raport

Raport IDC przygotowany dla SAS pokazuje, że generatywna AI jest dziś najczęściej wykorzystywaną i najszybciej zyskującą zaufanie formą sztucznej inteligencji. Z badania wynika, że 81% firm już korzysta z GenAI, podczas gdy tradycyjne rozwiązania AI deklaruje 66% ankietowanych. Agentowa AI to 52%, a kwantowa AI — 30%.

Zaufanie rośnie, ale nie nadąża za nim praca nad wiarygodnością. Choć aż 78% organizacji deklaruje zaufanie do AI, tylko 40% inwestuje w mechanizmy, które tę wiarygodność realnie wzmacniają, jak transparentność modeli, etyka czy formalne ramy zarządzania.

Dlaczego to ważne dla zwykłego użytkownika

Dla osób korzystających z usług cyfrowych oznacza to jedno: firmy chętnie wdrażają rozwiązania oparte na AI, ale nie zawsze w równym tempie inwestują w bezpieczeństwo danych, wyjaśnialność działania i nadzór. To właśnie te elementy decydują, czy algorytm podejmujący decyzję o kredycie, weryfikujący transakcję czy podpowiadający treści w serwisie działa w sposób przewidywalny i uczciwy. Jak czytamy w informacji prasowej, organizacje, które systemowo dbają o odpowiedzialne użycie AI, mają aż o 60% większe szanse na podwojenie zwrotu z inwestycji, co zwykle idzie w parze z lepszą jakością usług dla użytkowników.

Gdzie są największe ryzyka

Najczęściej zgłaszane obawy dotyczą prywatności danych (62%), przejrzystości działania (57%) i kwestii etycznych (56%). W praktyce oznacza to pytania o to, jakie dane trafiają do systemu, kto ma do nich dostęp i czy wynik można wytłumaczyć w prosty sposób. Dodatkowo, w wielu firmach brakuje fundamentów — blisko połowa organizacji wskazuje na słabą infrastrukturę danych lub nieoptymalne środowiska chmurowe, a kolejne bariery to niedojrzałe procesy zarządzania danymi i braki kompetencyjne.

Dane w centrum: bez nich AI nie działa dobrze

Według autorów badania kluczowe utrudnienia to trudny dostęp do odpowiednich źródeł danych (58%), wymogi prywatności i zgodności z regulacjami (49%) oraz jakość danych (46%). Innymi słowy: bez spójnych i dobrze zarządzanych danych nawet najlepszy model AI nie przyniesie stabilnych rezultatów.

Co z tego wynika

Po pierwsze, szybka adopcja GenAI nie zwalnia z obowiązku wyjaśniania, w jaki sposób działa algorytm i jak chroni dane użytkownika. Po drugie, firmy, które inwestują w przejrzystość i nadzór, mają nie tylko lepsze wyniki finansowe, ale też dostarczają bardziej przewidywalne i bezpieczne usługi cyfrowe. Po trzecie, zaufanie bez realnych zabezpieczeń jest kruche — a za kulisami najważniejsze są dziś porządne procesy danych, jasne zasady korzystania z AI i kompetencje zespołów. Wnioski te wynikają z globalnej ankiety przeprowadzonej wśród 2 375 respondentów z wielu regionów świata, w tym liderów IT i biznesu.

Metodologia i źródło

Artykuł powstał na podstawie informacji prasowej SAS na temat raportu IDC Data and AI Impact Report: The Trust Imperative.