Działy badawczo-rozwojowe tracą zaufanie do sztucznej inteligencji z powodu braku kontekstu
Przedsiębiorstwa i działy R&D mierzą się ze spadkiem zaufania do sztucznej inteligencji. Technologia zderzyła się z problemem oceny wiarygodności odpowiedzi. Narzędzia AI tracą poparcie użytkowników, gdy zamiast rygoru naukowego oferują halucynacje i niepoparte źródłami domysły.
Działy badawczo-rozwojowe w przedsiębiorstwach zmagają się obecnie z brakiem sprawnych mechanizmów służących do oceny wiarygodności danych. Przekłada się to na rosnący brak zaufania do metod wyciągania wniosków przez sztuczną inteligencję z dużych zbiorów informacji. Proces odkrywania wiedzy jest zasadny tylko wtedy, gdy opiera się na bogatych kontekstowo danych organizacji, a nie na probabilistycznych założeniach.
Wiele wdrażanych narzędzi AI traci poparcie użytkowników jeszcze przed wygenerowaniem faktycznej wartości dla biznesu. Problem dotyka zwłaszcza podmiotów dysponujących obszernymi, unikalnymi danymi z działów R&D. Traktowanie takich specjalistycznych zbiorów jak zwykłych treści internetowych skutkuje utratą kontekstu i szczegółów pochodzenia, a tym samym kluczowego rygoru naukowego. W takiej sytuacji AI zamiast wspierać badania, zaczyna je w ryzykowny sposób upraszczać.
Zwrot ku przewidywalności w badaniach
Sytuacja ulega zmianie wraz z planowaniem budżetów na 2026 rok, kiedy to firmy starannie analizują, które inicjatywy zasługują na kontynuację finansowania. Zarządy i dyrektorzy finansowi weryfikują projekty pilotażowe, które nie przyniosły mierzalnych rezultatów lub nie zdołały zbudować zaufania. Według prognoz, w nadchodzącym czasie przewagę zdobędzie sztuczna inteligencja, która jest przewidywalna, wytłumaczalna i możliwa do zarządzania.
Jednostki badawcze posiadają wielkie archiwa informacji, od logów eksperymentów po zapisy laboratoryjne i repozytoria kodu, w których mogą kryć się odpowiedzi prowadzące do przełomu. Często jednak dane te pozostają ukryte i podzielone w odseparowanych systemach. Wdrażanie sztucznej inteligencji jako kolejnego, oderwanego od źródeł interfejsu sprawia, że systemy te nie potrafią jednoznacznie wskazać podstaw swoich odpowiedzi lub po prostu halucynują. W pracach badawczo-rozwojowych to właśnie pewność i możliwość zaufania wynikom odgrywają kluczową rolę.
Osadzenie w danych dziedzinowych
Konieczne staje się doprowadzenie do sytuacji, w której sztuczna inteligencja rozumie dane dziedzinowe i precyzyjnie umożliwia śledzenie ich pochodzenia. Jak podaje Progress Software, firma dostarczająca oprogramowanie dla przedsiębiorstw, rozwiązaniem jest implementacja sztucznej inteligencji bezpośrednio w istniejących zasobach. Zdejmuje to z zespołów R&D obowiązek ręcznego kopiowania czy przygotowywania danych do analizy.
Jakub Andrzejewski, Business Development Manager for Poland & CIS w firmie Progress Software podkreśla, że takie podejście pozwala zachować naturalną strukturę, semantykę i bezpieczeństwo informacji. Odpowiedzi generowane przez AI są wtedy osadzone w zaufanych dokumentach i metadanych firmy, zamiast bazować na przypuszczeniach. Takie metodyczne wdrożenie pozwala badaczom odnajdywać wnioski we wcześniejszych pracach i unikać ich nieświadomego powielania. Niezbędne dla środowiska badawczego jest, aby uzyskane odpowiedzi mogły być prześledzone, wyjaśnione i poddane profesjonalnej ocenie ekspertów.
