Deloitte odda część wynagrodzenia. Raport z błędami powstał z pomocą AI
Deloitte Australia zwróci część zapłaty za rządowy raport, w którym wykryto fikcyjne cytowania i inne błędy. Firma przyznała, że korzystała z narzędzi generatywnej AI. Sprawa wywołała debatę o standardach użycia AI w konsultingu.
Jak podaje The Guardian, Deloitte zwróci część wynagrodzenia za raport dla australijskiego resortu pracy (DEWR) warty 440 tys. dolarów. W dokumencie odkryto liczne nieścisłości, w tym nieistniejące odwołania do orzeczeń sądowych i publikacji naukowych. Po korektach resort utrzymał wnioski raportu, ale ujawnił, że w pracach wykorzystano generatywną sztuczną inteligencję.
Sprawa wyszła na jaw po analizie akademika z University of Sydney, który wskazał na „halucynacje” AI, czyli pozornie wiarygodne, lecz fałszywe treści. Według The Guardian Deloitte odda ostatnią transzę płatności po finalizacji formalności.
Jednocześnie politycy i media w Australii domagają się ostrzejszych zapisów o ujawnianiu i kontroli użycia AI w pracach doradczych. Fortune i NDTV zwracają uwagę, że rząd może wprowadzić surowsze klauzule dotyczące AI przy kolejnych kontraktach konsultingowych.
Wnioski dla rynku są proste: jeśli AI wspiera przygotowanie raportów, zleceniodawca musi jasno wiedzieć, gdzie, jak i w jakim zakresie została użyta, a wykonawca powinien prowadzić pełną dokumentację procesu i testy jakości. Zastosowanie AI bez rzetelnego fact-checkingu kończy się nie tylko korektami, ale też kosztami reputacyjnymi i finansowymi.
