OPI udostępnia rodzinę modeli Polish ModernBERT i test PUMA. Za darmo, dla nauki, urzędów i biznesu

AI LAB, zespół sztucznej inteligencji w państwowym Ośrodku Przetwarzania Informacji (OPI), udostępnił rodzinę modeli językowych Polish ModernBERT. Powstała w projekcie Gaia AI Factory i jest dostępna bezpłatnie dla naukowców, administracji publicznej oraz firm. Modele analizują teksty po polsku, od krótkich zdań po długie dokumenty. Radzą sobie z tekstem o długości do 8192 tokenów, czyli mniej więcej z kilkunastostronicowym pismem urzędowym, umową albo artykułem naukowym. Token to podstawowa jednostka, na jaką model dzieli tekst. Odpowiada mniej więcej sylabie albo krótkiemu wyrazowi.

Do czego to służy

Polish ModernBERT to model typu encoder-only, czyli taki, który nie pisze tekstów tak jak ChatGPT, tylko je rozumie i porządkuje. Konkretnie robi rzeczy, które w codziennej pracy urzędu, firmy albo redakcji wyglądają tak: sortuje dokumenty do właściwych folderów (klasyfikacja), znajduje w umowie nazwiska, kwoty i daty (rozpoznawanie nazw własnych), ocenia, jak bardzo pismo pasuje do zapytania (regresja), oraz wyszukuje pasujące fragmenty w wielkiej bazie tekstów. To rodzaj cichej maszynerii, która pracuje w tle systemów obsługujących dokumenty.

Modele wytrenowano na polskim korpusie liczącym kilkadziesiąt miliardów tokenów. AI LAB opracował cały proces uczenia, od przygotowania danych treningowych po autorskie wieloetapowe procedury pretreningu, czyli ogólnego uczenia modelu na dużej ilości tekstu, jeszcze zanim zostanie dostosowany do konkretnego zadania.

Cztery warianty i wynik testu

Udostępniono cztery warianty modeli: Base (mniejszy, szybszy) i Large (większy, dokładniejszy), każdy w wersji dla kontekstu 512 lub 8 tys. tokenów. W przeprowadzonych ewaluacjach Large-8K uzyskał 85,11 pkt i, jak podaje OPI, jest najwyżej ocenionym polskim modelem tego typu wśród porównywalnych rozwiązań.

Ważny jest przy tym praktyczny szczegół. Warianty Base mogą działać na zwykłych procesorach (CPU), a nie tylko na drogich kartach graficznych (GPU), które standardowo obsługują AI. Konkretnie znaczy to, że urząd albo mniejsza firma może wdrożyć taki model na sprzęcie, który już ma, bez inwestowania w specjalistyczną infrastrukturę obliczeniową.

„Rozwój nowoczesnych, specjalizowanych modeli neuronowych dla języka polskiego ma znaczenie strategiczne. Dzięki takim projektom jak Polish ModernBERT budujemy krajowe kompetencje w obszarze sztucznej inteligencji oraz tworzymy technologie, które mogą być wykorzystywane przez naukę, administrację publiczną i przedsiębiorców. Naszym celem jest rozwijanie otwartych, wysokiej jakości rozwiązań, które wzmacniają cyfrową suwerenność Polski i zwiększają konkurencyjność rodzimego sektora AI" – mówi dr hab. inż. Jarosław Protasiewicz, dyrektor OPI.

„Projektując Polish ModernBERT chcieliśmy stworzyć modele, które będą jednocześnie skuteczne, wydajne i łatwe do zastosowania w praktyce. Szczególny nacisk położyliśmy na minimalizację rozmiaru przy niewielkiej stracie jakości oraz na możliwość pracy z długimi dokumentami, ponieważ właśnie takie zasoby dominują w administracji, nauce czy sektorze regulowanym. Otwarty dostęp do modeli oznacza, że każdy może wykorzystać je do budowy własnych aplikacji, potoków analizy dokumentów, systemów analitycznych czy innych rozwiązań opartych na AI" – mówi dr inż. Marek Kozłowski, kierownik AI LAB OPI.

To kolejny wynik prac AI LAB OPI w 2026 r. Wcześniej zespół udostępnił modele PolDense i EuroDense (do wyszukiwania informacji) oraz narzędzie PUMA. Projekt Gaia AI Factory jest współfinansowany przez Wspólne Przedsięwzięcie EuroHPC ze środków programu Unii Europejskiej „Cyfrowa Europa" oraz przez Polskę. Obliczenia wykonano na infrastrukturze PLGrid w Akademickim Centrum Komputerowym Cyfronet AGH.

PUMA: sprawdzian dla polskich modeli AI

Osobnym projektem AI LAB OPI jest PUMA, aplikacja do oceny multimodalnych modeli sztucznej inteligencji, czyli takich, które potrafią pracować nie tylko z tekstem, ale też z obrazem, dźwiękiem i skanami dokumentów. PUMA to benchmark, w prostszym języku sprawdzian, który konfrontuje model z serią zadań i pozwala porównać, jak radzi sobie z polskim językiem i kulturą w porównaniu z innymi.

Sprawdzian obejmuje 900 ręcznie przygotowanych zadań w dziewięciu kategoriach. Testują wiedzę o polskiej historii, kulturze i geografii, umiejętność zapisania nagrania audio jako tekstu, a także analizę skanów dokumentów: wyciąganie z nich danych i odpowiadanie na pytania o ich zawartość. W ocenie liczą się nie tylko wiedza o Polsce, ale i praktyczne kompetencje istotne w biznesie i administracji: OCR, czyli rozpoznawanie tekstu ze skanu (na przykład odczytanie sfotografowanej faktury), analiza tabel i infografik oraz ASR, czyli automatyczne rozpoznawanie mowy (zapis rozmowy telefonicznej jako tekstu).

Aplikacja jest otwartym narzędziem z angielskim interfejsem, więc można ją wdrażać w innych państwach UE. PUMA została sfinansowana ze środków projektu „Duże modele językowe dla Unii Europejskiej (LLMs4EU)" konsorcjum ALT-EDIC, w ramach programu Komisji Europejskiej „Cyfrowa Europa" oraz środków Ministerstwa Cyfryzacji.

Gdzie to znaleźć

Modele są dostępne publicznie na Hugging Face (platformie, na której twórcy AI udostępniają swoje modele do pobrania), a szczegóły opisano w towarzyszącej publikacji naukowej. Na tej samej platformie dostępny jest publiczny leaderboard PUMA, gdzie widać ranking modeli, które podeszły do sprawdzianu.

Materiał pochodzi od OPI, państwowego instytutu badawczego, który udostępnia opisane modele i narzędzia bezpłatnie.

Źródła: informacja prasowa Ośrodka Przetwarzania Informacji