3 modele od PKO BP i OPI dla języka polskiego
Nowe modele pomagają komputerom lepiej rozumieć znaczenie tekstu i przekształcać je do postaci wykorzystywanej w dalszej analizie. Mogą znaleźć zastosowanie m.in. w:
- grupowaniu podobnych spraw i zgłoszeń,
- klasyfikacji dokumentów i wiadomości,
- wyszukiwaniu podobnych treści,
- porównywaniu znaczenia tekstów,
- systemach wspierających analizę dużych zbiorów danych tekstowych.
Modele zostały zaprojektowane z myślą o pracy z długimi dokumentami. Obsługują kontekst o długości około 8 tys. tokenów, dzięki czemu mogą analizować obszerne dokumenty, korespondencję czy wielowątkowe rozmowy bez konieczności dzielenia ich na mniejsze fragmenty.
Skuteczność potwierdzona testami
W ramach prac badawczo-rozwojowych modele były testowane zarówno na publicznych benchmarkach, jak i na zanonimizowanych danych z obszaru bankowo-finansowego. Uzyskane wyniki potwierdziły ich wysoką skuteczność w zadaniach związanych z rozumieniem semantyki, klasyfikacją oraz grupowaniem tekstów. Według przeprowadzonych analiz należą one do najskuteczniejszych ogólnych modeli embeddingowych dostępnych dla języka polskiego.
Współpraca naukowców i ekspertów technologicznych OPI z zespołami PKO Banku Polskiego pozwala tworzyć rozwiązania odpowiadające zarówno na potrzeby badań nad sztuczną inteligencją, jak i wymagania biznesowe związane z analizą języka naturalnego w dużej skali.
Nowe modele stanowią kolejny krok w rozwoju polskich technologii AI i pokazują, jak współpraca sektora naukowego oraz biznesowego może przyczyniać się do wzmacniania krajowych kompetencji w obszarze sztucznej inteligencji.
OPI i PKO BP wspólnie rozwijają AI
Od zeszłego roku eksperci z AI Labu w OPI PIB i PKO BP rozwijają dedykowane neuronowe modele językowe pod kątem adaptacji i zastosowania ich w sektorze bankowym. Wspólnie realizują projekt „Budowa innowacyjnych polskich domenowych modeli językowych i platformy usługowej do serwowania modeli wielozadaniowych wewnątrz Banku PKO BP”. Projekt otrzymał dofinansowanie z UE w kwocie 9,2 mln złotych, w ramach programu Fundusze Europejskie dla Nowoczesnej Gospodarki 2021-2027. Dzięki swojej skali inicjatywa ta będzie przełomowa dla sektora finansowego w Polsce. Klienci banku zyskają bardziej intuicyjną i efektywną obsługę, a pracownicy dostaną dodatkowe narzędzia usprawniające ich pracę.
Modele dostępne są dla każdego na platformie Hugging Face.