Polska może pochwalić się czterema fascynującymi inicjatywami w zakresie tworzenia dużych modeli językowych, które mają na celu rozwój rodzimych rozwiązań technologicznych. Każdy z tych projektów, choć oparty na podobnym założeniu, wyróżnia się unikalnym podejściem i metodami działania.
W dobie globalizacji największe korporacje technologiczne rozwijają zaawansowane modele językowe, takie jak ChatGPT, które są w dużej mierze trenowane na treściach w języku angielskim. Modele te, choć imponujące, mają ograniczoną zdolność do uchwycenia subtelnych różnic językowych, kulturowych i historycznych takich krajów jak Polska. Dlatego tworzenie polskich modeli językowych jest kluczowe – pozwala lepiej rozumieć specyfikę naszego kraju, wspiera rozwój technologiczny oraz chroni nasze dziedzictwo kulturowe i historyczne.
Opracowanie dużego modelu językowego (LLM) od podstaw to jednak niezwykle kosztowny projekt. Pierwsze komercyjne i zamknięte LLM‑y były rozwijane przez gigantów technologicznych z USA: Google, OpenAI, Meta, IBM czy NVIDIA, a każda z tych firm zainwestowała w to setki milionów dolarów. Niestety, w polskich firmach wciąż brakuje odpowiedniego kapitału, który pozwoliłby na realizację projektów o tak dużej skali i kosztach.
Europa, która często przesypia zmiany technologicznie i reaguje na nie z opóźnieniem, tradycyjnie zaczęła od stworzenia regulacji. Na tym tle jednak wyróżniła się francuska firma Mistral, która postawiła sobie za cel stworzenie otwartego LLM‑u, w którym lepiej byłyby reprezentowane języki europejskie: francuski, niemiecki, hiszpański i włoski. Do realizacji tego projektu w kolejnych rundach finansowania firma zdobyła ponad 1 mld euro (4,3 mld zł).
