Przekaż kontekst
Wiadomość, dokument, zgłoszenie lub stan aplikacji. Zwykły tekst albo JSON.
Mały model. Jasna odpowiedź. basal-1 zamienia kontekst w konkretną decyzję z poziomem pewności. Po polsku. Na Twoich zasadach.
Podajesz kontekst, pytanie i możliwe odpowiedzi. basal wybiera jedną z nich i ocenia prawdopodobieństwo każdej opcji — bez generowania tekstu.
Wiadomość, dokument, zgłoszenie lub stan aplikacji. Zwykły tekst albo JSON.
Opisz kategorie własnymi słowami. Możesz zmieniać je w każdym zapytaniu, bez ponownego treningu.
Otrzymaj rozkład prawdopodobieństwa. Zautomatyzuj decyzję lub skieruj ją do człowieka.
Inspiracja pochodzi z basal ganglia — jąder podstawy mózgu, które pomagają wybrać działanie spośród wielu możliwości.
Jeden model, wiele zadań. Dodaj szybką warstwę decyzyjną tam, gdzie Twój produkt potrzebuje następnego kroku.
„Od wczoraj nie mogę zalogować się do bankowości internetowej. System pokazuje błąd hasła.”
Nowe kategorie? Inny proces? Zmień opis opcji w zapytaniu. Model zostaje ten sam.
basal-1.0-4.5B osiąga 88,4% trafności na polskich decyzjach testowych. To o 10,5 punktu procentowego więcej od najlepszego z 11 porównanych otwartych modeli decyzyjnych.
Otwórz pełny benchmarkWybrane modele z pełnego porównania. Średnia z dwóch kolejności opcji. basal: silnik w trybie fast; otwarte modele: oficjalne serwery na H100. Jev: komercyjne API.
¹ 8,8 ms: 4.5B, B300 SXM6, bf16, batch 1, obie kolejności opcji; pomiar offline na 500 przykładach. Przez HTTP: 9,7 ms p50. Warunki pomiarów ↗
² Wyniki na odłożonych szablonach, przepisach i domenach; zbiór testowy był konsultowany podczas rozwoju. Jakość w Twoim procesie wymaga osobnej walidacji. Raport techniczny ↗
Otwarty kod i wagi na licencji Apache 2.0. Uruchom model we własnej infrastrukturze i zachowaj kontrolę nad przepływem danych.
Główny model do klasyfikacji, weryfikacji reguł i decyzji wymagających większej trafności.
Lekki wariant do częstych, powtarzalnych decyzji. Około dwukrotnie niższe opóźnienie na H100.
Zbudowane na modelach Bielik od SpeakLeash. FP8 i NVFP4 wymagają zgodnego sprzętu; kwantyzacja zmienia jakość. Sprawdź formaty i wymagania
Zainstaluj silnik, uruchom model i wyślij pierwsze zapytanie. Korzystaj z klienta Python lub prostego API HTTP.
# 1. Utwórz środowisko (wymaga uv)
uv venv --python 3.12 ~/basal-env
source ~/basal-env/bin/activate
# 2. Zainstaluj PyTorch i silnik
uv pip install torch==2.11.0 \
--index-url https://download.pytorch.org/whl/cu128
uv pip install "basal[fp8] @ https://github.com/rkinas/basal/archive/refs/tags/v1.0.1.tar.gz"
# 3. Uruchom model
basal-serve --model Remek/basal-1.0-4.5B \
--mode fast --port 8000
Zainstaluj uv i sterownik obsługujący CUDA 12.8. Pierwszy start kompiluje model przez kilka minut. B300 i DGX Spark: instrukcja sprzętowa.
Co basal robi, jak go wdrożyć i gdzie sprawdzi się najlepiej.
basal zwraca decyzję spośród opcji, które podasz, oraz prawdopodobieństwa tych opcji. Nie prowadzi rozmowy ani nie pisze uzasadnień. To dynamiczny klasyfikator: kategorie opisujesz przy każdym zapytaniu, bez treningu osobnego modelu dla każdego procesu.
Możesz uruchomić model i silnik inferencji na własnym serwerze. Zapytania trafiają wtedy do Twojego API. Sposób przechowywania danych, uprawnienia i dostęp do serwera pozostają częścią Twojego wdrożenia.
To skalibrowane prawdopodobieństwo przypisane wybranej opcji. Pomaga ustawić próg automatyzacji: zaakceptować część odpowiedzi, a pozostałe skierować do weryfikacji. Wysoka pewność nie gwarantuje poprawności. Próg należy dobrać na oznaczonych danych z własnego procesu, zwłaszcza po zmianie formatu opcji lub kwantyzacji.
Zoptymalizowany tryb fast korzysta z GPU NVIDIA zgodnego z CUDA (sm80+). Model 1.5B ma mniejsze wymagania od 4.5B. Tryb eager działa także na CPU, ale podane na stronie czasy dotyczą GPU. FP8 wymaga zgodnej karty, a NVFP4 architektury Blackwell. Zobacz wyniki i instrukcje dla poszczególnych kart ↗
Przy dokładnych obliczeniach i progach liczbowych użyj kodu, a wynik przekaż modelowi. Dostarczaj aktualne reguły w kontekście i sprawdzaj jakość na własnych dokumentach. Decyzje o poważnych skutkach dla ludzi wymagają nadzoru człowieka. Karta modelu opisuje także znany błąd dotyczący okresu wypowiedzenia oraz ograniczenia ewaluacji. Przeczytaj ograniczenia modelu ↗