Deqio to open-source'owy lokalny runtime i API dla wyspecjalizowanych modeli decyzyjnych typu System One.
Basal jest jednym z natywnie obsługiwanych silników projektu. Deqio pozwala instalować, uruchamiać i przełączać modele z…
Tradycyjne, duże modele językowe (LLM) są zbyt wolne do natychmiastowych decyzji tradingowych. System potrzebuje natychmiastowej reakcji na dynamiczne zjawiska rynkowe (np. ryzyko gonienia szczytu lub łapania spadającego noża) be…
Mamy bardzo dużo tekstów dotyczących architektury władzy w bloku postkomunistycznym. Korzystamy z aplikacji pozwalającej odnaleźć się w wywiadach, podsumowaniach warsztatów - LLMy sobie dobrze radzą.
Rozszerzamy wiedzę o litera…
W moim zespole Data Science oceniamy artykuły z kilkunastu serwisów newsowych i poradnikowych. Nie generujemy tekstu, potrzebujemy decyzji: do jakiej kategorii trafia tekst, czy to news, czy ma polityczne zabarwienie, czy nadaje …
Rozwijam prywatny Energy Desk czyli środowisko analityczne dla rynku energii, połączone z MetaTrader 5. Łączę w nim dane brokera, analizę ceny i wolumenu, profile wolumenowe, CVD, kontekst wielu interwałów oraz publiczne informac…
W SemanticHub dopasowujemy artykuły do celów tematycznych — np. „Portale medyczne” — żeby wybrać materiały pasujące do danego portalu lub kampanii. Wcześniej robiliśmy to kaskadą Jev (ok. 1,42 USD za 100 tys. ocen) oraz modelami …
W ramach testów podjąłem próbę oznaczania podejrzanych maili. Na ten moment testy (model 4.5M) robię na Macu M1 i działa to dość wolno (17s / zapytanie), ale to może być kwestia tego konkretnego sprzętu.
Na razie testujemy Basal i Laya z obecnym rozwianiem w tradycyjnym LLM. Tradycyjny ciągle najlepszy ale baaaaaaaardzo wolny w porównaniu z Laya, Basal. Laya najszybsza ale tez gorsza w ocenie od Basal, stad moje zainteresowanie t…
Testuję basal-1.0-4.5B jako klasyfikator produktów spożywczych: model dostaje tylko nazwę produktu i markę, a potem wybiera jedną z ośmiu kategorii opisanych zwykłym tekstem w zapytaniu (np. „nabiał i jaja”, „przekąski”, „dania g…
Eksperymentalna warstwa decyzyjna dla autonomicznego workflow AI engineering. Testuję basal jako mały model System One do szybkiej klasyfikacji problemów, failures i findings, zanim trudniejsze przypadki trafią do większych model…