Selekcja orzeczeń, interpretacji podatkowych oraz materiału dowodowego w lokalnym środowisku
Contributor’s original text.
Jestem radcą prawnym i doradcą podatkowym. Buduję lokalne środowisko do researchu prawnego i podatkowego. Żadne dane nie mogą trafiać do usług zewnętrznych.
Bazą wiedzy są publiczne źródła, które pobieram i aktualizuję: interpretacje indywidualne z Eureki (548 tys. dokumentów), orzeczenia NSA/WSA z CBOSA oraz orzeczenia sądów powszechnych z SAOS. Nie przeszukuję całych lokalnych korpusów naraz. Pracuję na wyselekcjonowanych zbiorach pod konkretne zagadnienie, od kilkudziesięciu do 2000 dokumentów. Każdy dokument to ok 20-80 tys. znaków.
Baza wiedzy może się składać również z dokumentacji klienta analizowanej w odizolowanym środowisku.
Basal pełni rolę szybkiej warstwy decyzyjnej (workflow „choice”). Dla każdego dokumentu z partii ocenia, czy rzeczywiście dotyczy badanego problemu i jakie stanowisko zajmuje.
Efekt: zamiast czytać setki dokumentów, dostaję wstępnie przefiltrowany i sklasyfikowany zbiór. Analizuję go merytorycznie sam wg przyjętych założeń i otrzymanej listy rankingowej.
Wykorzystywane wersje i sprzęt:
GeForce RTX 5090 (24 GB VRAM), 96 GB RAM,
Modele podstawowe:
basal-2.0-4.5B
basal-2.0-max (11B) w kwantyzacji Q5_K_M (llama)
basal-2.0-max (11B) w FP8: przy 24 GB VRAM. Tu zapytania kończyły się brakiem pamięci GPU.