Przypisywanie produktów spożywczych do kategorii na podstawie nazwy i marki

Testuję basal-1.0-4.5B jako klasyfikator produktów spożywczych: model dostaje tylko nazwę produktu i markę, a potem wybiera jedną z ośmiu kategorii opisanych zwykłym tekstem w zapytaniu (np. „nabiał i jaja”, „przekąski”, „dania gotowe” i „żadna z powyższych”). Model działa u mnie lokalnie (w trybie FP8 na komputerze z układem GB10), więc dane nie wychodzą poza moją sieć.

Na 145 produktach, które miałem już przypisane do kategorii, model trafił w 131 przypadkach. Przy okazji wskazał dwa produkty, które sam przypisałem źle (wynik 131 liczę już po tej poprawce). Przy progu pewności z CALIBRATION.json (ustalonym z myślą o około 1% błędów) model sam zdecydowałby o 85 produktach i nie pomyliłby się przy żadnym, a 60 trafiłoby do ręcznej weryfikacji (choć w 46 z nich miał rację). Odpowiedź na jedno zapytanie zajmowała około 70 ms po stronie serwera.

Najbardziej przydatna jest dla mnie pewność, którą model zwraca: decyzje powyżej progu można przyjmować automatycznie, a resztę przekazywać do sprawdzenia przez człowieka.