Asystent medyczny na otwartym modelu
95% trafności odpowiedzi i o 80% krótsze oczekiwanie
- Branża
- Ochrona zdrowia
- Rynek
- Singapur
95%trafności odpowiedzi, o 30% lepiej niż wcześniej
80%krótszy czas oczekiwania
10 000+jednoczesnych użytkowników
Wyzwanie
Dostawca usług medycznych chciał wirtualnego asystenta, który odpowiada pacjentom na podstawie jego własnych danych, na modelu pod jego kontrolą.
Co powstało
- Pipeline wyszukiwania na Mistral-7B, działający na własnych danych dostawcy
- Wyszukiwanie semantyczne z re-rankingiem i weryfikacja faktów w odpowiedziach modelu
- Pipeline indeksujący, który zamienia dane dostawcy w przeszukiwalne fragmenty
- Skonteneryzowane usługi API, monitorowane stosem ELK
Jak to zbudowano
- Model z otwartymi wagami, wdrożony w środowisku dostawcy