Полный текст
Большой тест GPT4, GPT3.5, YandexGPT, GigaChat, Saiga в RAG-задаче. Часть втораяВ первой части статьи мы говорили о создании цифрового юриста, способного отвечать на вопросы на основе 200-страничного регламента. Во второй части рассмотрим, как и зачем делать локальные токензайзеры, и попробуем запустить всё полностью на локальной машине с видеокартой 4090.