← ALB News · curated headline

[Перевод] Дообучаем на Mac малую языковую модель для RAG в браузере

Habr · RU · Programming · 11/21/2026, 8:12:10 AM

Задача выглядела довольно простой: дообучить Qwen3-0.6B отвечать на вопросы по фрагментам текста, найденным семантическим поиском. Но первые эксперименты дали обратный эффект: модель стала чаще выдумывать подробности, хотя validation loss продолжал снижаться. Четыре версии обучающих данных помогли разобраться, почему так происходит и как удалось втрое сократить число галлюцинаций — пусть и ценой более частых отказов от ответа. Посмотреть результаты

Continue to Habr →

You are being forwarded in 6s — stay on this page