← ALB News · curated headline

От учителя к студенту: путь к изотропным эмбеддингам в 29M модели. Часть 2/10

Habr · RU · Programming · 10/30/2026, 4:01:15 AM

В этой части мы создаем базовый корпус текстов для дистилляции представлений учителя. За основу общей скмантики возьмем дамп Википедии и добавим к нему доменные тексты (психология, психиатрия, психотерапия). Парсим тексты и формируем корпус, немного приводим текст в порядок (устраняем самые явные проблемы). Читать далее

Continue to Habr →

You are being forwarded in 6s — stay on this page