300 классов без промптинга: ЛЛМ научили работать энкодером для классификации

Материал Альфа-Банка разбирает нестандартный подход к классификации с помощью LLM: вместо промптинга с описанием правил и примерами модель используют как энкодер. Промптинг хорошо работает на небольшом числе классов, но при 20–30 и тем более 100+ категориях контекст раздувается, а модель начинает галлюцинировать.

Авторы описывают кейс с 300 классами и 400 сэмплами, где отказ от промптинга в пользу энкодерного подхода дал рабочий результат. Это важный практический сигнал: LLM — не только генератор текста, но и мощный инструмент представления данных.

Для редакций с большими архивами контента (теги, рубрикаторы, модерация) такой подход может оказаться дешевле и надёжнее классического промптинга. Детали реализации — на сайте источника.