Большие языковые модели открывают новые возможности для работы с информацией. Они помогают не только с простыми задачами вроде форматирования, но и с более сложными — выделением главного и установлением связей.

Особенно полезны эти технологии при работе с большими объемами текста. Но буквально все языковые модели «из коробки» плохо справляются с этими задачами. Даже с эффективными промптами.

Чтобы улучшить результаты, нужно использовать разные подходы к обучению и настройке цепочек запросов. Есть как простые решения, так и неочевидные, дающие скачки качества.

Я применил эти подходы для обработки заметок из базы знаний — отделения «воды» и нейминга. Результаты показывают, что это действительно помогает работать с информацией в разы быстрее.