Vomit: очистка вывода Claude 5 с помощью отдельной LLM¶
6.0/10
Инструмент Vomit, опубликованный на GitHub (zachahn/vomit), использует отдельную языковую модель для очистки многословного вывода токенов Claude 5, превращая его в более краткий и связный текст. Это решение появилось как ответ на реальную проблему в рабочих процессах ИИ-кодинга, где агенты, такие как Claude и Codex, часто нарушают заданные предпочтения общения, особенно в длительных сессиях. Инструмент представляет собой простую обёртку над промптом, который просит модель-редактора удалить странные грамматические конструкции, витиеватые рассуждения и самовосхваление, сохраняя при этом все детали исходного сообщения. Хотя Vomit не является техническим прорывом, он вызвал активное обсуждение в сообществе, включая вопросы о надёжности коммуникации между LLM и потенциальном влиянии на водяные знаки. Пользователи отмечают, что подобные обходные пути становятся необходимыми из-за неспособности системных инструкций (например, AGENTS.md) стабильно влиять на стиль ответов моделей.
Контекст¶
LLM-агенты, используемые для программирования, часто генерируют многословные и витиеватые ответы, которые могут отвлекать от сути задачи. Несмотря на наличие системных инструкций, таких как AGENTS.md, модели склонны игнорировать предпочтения по стилю общения, особенно когда сессия становится длинной. Vomit решает эту проблему, пропуская вывод модели через дополнительный LLM-вызов, который переписывает текст в более чистом и лаконичном стиле, что напоминает подходы к постобработке вывода.
Влияние¶
Для разработчиков, использующих Claude 5 или Codex, Vomit предлагает практический, хотя и нишевый, способ улучшить читаемость вывода без необходимости менять основную модель, что может быть полезно в длительных сессиях, где системные инструкции не работают. Однако это решение не решает корневую проблему нестабильного поведения LLM и может добавить задержку и стоимость из-за дополнительного вызова модели.
Обсуждение в сообществе¶
Пользователи выражают разочарование тем, что LLM-агенты, включая Claude и Codex, последовательно нарушают предпочтения общения, несмотря на инструкции, что делает такие обходные пути необходимыми. Некоторые задаются вопросом, стоит ли продолжать использовать модели Anthropic, если приходится контролировать их вывод с помощью другой модели, в то время как другие отмечают, что подобные инструменты могут влиять на водяные знаки, и делятся альтернативными проектами с той же целью. Название инструмента получило положительные отзывы.