Определить промпты в config_sentence_transformers.json
#3
by
bulatovv
- opened
У SentenceTransformers есть функционал для определения формата промптов (Для данной модели это query:
и passage:
).
https://www.sbert.net/examples/applications/computing-embeddings/README.html#prompt-templates
Можно обозначить их в конфиге для лучшей интеграции с sentence-transformers. Как дефолтный установить query потому что:
- Использование модели без префиксов нежелательно, лучше фаллбэкнуться на какой-то
- Это ожидаемое поведение на случай когда пользователь не указывает промпт