Структура промпта:. 1) он содержит в себе несколько...

Структура промпта:
1) он содержит в себе несколько примеров (первая картинка, красная часть, самый верх), где показывается, как по контексту приходить к правильному ответу
2) Дальше идёт вопрос, и список из 10-15 результатов поиска. Туда входят не только ссылки на страницы и текст, но и куча информации (весь второй скриншот посвящён этому): Релевантные запросы, вопросы и ответы, граф знаний, etc.
3) Было обнаружено, что все ссылки в промпте надо сортировать по дате добавления, причём самое свежее — в конец. Это улучшает на несколько процентов качество ответов, модель "отслеживает" хронологию изменений. И да, дата тоже является частью каждого примера

Код обещают выложить вот тут, но пока пусто. Шаблоны промптов придётся самим руками с картинок переписывать

😢

Выводы:
1) попробуйте PPLX.AI, вот даже сотрудники гугла говорят, что он лучше

😶
2) детали промпта важны, авторы пробовали разные штуки, и по итогу почти каждая логичная догадка давала прирост метрик
3) GPT-4 хороша в вычитке большого набора новостей и текстов. Я не пишу "очень хороша" потому, что в быстроменяющихся новостях у неё качество 60%, но вы свои метрики то оценивали?

👁
4) LLMки в поиске будут везде и для всех (если вдруг вы не заметили)