Одной из самых частых задач при разработке сайтов является так называемый полнотекстовый поиск.
Популярные РСУБД такие как MySQL и PostgreSQL уже содержат встроенные механизмы. К сожалению,
то как они реализованы оставляет желать лучшего. Простая разбивка на слова не подходит к языкам с флексиями,
таким как русский.
Тут нам на выручку приходят специализированные инструменты хорошо разбирающиеся в разных языках. Хорошо зарекомендовал себя поисковый сервер Sphinx, поддерживающий большое количество языков. Есть в Sphinx даже такая интересная возможность как фонетический поиск. Это значит, что можно искать такие слова как: «моск», «афтар», «превед» и находить «мозг», «автор», «привет».
К сожалению, за такую замечательную возможность искать (и находить) произвольный текст приходится расплачиваться гибкостью.
Традиционная схема работы с поисковым сервером такая:
Если же данные обновляются (а скорее всего так и есть), то индексы нуждаются в обновлении. И тут схема далека от идеала:
К счастью, выход есть! Sphinx предлагает такую замечательную возможность как real-time-индексы. Основное отличие RT-индексов в том, что они не требуют индексатора и позволяют добавлять, обновлять и удалять данные обращаясь непосредственно к поисковой службе.
В традиционной схеме индексатор самостоятельно обращается к базе данных. Здесь же приложение вынуждено обновлять данные. Нельзя ли совместить эти две схемы? Нельзя ли переложить эту работу на базу данных?
Оказывается можно. Современные РСУБД позволяют отслеживать изменения в данных и реагировать на них соответственно (так называемые триггеры). То есть заботу об обновлении поискового индекса можно переложить на триггеры.
К несчастью триггеры не могут устанавливать сетевых соединений и всю чёрную работу прийдётся делать в пользовательских функциях (UDF — user-defined function). В случае PostgreSQL это потребует написания разделяемой библиотеки. Можно было бы написать например на Python, но мы же хотим максимальной производительности!
Пока ничего особенного. Такой же результат мы могли получить в приложении обратившись непосредственно к поисковой службе.
Однако такая функция в SQL-сервере открывает широкие возможности, ведь её можно использовать и в более сложных запросах.
Первое и самое простое, что приходит на ум — использовать её в как источник для INNER JOIN.
Его уже можно использовать в непосредственно в приложении. Результат такого запроса можно свободно передать в ORM.
Чего не хватает? Что не реализовано?
Тут нам на выручку приходят специализированные инструменты хорошо разбирающиеся в разных языках. Хорошо зарекомендовал себя поисковый сервер Sphinx, поддерживающий большое количество языков. Есть в Sphinx даже такая интересная возможность как фонетический поиск. Это значит, что можно искать такие слова как: «моск», «афтар», «превед» и находить «мозг», «автор», «привет».
К сожалению, за такую замечательную возможность искать (и находить) произвольный текст приходится расплачиваться гибкостью.
Традиционная схема работы с поисковым сервером такая:
- программа-индексатор обращается напрямую к базе данных, сканнирует нужные таблицы и строит индексные файлы;
- запускается поисковая служба (демон);
- приложение обращается к службе с поисковым запросом и получает результат.
Если же данные обновляются (а скорее всего так и есть), то индексы нуждаются в обновлении. И тут схема далека от идеала:
- программа-индексатор строит новый индекс в промежуточных файлах;
- посылается сигнал поисковой службе, и она переключается на новые индексы;
- старые индексы удаляются.
К счастью, выход есть! Sphinx предлагает такую замечательную возможность как real-time-индексы. Основное отличие RT-индексов в том, что они не требуют индексатора и позволяют добавлять, обновлять и удалять данные обращаясь непосредственно к поисковой службе.
В традиционной схеме индексатор самостоятельно обращается к базе данных. Здесь же приложение вынуждено обновлять данные. Нельзя ли совместить эти две схемы? Нельзя ли переложить эту работу на базу данных?
Оказывается можно. Современные РСУБД позволяют отслеживать изменения в данных и реагировать на них соответственно (так называемые триггеры). То есть заботу об обновлении поискового индекса можно переложить на триггеры.
К несчастью триггеры не могут устанавливать сетевых соединений и всю чёрную работу прийдётся делать в пользовательских функциях (UDF — user-defined function). В случае PostgreSQL это потребует написания разделяемой библиотеки. Можно было бы написать например на Python, но мы же хотим максимальной производительности!
Перейдём от слов к делу!
Расширение pg-sphinx, написанное для PostgreSQL позволяет обновлять индексы непосредственно из триггеров, хранимых процедур и любых других мест, где возможен вызов функции. Например, нижеприведённый SQL-код обновляет (или вставляет, если её ещё не было) запись №3 в индексе blog_posts.
SELECT sphinx_replace('blog_posts', 3, ARRAY[
'title', 'Отчёт',
'content', 'Вот фоточки с последней поездки...'
]);
Удаление ещё проще:'title', 'Отчёт',
'content', 'Вот фоточки с последней поездки...'
]);
SELECT sphinx_delete('blog_posts', 3);
Раз уж у нас есть расширение, то почему бы не пойти дальше? Можно кроме обновления данных также делать и поисковые запросы прямо
из базы данных.
SELECT * FROM sphinx_search(
'blog_posts', /* индекс */
'рецепты майонез', /* запрос */
'author_id = 361', /* дополнительное условие */
'@relevance DESC', /* порядок сортировки */
0, /* смещение */
3, /* лимит */
NULL); /* опции */
Подобный запрос выдаст что-то вроде такого:'blog_posts', /* индекс */
'рецепты майонез', /* запрос */
'author_id = 361', /* дополнительное условие */
'@relevance DESC', /* порядок сортировки */
0, /* смещение */
3, /* лимит */
NULL); /* опции */
id | weight |
---|---|
144 | 1661 |
135 | 1644 |
130 | 1640 |
SELECT posts.*, ss.weight
FROM posts
INNER JOIN sphinx_search(
'blog_posts', /* индекс */
'рецепты майонез', /* запрос */
'author_id = 361', /* дополнительное условие */
'@relevance DESC', /* порядок сортировки */
0, /* смещение */
3, /* лимит */
NULL) /* опции */
AS ss ON ss.id = posts.id;
Такой запрос не просто ищет идентификаторы, но и выбирает сами записи.
FROM posts
INNER JOIN sphinx_search(
'blog_posts', /* индекс */
'рецепты майонез', /* запрос */
'author_id = 361', /* дополнительное условие */
'@relevance DESC', /* порядок сортировки */
0, /* смещение */
3, /* лимит */
NULL) /* опции */
AS ss ON ss.id = posts.id;
id | title | content | weight |
---|---|---|---|
144 | Бессмысленно и беспощадно | Для чего фаршировать котлеты макаронами... | 1661 |
135 | В копилку идей | Надеюсь подборочка рецептиков освежит вашу фантазию... | 1644 |
130 | Когда душа требует праздника | Хочется карнавала, бразильского... | 1640 |
Итого
Что получилось?- Избавились от запуска индексатора, нет пиков нагрузки на базу данных.
- Данные в поисковом индексе всегда актуальны.
- Приложение не заботится об обновлении индексов, этим занимается сама РСУБД.
- Поиск выполняется на стороне сервера баз данных и приложению не нужно поддерживать соединение с поисковым сервером.
- Поисковые запросы можно произвольным образом смешивать между собой и с запросами к самим данным.
Чего не хватает? Что не реализовано?
- Сделано неявное предположение, что все данные хранятся в кодировке UTF-8 и поддержка других кодировок не сделана намеренно.
- Подсветка найденых слов не реализована.
- Перенастройка подключения к поисковому серверу требует перекомпиляции.
- Не реализованы такие функции как транзакции (сейчас AUTOCOMMIT по-умолчанию) и пользовательские функции (нужно разворачивать выражения явно).
- ...
8 комментариев:
проект заброшен?
Плагин успешно работает на продакшене. Личные нужды кое-как удовлетворяет.
Добре хлопец)
Вот глупые вопросы: а плагин для RT-индексов? или наоборот не RT? или для всех?
Спасибо)
Плагин написан для RT-индексов. Не могу гарантировать, но в режиме чтения должно работать и на не-RT-индексах.
Хорошо, я уже потестил на обычных индексах - все отлично работает. Даже вставку попробую, но позже.
Вот бы еще... Короче, есть хотелка такая)
sphinx_select хорошо бы возвращал атрибуты обычного индекса. Можно просто одна третья колонка attr в виде массива атрибутов varchar[] или text[]. В запросе вместо:
SELECT id, weight() AS weight FROM ...
писать:
SELECT *, weight() AS weight FROM ...
А кастить значения массива attr уже на стороне обычного SQL:
SELECT id, attr[1]::int as foo FROM sphinx_search(...)
В идеале, конечно, возвращать setof record с раздельными колонками.
А еще, как мне показалось, лучше, передавать в sphinx_select полный текст запроса.
Короче получается целый contrib/dblink для мускуля)))
Я сам немного потыкался в ваши исходники, пока торможу, нет опыта на Си.
Поискал, вот что пишут:
The fundamental problem is in fact, so PostgreSQL arrays are not compatible with C arrays.Good google keyword is a "construct_md_array" or "construct_array"
...оказывается есть mylink на pgfoundry
mylink ф топку
пробую http://pgxn.org/dist/mysql_fdw/
Добрый день не подскажите, как с помощью вашего плагина в индекс помещать типы данных отличные от varchar? Заранее благодарен.
Отправить комментарий