Иерархические битовые индексы строятся на основе обычных битовых индексов — стандартного инструмента промышленных СУБД — и позволяют ускорить обработку запросов для больших таблиц, но для кратного повышения производительности требуется оптимизация.
Теория битовых индексов достигла уровня зрелости, позволяющего архитекторам баз данных корректно ставить разработчикам задачу на расширение стандартного функционала битовых индексов для конкретной СУБД. Несмотря на то что для этого потребуется детальное изучение нюансов задачи, результат в виде кратного повышения производительности этого стоит. 29 ноября 2018 года эта тема подробно обсуждается на конференции «Технологии управления данными 2018»
Понятие битовых индексов (bitmap index) хорошо знакомо каждому проектировщику баз данных. Впервые введенные в 1987 году, они стали стандартным способом оптимизации запросов в промышленных СУБД: Oracle, Cache и др. Однако эффективность их использования сильно зависит как от запросов, так и от особенностей базы данных. В [1] раскрываются некоторые секреты и развенчиваются устойчивые заблуждения по поводу битовых индексов, но в целом литературы на русском языке крайне мало, а между тем в зависимости от задачи можно использовать не битовые индексы в виде, предоставляемом СУБД, а их модификацию, что существенно повышает эффективность поиска, причем затраты на такую модификацию с лихвой окупаются повышением производительности обработки запросов.
Выбор стратегии использования битовых индексов определяется рядом факторов, среди них:
Количество подходов, учитывающих эти и другие факторы, сегодня очень велико. Изучение и развитие теории и практики битовых индексов идет по трем основным направлениям: сжатие (compression), кодирование (encoding) и группирование (binning).
Остановимся подробнее на третьем, наиболее важном для понимания концепции иерархических индексов. Желающим же ознакомиться с основными теоретическими достижениями по битовым индексам в их историческом развитии можно порекомендовать обзор [5].
Идея группирования достаточно проста — вместо того, чтобы создавать битовую строку для каждого отдельного значения свойства, весь диапазон значений делится на интервалы (bins), а битовая строка создается для каждого интервала. Например, битовые индексы для групп выглядят следующим образом: группа 0–11010010; группа 1–00000101; группа 2–00101000 (табл. 1). Помимо очевидного выигрыша по общему объему индексов, выигрыш в производительности достигается в том случае, если диапазон запроса по атрибуту полностью накрывает одну или несколько групп, — количество дизъюнкций битовых строк тогда сокращается до одного. Однако, помимо оптимального разбиения на группы, здесь возникает проблема, когда запрос лишь частично накрывает одну из групп и требуется дополнительная проверка для каждого значения из такой группы: удовлетворяет оно запросу или нет. Эта проблема получила название candidate checking, и для ее решения также предложено множество подходов. Но в целом, особенно с появлением хранилищ и озер данных, просто группирования, даже с всевозможными модификациями, оказалось недостаточно для достижения приемлемой производительности обработки запросов на больших базах данных. Продолжением концепции binning стали иерархические битовые индексы (Hierarchical Bitmap Indexes, HBI) — активно развивающееся сегодня направление оптимизации работы с базами данных.
Индексация времени
Время — величина, обладающая естественной иерархичностью, и существует множество единиц ее измерения, что ставит проектировщика перед задачей оптимального выбора. Представим CRM-систему с сущностью «Входящие звонки». Один из атрибутов — это время поступления звонка с точностью до секунды. Интенсивность поступления звонков в масштабах всей компании, эксплуатирующей СУБД, достаточна высока, таблица большая. Типичное приложение — генерация отчетов по звонкам с временным диапазоном в качестве фильтра (вывести информацию о звонках, поступивших в определенный период времени). Использование битовых индексов здесь означает, что для каждого значения времени, для которого зафиксирован хотя бы один звонок, создается битовая строка, возможно, состоящая из нескольких подстрок (chunks). При запросе берутся все имеющиеся индексы для значений, входящих в заданный диапазон, и путем их дизъюнкции вычисляется битовая строка, единицы которой соответствуют ID звонков, удовлетворяющих запросу и выводимых в итоговый отчет.
Зависимость трудоемкости обработки запроса от значения крупного индекса
Применение битовых индексов для промышленных объемов данных не дает приемлемой производительности — отчеты генерируются слишком медленно. Узкое место — количество индексов, подпадающих под условия фильтра запроса. При большом диапазоне запроса и высокой интенсивности занесения в базу новых записей возникает ощутимая задержка: все строки нужно загрузить в память и выполнить над ними дизъюнкцию. Какую выбрать иерархию для максимальной эффективности? Даже если предположить, что, помимо секундного (мелкого) индекса, имеется в наличии только один крупный, какому интервалу времени он должен соответствовать? Если крупный индекс выбрать слишком маленьким (скажем, две секунды), это может дать мизерный эффект (количество крупных индексов, необходимых для обслуживания запроса, может остаться практически тем же), а если слишком большим, он может оказаться бесполезен, если длина запроса в среднем меньше него. Ключевыми исходными данными для оптимизации являются две функции распределения вероятностей: занесения записей в базу и длины запроса. Зная распределения этих случайных величин, можно выбрать размер крупного индекса, минимизирующий среднее значение третьей случайной величины — общей суммы количества крупного и мелкого индексов, «накрываемых» запросом на входном потоке событий. Но, чтобы оптимизировать некоторую целевую функцию, нужно уметь ее вычислять — по двум распределениям и выбранной иерархии вычислить среднее число всех битовых индексов, необходимых для обслуживания запроса.
Решение этой задачи методами теории вероятностей предложено в [2], а представление о практическом «выхлопе» этого решения можно получить из рисунка. Новая запись в базе появлялась в среднем каждые 30 секунд (параметр экспоненциального распределения равен 0,033), а средняя длина интервала поискового запроса — 1000 секунд (параметр равен 0,001). На рисунке изображены зависимости среднего числа индексов от длины интервала для крупного индекса в случае одного крупного индекса (тонкая линия) и двух (толстая линия), где второй крупный индекс равен одному часу. Из графика видно, что минимум действительно существует, достигается примерно в диапазоне 345–350 секунд и равен 5,7 индекса для тонкой линии и 5,2 для толстой. В нулевой точке, когда отсутствует какая-либо иерархия, трудоемкость значительна, а применение HBI позволило получить прирост производительности как минимум в пять раз. Что и было подтверждено как при нагрузочном тестировании, так и в ходе промышленной эксплуатации CRM.
Иерархические индексы берут свое начало с работы [4] и были введены для выполнения запросов по атрибутам-множествам (Set-Valued Attributes), допустимых стандартом SQL3.
Рассмотрим таблицу Purchases (trans id, cust id, products), хранящую записи о покупках клиента. В таблице три поля: ID транзакции (покупки), ID клиента, купленные им продукты. Типовые запросы можно разделить на запрос подмножества (subset query), когда ищутся покупки, в состав которых входит заданный набор продуктов; запрос покрывающего множества (superset query), когда ищутся покупки, в состав которых входят покупки только из заданного множества; запрос подобия (similarity query), когда ищутся покупки, совпадающие с данным множеством с точностью до установленного порога подобия. Вот как мог бы выглядеть subset query на SQL для количества покупок с молоком и маслом:
SELECT COUNT (DISTINCT A.cust id)
FROM Purchases A, Purchases B
AND A.item = ‘milk’ AND B.item = ‘butter’;
Идея HBI состоит в том, чтобы пронумеровать все значения, которые могут быть элементами set-атрибута, и параметризовать его двумя числами: l — длина индексного узла, d — количество уровней иерархии. Тогда любое значение set-атрибута (некоторое множество) может быть представлено деревом битовых индексов. Такое представление позволяет свести выполнение запроса с условием по set-атрибуту к небольшому количеству эффективных логических операций над битовыми строками, равному d. Поясним это на примере subset-запроса. Пусть значение set-атрибута S= <2, 3, 9, 12, 13, 14, 38, 40>, l=4, d=3. Тогда это значение можно представить в виде дерева битовых индексов (табл. 2). На первом уровне находится единственный узел — корень (root node), на последнем — узлы-листья (leaf nodes), на остальных — внутренние узлы (inner nodes).
Номера позиций единиц в листьях соответствуют значениям элементов S (нумерация от единицы). Пустые узлы (empty nodes), состоящие только из нулей, — эти узлы не хранятся в виде индекса на диске. Пусть имеется запрос q= <9, 13, 40>. Используя индексное дерево для S, нужно определить, удовлетворяет множество этому запросу или нет.
Связный список узлов для множества S — K (S) = <1010,1011,0100,0110,1001,1100, 0101>, для множества q K (q) = <1010,0011,0100,1000,1000,0001>. Конъюнкция корневых узлов дает K1 (q) =1010 — сравнение корневых узлов не противоречит тому, что множество S накрывает множество q. Далее продвигаемся по узлам первого уровня множества q. Один шаг вдоль уровня множества q может соответствовать нескольким шагам вдоль того же уровня множества S (множество S может включать элементы, не входящие в q). Конъюнкция K2 (S) =1011 и K2 (q) =0011 дает K2 (q), конъюнкция K3 (S) =0100 и K3 (q) =0100 дает K3 (q) — и на втором уровне проверка пройдена успешно. Начинаем проход по узлам третьего уровня множества q. Чтобы сопоставить первому из этих узлов, равному 1000, узел множества S, первый узел третьего уровня множества S 0110 нужно пропустить: он соответствует единице, стоящей на первой позиции узла второго уровня 1011, а этой единицы на втором уровне множества q нет — узел равен 0011. Поэтому конъюнкцию узла множества q 1000 осуществляем с узлом третьего уровня 1001 множества S. Она равна 1000 — пройдено. Нетрудно видеть, что оставшиеся две проверки также проходят. Таким образом, множество S запросу q удовлетворяет. Благодаря использованию HBI отпадает необходимость в использовании join, а трудоемкость выполнения запроса с условием по set-атрибуту становится логарифмической — это округленный в большую сторону логарифм максимального значения элемента set-атрибута по основанию l.
Предложенный подход предназначался только для достаточно узкой задачи обработки именно set-атрибутов таблиц и не предполагал наличия у диапазона значений естественной иерархии, но все это инициировало дальнейшие исследования в направлении более широкого применения HBI.
Идеи, высказанные в [3], в общем-то, очевидны, но тем не менее их должен был кто-то впервые заявить. Объектом изучения этой работы являются хранилища данных (data warehouses, весьма распространенный объект, когда речь идет о битовых индексах) и присущая им организация хранения данных, когда некую таблицу сущностей (fact table) сопровождает набор таблиц, хранящих все возможные значения атрибутов этих сущностей (dimension tables). Типовым запросом к такой таблице является звездчатый запрос (star query), требующий выборки записей из таблицы сущностей при наложении некоторых условий на значения различных атрибутов. Обычным способом выполнения таких запросов является операция соединения (join) между таблицей сущностей и каждой из таблиц атрибутов. Наличие у атрибута естественной иерархии позволяет построить для него каскад битовых индексов, ускоряющих выборку данных и избавляющих от необходимости выполнять join. Рассмотрим простой пример (табл. 3).
Предположим, что в десяти записях таблицы сущностей значения атрибута «Продукт» следуют в заданном порядке, причем для этого атрибута имеется более высокий уровень иерархии — «Категории», для категории существует своя таблица (в данном случае из двух записей) и свои битовые индексы. В случае, когда диапазон запрашиваемых продуктов накрывает всю категорию, например «Ноутбуки», нет необходимости выполнять дизъюнкцию (логическое ИЛИ) для всех пяти битовых индексов этой категории — запрашиваемую выборку сразу дает битовый индекс «Ноутбуки». Более того, если в запросе требуется учесть только четыре из пяти продуктов категории, можно применить XOR (исключающее ИЛИ) над индексом по всей категории и индексом для продукта, не охваченного запросом. Это даст снижение количества дизъюнктов — битовых строк — с пяти до двух. В работе [3] этот подход был протестирован на большой базе данных аукционных продаж — быстродействие оказалось намного выше, чем в случае использования обычных битовых индексов Oracle.
Теория битовых индексов в целом и HBI в частности достигла уровня зрелости, позволяющего архитекторам баз данных делать осознанный выбор в пользу оптимального проектного решения и ставить разработчикам корректную задачу на расширение стандартного функционала битовых индексов для конкретной СУБД. Несмотря на то что для этого могут потребоваться дополнительные исследования и более детальное изучение нюансов задачи, результат в виде кратного повышения производительности этого стоит.
Илья Труб ( itrub@yandex.ru ) — ведущий инженер-программист, Исследовательский центр Samsung (Москва). Статья подготовлена на основе материалов выступления автора на конференции « Технологии управления данными 2018 ».
14 вопросов об индексах в SQL Server, которые вы стеснялись задать
Индексы — это первое, что необходимо хорошо понимать в работе SQL Server, но странным образом базовые вопросы не слишком часто задаются на форумах и получают не так уж много ответов. Роб Шелдон отвечает на эти, вызывающие смущение в профессиональных кругах, вопросы об индексах в SQL Server: одни из них мы просто стесняемся задать, а прежде чем задать другие сначала подумаем дважды.
index
индекс
heap
куча
table
таблица
view
представление
B-tree
сбалансированное дерево
clustered index
кластеризованный индекс
nonclustered index
некластеризованный индекс
composite index
составной индекс
covering index
покрывающий индекс
primary key constraint
ограничение на первичный ключ
unique constraint
ограничение на уникальность значений
query
запрос
query engine
подсистема запросов
database
база данных
database engine
подсистема хранения данных
fill factor
коэффициент заполнения индекса
surrogate primary key
суррогатный первичный ключ
query optimizer
оптимизатор запросов
index selectivity
избирательность индекса
filtered index
фильтруемый индекс
execution plan
план выполнения
Основы индексов в SQL Server
Одним из важнейших путей достижения высокой производительности SQL Server является использование индексов. Индекс ускоряет процесс запроса, предоставляя быстрый доступ к строкам данных в таблице, аналогично тому, как указатель в книге помогает вам быстро найти необходимую информацию. В этой статье я приведу краткий обзор индексов в SQL Server и объясню как они организованы в базе данных и как они помогают ускорению выполнения запросов к базе данных.
Структура индекса
Индексы создаются для столбцов таблиц и представлений. Индексы предоставляют путь для быстрого поиска данных на основе значений в этих столбцах. Например, если вы создадите индекс по первичному ключу, а затем будете искать строку с данными, используя значения первичного ключа, то SQL Server сначала найдет значение индекса, а затем использует индекс для быстрого нахождения всей строки с данными. Без индекса будет выполнен полный просмотр (сканирование) всех строк таблицы, что может оказать значительное влияние на производительность. Вы можете создать индекс на большинстве столбцов таблицы или представления. Исключением, преимущественно, являются столбцы с типами данных для хранения больших объектов (LOB), таких как image, text или varchar(max). Вы также можете создать индексы на столбцах, предназначенных для хранения данных в формате XML, но эти индексы устроены немного иначе, чем стандартные и их рассмотрение выходит за рамки данной статьи. Также в статье не рассматриваются columnstore индексы. Вместо этого я фокусируюсь на тех индексах, которые наиболее часто применяются в базах данных SQL Server. Индекс состоит из набора страниц, узлов индекса, которые организованы в виде древовидной структуры — сбалансированного дерева. Эта структура является иерархической по своей природе и начинается с корневого узла на вершине иерархии и конечных узлов, листьев, в нижней части, как показано на рисунке: Когда вы формируете запрос на индексированный столбец, подсистема запросов начинает идти сверху от корневого узла и постепенно двигается вниз через промежуточные узлы, при этом каждый слой промежуточного уровня содержит более детальную информацию о данных. Подсистема запросов продолжает двигаться по узлам индекса до тех пор, пока не достигнет нижнего уровня с листьями индекса. К примеру, если вы ищете значение 123 в индексированном столбе, то подсистема запросов сначала на корневом уровне определит страницу на первом промежуточном (intermediate) уровне. В данном случае первой страница указывает на значение от 1 до 100, а вторая от 101 до 200, таким образом подсистема запросов обратится ко второй странице этого промежуточного уровня. Далее будет выяснено, что следует обратиться к третьей странице следующего промежуточного уровня. Отсюда подсистема запросов прочитает на нижнем уровне значение самого индекса. Листья индекса могут содержать как сами данные таблицы, так и просто указатель на строки с данными в таблице, в зависимости от типа индекса: кластеризованный индекс или некластеризованный.
Кластеризованный индекс
Кластеризованный индекс хранит реальные строки данных в листьях индекса. Возвращаясь к предыдущему примеру, это означает что строка данных, связанная со значение ключа, равного 123 будет храниться в самом индексе. Важной характеристикой кластеризованного индекса является то, что все значения отсортированы в определенном порядке либо возрастания, либо убывания. Таким образом, таблица или представление может иметь только один кластеризованный индекс. В дополнение следует отметить, что данные в таблице хранятся в отсортированном виде только в случае если создан кластеризованный индекс у этой таблицы. Таблица не имеющая кластеризованного индекса называется кучей.
Некластеризованный индекс
В отличие от кластеризованного индекса, листья некластеризованного индекса содержат только те столбцы (ключевые), по которым определен данный индекс, а также содержит указатель на строки с реальными данными в таблице. Это означает, что системе подзапросов необходима дополнительная операция для обнаружения и получения требуемых данных. Содержание указателя на данные зависит от способа хранения данных: кластеризованная таблица или куча. Если указатель ссылается на кластеризованную таблицу, то он ведет к кластеризованному индексу, используя который можно найти реальные данные. Если указатель ссылается на кучу, то он ведет к конкретному идентификатору строки с данными. Некластеризованные индексы не могут быть отсортированы в отличие от кластеризованных, однако вы можете создать более одного некластеризованного индекса на таблице или представлении, вплоть до 999. Это не означает, что вы должны создавать как можно больше индексов. Индексы могут как улучшить, так и ухудшить производительность системы. В дополнение к возможности создать несколько некластеризованных индексов, вы можете также включить дополнительные столбцы (included column) в свой индекс: на листьях индекса будет храниться не только значение самих индексированных столбцов, но и значения этих не индексированных дополнительных столбцов. Этот подход позволит вам обойти некоторые ограничения, наложенные на индекс. К примеру, вы можете включить неидексируемый столбец или обойти ограничение на длину индекса (900 байт в большинстве случаев).
Типы индексов
В дополнение к тому, что индекс может быть либо кластеризованным, либо некластеризованным, возможно его дополнительно сконфигурировать как составной индекс, уникальный индекс или покрывающий индекс.
Составной индекс
Такой индекс может содержать более одного столбца. Вы можете включить до 16 столбцов в индекс, но их общая длина ограничена 900 байтами. Как кластеризованный, так и некластеризованный индексы могут быть составными.
Уникальный индекс
Покрывающий индекс
Такой индекс позволяет конкретному запросу сразу получить все необходимые данные с листьев индекса без дополнительных обращений к записям самой таблицы.
Проектирование индексов
Насколько полезны индексы могут быть, настолько аккуратно они должны быть спроектированы. Поскольку индексы могут занимать значительное дисковое пространство, вы не захотите создавать индексов больше, чем необходимо. В дополнение, индексы автоматически обновляются когда сама строка с данными обновляется, что может привести к дополнительным накладным расходам ресурсов и падению производительности. При проектирование индексов должно приниматься во внимание несколько соображений относительно базы данных и запросов к ней.
База данных
Запросы к базе данных
А теперь, собственно:
14 вопросов об индексах в SQL Server, которые вы стеснялись задать
Почему таблица не может иметь два кластеризованных индекса?
Хотите короткий ответ? Кластеризованный индекс – это и есть таблица. Когда вы создаете кластеризованный индекс у таблицы, подсистема хранения данных сортирует все строки в таблице в порядке возрастания или убывания, согласно определению индекса. Кластеризованный индекс это не отдельная сущность как другие индексы, а механизм сортировки данных в таблице и облегчения быстрого доступа к строкам с данными. Представим, что у вас есть таблица, содержащая историю операций по продажам. Таблица Sales включает в себя такую информация как идентификатор заказа, позицию товара в заказе, номер товара, количество товара, номер и дату заказа и т.д. Вы создаёте кластеризованный индекс по столбцам OrderID и LineID, с сортировкой в порядке возрастания, как показано в следующем T-SQL коде:
Когда вы запустите этот скрипт все строки в таблице будут физически отсортированы сначала по столбцу OrderID, а затем по LineID, но сами данные останутся в единственном логическом блоке, в таблице. По этой причине вы не можете создать два кластеризованных индекса. Может быть только одна таблица с одними данными и эта таблица может быть отсортирована только один раз в определенном порядке.
Если кластеризованная таблица даёт множество преимуществ, то зачем использовать кучу?
Вы правы. Кластеризованые таблицы отличны и большинство ваших запросов будут лучше выполнятся к таблицам, имеющим кластеризованный индекс. Но в некоторых случаях вы возможно захотите оставить таблицы в их естественном первозданном состоянии, т.е. в виде кучи, и создать лишь некластеризованные индексы для поддержания работоспособности ваших запросов. Куча, как вы помните, хранит данные в случайном порядке. Обычно подсистема хранения данных добавляет в таблицу данные в той последовательности в которой они вставляются, однако подсистема также любит перемещать строки с целью более эффективного хранения. В результате у вас нет ни единого шанса предсказать в каком порядке будут храниться данные. Если подсистема запросов должна найти данные без преимуществ некластеризованного индекса, то она сделает полное сканирование таблицы для нахождения нужных ей строк. На очень маленьких таблицах это обычно не проблема, но как только куча растет в своих размерах производительность быстро падает. Конечно, некластеризованный индекс может помочь, используя указатель на файл, страницу и строку где хранятся необходимые данные – обычно это намного лучшая альтернатива сканированию таблицы. Но даже в этом случае трудно сравнивать с преимуществами кластеризованного индекса при рассмотрении производительности запросов. Однако куча может помочь улучшить производительность в определенных ситуациях. Рассмотрим таблицу с большим количеством вставок, но редкими обновлениями или удалением данных. К примеру, таблица, хранящая лог, преимущественно используется для вставки значений до тех пор пока не будет архивирована. В куче вы не увидите разбиением страниц и фрагментацию данных, как это случается с кластеризованным индексом, потому что строки просто добавляются в конец кучи. Слишком большое разделение страниц может иметь значительное влияние на производительность и в не самом хорошем смысле. В общем, куча позволяет производить вставку данных относительно безболезненно и вам не надо будет бороться с накладными расходами на хранение и обслуживание, как это бывает в случае кластеризованного индекса. Но отсутствие обновления и удаления данных не должны рассматриваться как единственная причина. Способ выборки данных также является важным фактором. К примеру, вы не должны использовать кучу, если часто выполняете запросы диапазонов данных или запрашиваемые данные часто должны быть сортированы или сгруппированы. Всё это означает, что вы должны рассматривать возможность использования кучи только когда работаете с особо-маленькими таблицами или всё ваше взаимодействие с таблицей ограничено вставкой данных и ваши запросы чрезвычайно просты (и вы все-равно используете некластеризованные индексы). В противном случае держитесь хорошо спроектированного кластеризованного индекса, к примеру определенного на простом возрастающем ключевом поле, как широко применяемый столбец с IDENTITY.
Как изменить установленное по умолчанию значение коэффициента заполнения индекса?
Изменение установленного по умолчанию коэффициента заполнения индекса это одно дело. Понимание того как установленный по умолчанию коэффициент работает это другое. Но сначала пару шагов назад. Коэффициент заполнения индекса определяет количество пространства на странице для хранения индекса на нижнем уровне (уровень листьев) перед тем как начать заполнять новую страницу. К примеру, если коэффициент выставлен в значение 90, то при росте индекс займет на странице 90%, а затем перейдет на следующую страницу. По умолчанию, значение коэффициента заполнения индекса в SQL Server равно 0, что равнозначно значению 100. В результате все новые индексы автоматически наследуют эту настройки, если вы специально в коде не укажете отличное от стандартного для системы значения или измените поведение по умолчанию. Вы можете воспользоваться SQL Server Management Studio для корректировки установленного по умолчанию значения или запустить системную сохраненную процедуру sp_configure. К примеру, следующий набор T-SQL команд устанавливает значение коэффициента равное 90 (предварительно необходимо переключится в режим продвинутых настроек):
После изменения значения коэффициента заполнения индекса необходимо перезагрузить сервис SQL Server. Теперь вы можете проверить установленное значение, запустив процедуру sp_configure без указанного второго аргумента:
Данная команда должна вернуть значение равное 90. В результате все вновь создаваемые индексы будут использовать это значение. Вы можете проверить это, создав индекс и запросить значение коэффициента заполнения:
В данном примере мы создали некластеризованный индекс в таблице Person в базе данных AdventureWorks2012. После создания индекса мы можем получить значение коэффициента заполнения из системной таблиц sys.indexes. Запрос должен вернуть 90. Однако, представим, что мы удалили индекс и снова создали его, но теперь указали конкретное значение коэффициента заполнения:
В этот раз мы добавили инструкцию WITH и опцию fillfactor для нашей операции создания индекса CREATE INDEX и указали значение 80. Оператор SELECT теперь возвращает соответствующее значение. До сих пор всё было довольно-таки прямолинейно. Где вы реально можете погореть во всём этом процессе, так это когда вы создаёте индекс, использующий значение коэффициента по умолчанию, подразумевая, что вы знаете это значение. К примеру, кто-то неумело ковыряется в настройках сервера и он настолько упорот, что ставит значение коэффициента заполнения индекса равное 20. Тем временем вы продолжаете создавать индексы, предполагая значение по умолчанию равное 0. К сожалению, у вас нет способа узнать значение коэффициента до тех пор как вы не создадите индекс, а затем проверите значение, как мы делали в наших примерах. В противном случае, вам придётся ждать момента когда производительность запросов настолько упадёт, что вы начнёте что-то подозревать. Другая проблема о которой вам стоит помнить это перестроение индексов. Как и при создании индекса вы можете конкретизировать значение коэффициента заполнения индекса, когда его перестраиваете. Однако, в отличие от команды создания индекса, перестройка не использует серверные настройки по умолчанию, несмотря на то что так может показаться. Даже больше, если вы конкретно не укажете значение коэффициента заполнения индекса, то SQL Server будет использовать то значение коэффициента, с которым этот индекс существовал до его перестройки. К примеру, следующая операция ALTER INDEX перестраивает только что созданный нами индекс:
Когда мы проверим значение коэффициента заполнения мы получим значение равное 80, потому что именно его мы указали при последнем создании индекса. Значение по умолчанию не учитывается. Как вы видите изменить значение коэффициента заполнения индекса не такое уж сложно дело. Намного сложнее знать текущее значение и понимать когда оно применяется. Если вы всегда конкретно указывается коэффициент при создании и перестройки индексов, то вы всегда знаете конкретный результат. Разве что вам приходится заботиться о том, чтобы кто-то другой снова не напортачил в настройках сервера, вызвав перестройку всех индексов со смехотворно низким значением коэффициента заполнения индекса.
Можно ли создать кластеризованный индекс на столбце, содержащем дубликаты?
И да, и нет. Да вы можете создать кластеризованный индекс на ключевом столбце, содержащем дубликаты значений. Нет, значение ключевого столбца не смогут остаться в состоянии не уникальности. Позвольте объяснить. Если вы создаёте неуникальный кластерный индекс (non-unique clustered index) на столбце, то подсистема хранения данных добавляет к дублирующему значению целочисленное значение (uniquifier), чтобы удостовериться в уникальности и, соответственно, обеспечить возможность идентифицировать каждую строку в кластеризованной таблице. К примеру, вы можете решить создать в таблице с данными о клиентах кластеризованный индекс по столбцу LastName, хранящим фамилию. Столбец содержит такие значения как Franklin, Hancock, Washington и Smith. Затем вы вставляете значения Adams, Hancock, Smith и снова Smith. Но значение ключевого столбца обязательно должны быть уникальны, поэтому подсистема хранения данных изменит значение дубликатов таким образом, что они будут выглядеть примерно так: Adams, Franklin, Hancock, Hancock1234, Washington, Smith, Smith4567 и Smith5678. На первый взгляд такой подход кажется нормальным, но целочисленное значение увеличивает размер ключа, что может стать проблемой при большом количестве дубликатов, а эти значения станут основой некластеризованного индекса или ссылкой внешнего ключа. По этим причинам вы всегда должны стараться создавать уникальный кластеризованный (unique clustered indexes) при любой возможности. Если это невозможно, то по крайней мере постарайтесь использовать столбцы с очень высоким содержание уникальных значений.
Как хранится таблица, если не был создан кластеризованный индекс?
SQL Server поддерживает два типа таблиц: кластеризованные таблицы, имеющие кластеризованный индекс и таблицы-кучи или просто кучи. В отличие от кластеризованных таблиц данные в куче не сортированы никоим образом. По сути это и есть нагромождение (куча) данных. Если вы добавите строку к такой таблице, то подсистема хранения данных просто добавит её к концу страницы. Когда страница заполнится данными, то они будут добавлены на новую страницу. В большинстве случаев, вы захотите создать кластеризованный индекс на таблице, чтобы получить преимущества от возможности сортировки и ускорения запросов (попробуйте представить себе найти телефонный номер в адресной книге, не отсортированной по какому-либо принципу). Однако, если вы решите не создавать кластеризованный индекс, то вы по-прежнему можете создать у кучи некластеризованный индекс. В этом случае каждая строка индекса будет иметь указатель на строку кучи. Указатель включает в себя идентификатор файла, номер страницы и номер строки с данными.
Какая взаимосвязь между ограничениями на уникальность значения и первичным ключом с индексами таблицы?
Первичный ключ и и ограничение уникальности обеспечивают, что значения в столбце будут уникальны. Вы можете создать только один первичный ключ у таблицы и он не может содержать значения NULL. Вы можете создать у таблицы несколько ограничений на уникальность значения и каждый из них может иметь единственную запись с NULL. Когда вы создаете первичный ключ, подсистема хранения данных так же создает уникальный кластеризованный индекс, в случае если уже кластеризованный индекс не был создан. Однако, вы можете переопределить установленное по умолчанию поведение и тогда будет создан некластеризованный индекс. Если кластеризованный индекс существует когда вы создаёте первичный ключ, то будет создан уникальный некластеризованный индекс. Когда вы создаете ограничение на уникальность, подсистема хранения данных создает уникальный некластеризованный индекс. Но вы можете указать создание уникального кластеризованного индекса, если он не был создан ранее. В общем случае, ограничение на уникальность значение и уникальный индекс это одно и то же.
Почему в SQL Server кластеризованные и некластеризованные индексы называются сбалансированным деревом?
Базовые индексы в SQL Server, кластеризованные или некластеризованные, распространяются по наборам страниц – узлам индекса. Эти страницы организованы в виде определенной иерархии с древовидной структурой, называемой сбалансированным деревом. На верхнем уровне находится корневой узел, на нижнем, конечные узлы листьев, с промежуточными узлами между верхним и нижним уровнями, как показано на рисунке: Корневой узел предоставляет главную точку входа для запросов, пытающихся получить данные через индекс. Начиная с этого узла, подсистема запросов инициирует переход по иерархической структуре вниз к подходящему конечному узлу, содержащему данные. К примеру, представим, что поступил запрос на выборку строк, содержащих значение ключа равное 82. Подсистема запросов начинает работу с корневого узла, который отсылает к подходящему промежуточному узлу, в нашем случае 1-100. От промежуточного узла 1-100 происходит переход к узлу 51-100, а оттуда к конечному узлу 76-100. Если это кластеризованный индекс, то на листе узла содержится данные строки, ассоциированной с ключом равным 82. Если же это некластеризованный индекс, то лист индекса содержит указатель на кластеризованную таблицу или конкретную строку в куче.
Как вообще индекс может улучшить производительность запросов, если приходится переходить по всем этим индексным узлам?
Во-первых, индексы не всегда улучшают производительность. Слишком много неверно созданных индексов превращают систему в болото и понижают производительность запросов. Правильнее сказать, что если индексы были аккуратно применены, то они могут обеспечить значительный прирост в производительности. Подумайте об огромной книге, посвященной настройке производительности SQL Server (бумажной, не об электронном варианте). Представьте, что вы хотите найти информацию о конфигурировании Регулятора ресурсов. Вы можете водить пальцем постранично через всю книгу или открыть содержание и узнать точный номер страницы с искомой информацией (при условии, что книга правильно проиндексирована и в содержании верные указатели). Безусловно, это сэкономит вам значительное время, не смотря на то, что вам надо сначала обратиться к совершенно другой структуре (индексу), чтобы получить необходимую вам информацию из первичной структуры (книги). Как и книжный указатель, указатель в SQL Server позволяет вам выполнять точные запросы к нужным данным вместо полного сканирования всех данных, содержащихся в таблице. Для маленьких таблиц полное сканирование обычно не проблема, но большие таблицы занимают много страниц с данными, что в результате может привезти с значительному времени выполнения запроса, если не существует индекса, позволяющего подсистеме запросов сразу получить правильное месторасположение данных. Представьте, что вы заблудились на многоуровневой дорожной развязке перед крупным мегаполисом без карты и вы поймёте идею.
Если индексы настолько замечательны, то почему бы просто не создать их на каждый столбец?
Ни одно доброе дело не должно оставаться безнаказанным. По крайней мере, именно так и обстоит дело с индексами. Разумеется, индексы отлично себя показывают, пока вы выполняете запросы на выборку данных оператором SELECT, но как только начинается частый вызов операторов INSERT, UPDATE и DELETE, так пейзаж очень быстро меняется. Когда вы инициируется запрос данных оператором SELECT, подсистема запросов находит индекс, продвигается по его древовидной структуре и обнаруживает искомые данные. Что может быть проще? Но все меняется, если вы инициируете оператор изменения, такой как UPDATE. Да, для первой части оператора подсистема запросов может снова использовать индекс для обнаружения модифицируемой строки – это хорошие новости. И если происходит простое изменение данных в строке, не затрагивающее изменение ключевых столбцов, то процесс изменения пройдет вполне безболезненно. Но что, если изменение приведет к разделению страниц, содержащих данные, или будет изменено значение ключевого столбца, приводящее к переносу его в другой индексный узел – это приведёт к тому, что индексу может потребоваться реорганизация, затрагивающая все связанные индексы и операции, в результате будет повсеместное падение производительности. Аналогичные процессы происходят при вызове оператора DELETE. Индекс может помочь найти месторасположение удаляемых данных, но само по себе удаление данных может привести к перестановке страниц. Касаемо оператора INSERT, главного врага всех индексов: вы начинаете добавлять большое количество данных, что приводит к изменению индексов и их реорганизации и все страдают. Так что учитывайте виды запросов к вашей базе данных при размышлениях какой тип индексов и в каком количестве стоит создавать. Больше не значит лучше. Перед тем как добавить новый индекс на таблицу просчитайте стоимость не только базовых запросов, но и объем занимаемого дискового пространства, стоимость поддержания работоспособности и индексов, что может привести к эффекту домино для других операций. Ваша стратегия проектирования индексов один из важнейших аспектов внедрения и должна включать в рассмотрение множество соображений: от размера индекса, количества уникальных значений, до типа поддерживаемых индексом запросов.
Обязательно ли создавать кластеризованный индекс на столбце с первичным ключом?
Вы можете создать кластеризованный индекс на любой столбце, соответствующем необходимым условиям. Это верно, что кластеризованный индекс и ограничение первичного ключа созданы друг для друга и их брак заключен на небесах, так что усвойте факт, что когда вы создаете первичный ключ, тогда же будет автоматически создан кластеризованный индекс, если он не был создан ранее. Тем не менее, вы можете решить, что кластеризованный индекс будет лучше работать в другом месте, и часто ваше решение будет вполне оправданным. Главная цель кластеризованного индекса это сортировка всех строк к вашей таблице на основе ключевого столбца, указанного при определении индекса. Это обеспечивает быстрый поиск и легкий доступ к данным таблицы. Первичный ключ таблицы может быть хорошим выбором, потому что он однозначно идентифицирует каждую строку в таблицы без необходимости добавлять дополнительные данные. В некоторых случаях лучшим выбором будет суррогатный первичный ключ, обладающий не только признаком уникальности, но и малым размером, а значения которого увеличиваются последовательно, что делает некластеризованные индексы, основанные на этом значении более эффективными. Оптимизатор запросов также любит такое сочетание кластеризованого индекса и первичного ключа, потому что соединение таблиц происходит быстрее, чем при соединении другим способом, не использующим первичный ключ и ассоциированный с ним кластеризованный индекс. Как я и говорил это брак, заключенный на небесах. В конце стоит, однако, отметить, что при создании кластеризованного индекса необходимо принять во внимание несколько аспектов: как много некластеризованных индексов будет основываться на нём, как часто будут изменяться значение ключевого столбца индекса и на сколько ни большие. Когда значение в столбцах кластеризованого индекса изменятся или индекс не будет обеспечивать должной производительности, тогда все другие индексы таблицы могут быть задеты. Кластеризованный индекс должен быть основан на наиболее устойчивом столбце, значения которого увеличиваются в определенном порядке, но не изменяются в случайном. Индекс должен поддерживать запросы к наиболее часто используемым данным таблицы, таким образом запросы получают все преимущества того, что данные сортированы и доступны на корневых узлах, листьях индекса. Если первичный ключ соответствует этому сценарию, то используйте его. Если же нет, то выберите другой набор столбцов.
А что если проиндексировать представление, то это по-прежнему будет представление?
Представление – это виртуальная таблица, формирующая данные из одной или нескольких таблиц. По сути, это именованный запрос, который получает данные из нижележащих таблиц, когда вы вызываете запрос к этому представлению. Вы можете улучшить производительность запросов, создав кластеризованных индекс и некластеризованные индексы у этого представления, аналогично как вы создаете индексы у таблицы, но основной нюанс состоит в том, что первоначально создается кластеризованный индекс, а затем вы можете создать некластеризованный. Когда создается индексированное представление (материализованное представление), тогда само определение представления остается отдельной сущностью. Это, в конце концов, всего лишь жестко прописанный оператор SELECT, хранящийся в базе данных. А вот индекс совсем другая история. Когда вы создаете кластеризованный или некластеризованный индекс у предастваления, то данные физически сохраняются на диск, аналогично обычному индексу. В дополнение, когда в нижележащих таблицах изменяются данные, то индекс представления автоматически изменяется (это означает, что вы можете захотеть избежать индексирования представлений тех таблиц, в которых происходят частые изменения). В любом случае, представление остается представлением — взглядом на таблицы, но именно выполненном в данный момент, с индексами ему соответствующими. Перед тем как вы сможете создать индекс у представления, оно должно соответствовать нескольким ограничениям. К примеру, представление может ссылаться только на базовые таблицы, но не другие представления и эти таблицы должны находиться в той же самой базе данных. На самом деле там множество других ограничений, так что не забудьте обратиться к документации по SQL Server за всеми грязными подробностями.
Зачем использовать покрывающий индекс взамен составного индекса?
Во-первых, давайте убедимся, что мы понимаем различие между ними. Составной индекс это просто обычный индекс, в который включено больше одного столбца. Несколько ключевых столбцов может использоваться для обеспечения уникальности каждой строки таблицы, также возможен вариант, когда первичный ключ состоит из нескольких столбцов, обеспечивающих его уникальность, или вы пытаетесь оптимизировать выполнение часто вызываемых запросов к нескольким столбцам. В общем, однако, чем больше ключевых столбцов содержит индекс, тем менее эффективна работа этого индекса, а значит составные индексы стоит использовать разумно. Как было сказано, запрос может извлечь огромную выгоду, если все необходимые данные сразу расположены на листьях индекса, как и сам индекс. Это не проблема для кластеризованного индекса, т.к. все данные уже там (вот почему так важно хорошенько подумать когда вы создаете кластеризованный индекс). Но некластеризованный индекс на листьях содержит только ключевые столбцы. Для доступа ко всем остальным данным оптимизатору запросов необходимы дополнительные шаги, что может вызвать значительные дополнительные накладные расходы для выполнения ваших запросов. Вот где покрывающий индекс спешит на помощь. Когда вы определяете некластеризованный индекс, то можете указать дополнительные столбцы к вашим ключевым. К примеру, представим, что ваше приложение часто запрашивает данные столбцов OrderID и OrderDate в таблице Sales:
Вы можете создать составной некластеризованный индекс на обоих столбцах, но столбец OrderDate только добавит накладных расходов на обслуживание индекса, но так и не сможет служить особо полезным ключевым столбцом. Лучшее решение будет это создание покрывающего индекса с ключевым столбцом OrderID и дополнительно включенным столбцом OrderDate:
При этом вы избегаете недостатков, возникающих при индексации излишних столбцов, в то же время сохраняете преимущества хранения данных на листьях при выполнении запросов. Включенный столбец не является частью ключа, но данные хранятся именно на конечном узле, листе индекса. Это может улучшить производительность выполнения запроса без каких либо дополнительных расходов. К тому же, на столбцы, включенные в покрывающий индекс, накладывается меньше ограничений, нежели на ключевые столбцы индекса.
Имеет ли значение количество дубликатов в ключевом столбце?
Когда вы создаете индекс, вы обязаны постараться уменьшить количество дубликатов в ваших ключевых столбцах. Или более точно: стараться держать коэффициент повторяющихся значений настолько низким, насколько это возможно. Если вы работаете с составным индексом, то дублирование относится ко всем ключевым столбцам в целом. Отдельный столбец может содержать множество повторяющихся значений, но повторения среди всех столбцов индекса должно быть минимальным. К примеру, вы создаете составной некластеризованный индекс на столбцах FirstName и LastName, вы можете иметь множество значений равных John и множество Doe, но вы хотите иметь как можно меньше значений John Doe, или лучше только одно значение John Doe. Коэффициент уникальности значений ключевого столбца называется избирательностью индекса. Чем больше уникальных значений, тем выше избирательность: уникальный индекс обладает наибольшей возможной избирательностью. Подсистема запросов очень любит столбцы с высоким значением избирательности, особенно если эти столбцы участвуют в условиях выборки WHERE ваших наиболее часто выполняемых запросов. Чем выше избирательность индекса, тем быстрее подсистема запросов может уменьшить размер результирующего набора данных. Обратной стороной, разумеется, является то, что столбцы с относительно небольшим количеством уникальных значений редко будут хорошими кандидатами на индексирование.
Можно ли создать некластеризованный индекс только для определенного подмножества данных ключевого столбца?
По умолчанию, некластеризованный индекс содержит по одной строке для каждой строки таблицы. Конечно, вы можете сказать то же самое относительно кластеризованного индекса, принимая в расчет, что такой индекс это и есть таблица. Но что касается некластеризованного индекса, то отношение «один к одному» важный концепт, потому что, начиная с версии SQL Server 2008, у вас есть возможность создать фильтруемый индекс, который ограничивает включенные в него строки. Фильтруемый индекс может улучшить производительность выполнения запросов, т.к. он меньше по размеру и содержит отфильтрованную, более аккуратную, статистику, чем вся табличная — это приводит к созданию улучшенных планов выполнения. Фильтруемый индекс также требует меньше места для хранения и меньших затрат на обслуживание. Индекс обновляется только когда изменяются подходящие под фильтр данные. В дополнение, фильтруемый индекс легко создать. В операторе CREATE INDEX просто необходимо указать в WHERE условие фильтрации. К примеру, вы можете отфильтровать из индекса все строки, содержащие NULL, как показано в коде:
Мы можем, фактически, отфильтровать любые данные, которые не важны в критических запросах. Но будьте внимательны, т.к. SQL Server накладывает несколько ограничений на фильтруемые индексы, такие, как невозможность создать фильтруемый индекс у представления, так что внимательно читайте документацию. Также, может случиться, что вы можно достичь подобных результатов созданием индексированного представления. Однако, фильтруемый индекс имеет несколько преимуществ, таких как возможность уменьшить стоимость обслуживания и улучшить качество ваших планов выполнения. Фильтруемые индексы также допускают перестройку в онлайн-режиме. Попробуйте это сделать с индексируемым представлением.
Целью появления данного перевода на страницах Хабрахабра было рассказать или напомнить вам о блоге SimpleTalk от RedGate. В нём публикуется множество занимательных и интересных записей. Я не связан ни с продуктами фирмы RedGate, ни с их продажей.
.jpg "Otkrytye sistemy. SUBD BLOC OS03 2018 36 (9080)")
.jpg "Otkrytye sistemy. SUBD BLOC OS03 2018 37 (5096)")
.jpg "Otkrytye sistemy. SUBD BLOC OS03 2018 38 1 (7603)")
.jpg "Otkrytye sistemy. SUBD BLOC OS03 2018 38 2 (1409)")
