Multi Head Attention

Multi Head Attention (многозадачное или многоголовое внимание) — это главный двигатель современных нейронных сетей.

Именно этот блок лежит в основе архитектуры Transformer, которая сегодня доминирует во всем мире искусственного интеллекта.

От последовательностей к параллелизму

До появления механизма внимания в 2017 году стандартом для работы с последовательностями (текстом, звуком) были рекуррентные нейронные сети (RNN, LSTM, GRU). Их главная проблема заключалась в узком горлышке памяти. Чтобы понять смысл длинного предложения, модели приходилось последовательно протаскивать информацию от первого слова к последнему. К концу абзаца контекст первых слов часто терялся, а обучение было крайне медленным из-за невозможности распараллелить вычисления.

Простой механизм Self-Attention решил проблему потери контекста: он позволил каждому слову в предложении напрямую смотреть на любое другое слово, независимо от их расстояния. Но у него осталась другая слабость — модель смотрела на текст слишком однобоко.

Что такое Multi-Head Attention

Представьте, что вы читаете сложное предложение: Несмотря на дождь, который лил всю ночь, старый почтальон Иван быстро доставил хрупкую посылку своему единственному клиенту.

Чтобы полностью понять это предложение, человеческому мозгу нужно одновременно удерживать в голове несколько связей:

1. Кто выполняет действие? (Иван -> доставил).
2. Какое прилагательное относится к посылке, а какое к ночи? (Хрупкую к посылке, несмотря на то что ночь стоит ближе в тексте).
3. В каких погодных условиях все происходило? (Дождь -> всю ночь).
4. Насколько срочной была доставка? (Единственный клиент может указывать на высокую важность).

Один стандартный вектор внимания вынужден усреднять эти связи. Он пытается найти один фокус для каждого слова. Multi-Head Attention решает эту проблему, запуская сразу несколько независимых механизмов внимания параллельно. Слово доставил теперь смотрит на остальную часть предложения не одной парой глаз, а восемью или шестнадцатью (количество голов/хэдов задается архитектором модели).

Математика процесса

Внутри каждой головы происходит операция скалярного произведения внимания (Scaled Dot-Product Attention). Для этого входной вектор каждого слова ($X$) проходит через три разные линейные матрицы проекции (умножается на обучаемые веса $W$), превращаясь в три вектора:

1. Query (Запрос): Что я ищу? Актуальный запрос текущего слова о контексте.
2. Key (Ключ): Как меня можно описать? Характеристика всех остальных слов в предложении.
3. Value (Значение): Какую конкретную информацию я несу? Полезная нагрузка слова.

Процесс выглядит следующим образом:

1. Вычисляется совместимость (скалярное произведение) Запроса текущего слова со всеми Ключами других слов. Результат показывает, насколько сильно каждое другое слово должно влиять на текущее.
2. Полученные оценки проходят через функцию Softmax. Они превращаются в числа от 0 до 1, сумма которых равна 1. Это становится набором весов внимания.
3. Эти веса умножаются на Значения (Value) всех слов. Слова с высоким весом вносят большой вклад в итоговый результат, слова с низким — почти игнорируются.
4. Формула операции: $Attention(Q, K, V) = softmax(\frac{QK^T}{\sqrt{d_k}})V$, где $d_k$​ — размерность вектора ключа (масштабирование необходимо для стабильности градиентов).

В Multi-Head Attention эта процедура повторяется $h$ раз (где $h$ — количество голов). Перед подачей данных в головы одна большая входная матрица разделяется на $h$ маленьких частей по глубине (размерности), чтобы каждая голова работала с уменьшенным, но полным фрагментом информации. Каждая голова имеет свои собственные, независимые матрицы весов $W^Q, W^K, W^V$. Таким образом, разные головы учатся искать принципиально разные типы зависимостей.

Почему это работает

После того как каждая голова выполнила свою работу, их результаты (векторы) склеиваются обратно в один длинный вектор и пропускаются через финальную линейную проекцию.

Эмпирические исследования показывают, что при обучении разные головы действительно берут на себя разные роли:

• Синтаксическая голова: фокусируется на ближайших соседях слова, выстраивая дерево зависимостей (подлежащее — сказуемое — дополнение). Она связывает Иван и доставил.
• Позиционная голова: следит за порядком слов и расстоянием между ними, помогая модели понимать структуру фразы.
• Семантическая (копирующая) голова: копирует важные признаки от далеких, но ключевых слов (например, переносит род или число от существительного к глаголу через всю длину предложения).
• Редкая (анафорическая) голова: ищет разрешения местоимений (понимает, что он в следующем предложении относится к почтальону).

Без многоголового подхода модели пришлось бы выбирать: либо правильно связать подлежащее со сказуемым, либо учесть дальнее прилагательное. Multi-Head Attention позволяет делать и то, и другое одновременно.

Роль Layer Normalization и остаточных связей

Важно отметить, что сам по себе блок Multi-Head Attention составляет лишь половину вычислительного блока в трансформере. Сразу после него следуют два критически важных элемента:

1. Add & Norm (Остаточная связь + Нормализация слоя): Выход внимания суммируется с исходным входом блока (остаточная связь) и нормализуется. Это предотвращает затухание градиентов при обучении очень глубоких сетей.
2. Feed Forward Network (FFN): Двухслойная полносвязная сеть, которая применяется к каждой позиции отдельно и независимо. Она добавляет нелинейность и позволяет модели выполнять сложные преобразования над уже собранным контекстом.

Преимущества перед простыми архитектурами

• Параллелизация. В отличие от RNN, которые считают слова по очереди, Multi-Head Attention обрабатывает все слова в предложении одновременно. Это позволило использовать для обучения гигантские массивы данных и современные ускорители (GPU/TPU).
• Глобальная рецептивное поле. Каждое слово на любом этапе сети видит весь контекст целиком, а не только то, что было сказано пять слов назад.
• Выразительность. Модель способна кодировать множество типов отношений (грамматических, логических, причинно-следственных) в рамках одного слоя.

Применение вне текста

Хотя механизм был разработан для обработки естественного языка (NLP), он успешно мигрировал в другие области ИИ:

• Компьютерное зрение (Vision Transformers — ViT). Изображение разбивается на сетку квадратных патчей (например, 16×16 пикселей). Каждый патч рассматривается как слово. Multi-Head Attention учится находить визуальные паттерны: одна голова ищет границы объектов, вторая — текстуры, третья — отношения между частями тела человека на фото.
• Биоинформатика. Алгоритм AlphaFold использует трансформеры для предсказания сворачивания белков. Аминокислоты — это слова, а многоголовое внимание находит пространственные связи между удаленными участками цепи, определяя форму молекулы.
• Генерация звука и музыки. Звуковые волны квантуются в токены, а внимание помогает моделировать ритм, гармонию и длительные музыкальные структуры.

Недостатки и вычислительная сложность

Главная цена такой мощности — квадратичная вычислительная сложность относительно длины последовательности ($O(n^2 \cdot d)$. Если в предложении $n$ слов, то каждый слой внимания должен построить матрицу взаимодействий размером $n \times n$. При обработке целых книг или видео длиной в тысячи кадров это требует колоссальных объемов видеопамяти.

Для решения этой проблемы исследователи разрабатывают эффективные варианты внимания: Sparse Attention (работает только с локальными окнами), Linear Attention (приближенное вычисление) и Flash Attention (оптимизированная работа с памятью GPU).

Заключение

Multi-Head Attention — это архитектурный ответ на многообразие мира. Вместо того чтобы заставлять одну универсальную математическую функцию искать единственный правильный ответ, разработчики дали ей возможность собрать консилиум. Разные головы анализируют данные под разными углами, ищут синтаксис, семантику и логику параллельно, а затем объединяют свои выводы. Этот подход превратил грубые статистические машины начала 2010-х годов в гибкие системы, способные демонстрировать зачаточное понимание структуры человеческого знания.