1 место FINNEXT 2025Победитель «ИИ в Финтехе» ГазпромбанкаФиналист Startech Awards 2026Финалист E-PLUS 2024

Продвинутое A/B‑тестирование

Многорукий бандит, четыре статистических метода остановки, сотни условий таргетинга, десятки типов изменений на сайте и оптимизация по моделируемой конверсии. Метрика, Директ, Calltouch, UIS, Smartis, Rick.ai, VK Ads, Mindbox и Roistat собраны в одной системе.

Нам доверяют

> 60 млрдAPI вызовов в месяц
300+проектов
7стран присутствия

Сложные условия срабатывания: именно та аудитория, которая нужна

Не «запустили на 100% трафика и посмотрели». Тест может срабатывать только на мобильных из Москвы, пришедших по конкретному UTM, с корзиной дороже 5 000 ₽, кто уже посмотрел корзину, но ещё не дошёл до оплаты. Сотни полей, вложенные группы И/ИЛИ, отрицания: любые гипотезы выкатываются прицельно, без шума на остальной трафик.

Сессия и трафикИсточник трафика · UTM Source · UTM Campaign · UTM Medium · UTM Content · Реферер · Домен реферера
Устройство и геоУстройство · Браузер и версия · ОС и версия · Страна · Регион · Город по GeoIP
Страница и корзинаURL страницы · Заголовок · Параметры страницы · Сумма корзины · Товаров в корзине
История пользователяВремя на сайте · Номер визита · Источник прошлого визита · Свои параметры · Цели, достигнутые ранее
ПоведениеЦели текущей сессии · Цели прошлых сессий · Страницы текущей сессии · Страницы прошлых сессий
АудиторииСегмент Метрики («вернувшиеся за 30 дней», «брошенная корзина») · Параметр посетителя · UTM последнего касания · Список ID клиентов
Операторы на человеческом:равно · не равно · содержит · не содержит · начинается с · заканчивается на · совпадает по шаблону · больше · меньше · в диапазоне · входит в список · не входит в список · заполнено · пусто · да / нет
Пример: тестируем новую цену только на «горячих» мобильных пользователях
И Устройство равно «мобильное»
И Город входит в список «Москва», «СПб»
И Источник трафика входит в список «Яндекс», «VK»
И Сумма корзины больше 5 000 ₽
И Цели текущей сессии содержит «Просмотр корзины»
И НЕ Цели прошлых сессий содержит «Покупка»

Слоты трафика: тесты не воюют между собой

Одновременно идёт пять тестов? Десять? Sales Ninja разруливает пересечения через систему слотов: вы просто говорите «эти два теста между собой никогда», и статистика остаётся чистой.

Тест: новая цена
Тест: онбординг
Тест: чекаут
Свободно
Свободно

Три теста в разных слотах: каждый получает свои 20% трафика, и один посетитель никогда не увидит два теста сразу. Даже если оба меняют одну и ту же кнопку, выборки не пересекаются.

Рискованная гипотеза
Свободно
Свободно
Свободно
Свободно

Смелая гипотеза выкатывается одной кнопкой на 1 слот из 5: её видят только 20% посетителей, остальные 80% идут мимо. Никаких ручных процентов и формул.

Тест: цена + Тест: онбординг + Тест: чекаут · один общий слот

Тесты затрагивают разные части сайта и точно не конфликтуют? Кладёте их в один общий слот, и каждый получает все 100% трафика. Чистоту статистики слоты гарантируют сами.

Десятки типов изменений: тестируйте всё, не только текст кнопки

Каждый вариант A/B-теста состоит из упорядоченного списка шагов-модификаций. Можно менять HTML, ставить редирект, выставлять куки, передавать события в чаты, CRM и аналитику.

Манипуляции с HTML/DOM
Заменить текст или элемент целиком · вставить HTML до / после · удалить по селектору · поменять местами · изменить или удалить атрибут · добавить или убрать CSS-класс · встроенные стили · глобальный <style>
URL, куки и параметры
Редирект и возврат назад · добавить или удалить URL-параметр · установить или удалить куки · параметры страницы · параметры пользователя
Чаты, чат-боты, виджеты
JivoSite: чат, проактивное приглашение, звонок, данные пользователя · CarrotQuest: диалог, identify, событие · MindBox: модалка · RoiStat: чат, Lead Hunter
Аналитика и коллтрекинг
Я.Метрика: параметры, цели · RoiStat: визиты, события, промокоды, коллтрекинг · Calltouch и Rick.ai: параметры визита и атрибуция · DataLayer push
Помимо контента тестируйте бизнес-логику и интеграции любой сложности

Вариант состоит из последовательности шагов, и шаги могут быть любыми: подменить контент, поменять цену в карточке товара, инициировать звонок коллтрекинга, открыть модалку CRM, передать сегмент в почтовую платформу. На JS-подписке можно собрать сценарий «купи 1+1», запустить пилот нового алгоритма ML на 10% трафика, протестировать новый онбординг со звонком менеджера. Пример ниже: акция со звонком и передачей в CRM.

1
Изменение цены
Подменить цены в карточке товара: −15% для участников теста
2
HTML
Перед кнопкой «Купить» появляется баннер «−15% по промокоду»
3
Сегмент CRM
Передать в Mindbox профиль с тегом spring_promo_b для последующего почтового сценария
4
Звонок
Через 5 минут на карточке товара срабатывает проактивный звонок Jivo «Помочь с заказом?»
5
Аналитика
DataLayer push { event: 'spring_promo_assign' } + параметр в Метрику

Debug-режим: проверьте варианты до реальных пользователей

Открываете ваш сайт прямо из интерфейса теста и переключаетесь между вариантами в один клик. Видите ровно то, что увидит пользователь, ловите сломанные селекторы и кривой layout ещё до запуска.

Превью в живом DOMВаш настоящий сайт с применённым вариантом, без скриншотов и песочниц. Видно всё: мобильное меню, обработчики форм, хитрые состояния.
Переключение в один кликКлик, и вы на варианте B; ещё один, и на контроле. Без перезагрузки, без инкогнито, без чистки куки.
Каждая модификация как на ладониВ инспекторе виден каждый шаг варианта: какой селектор сработал, что изменилось, какие атрибуты подменились. Сломанный селектор находится за секунды.
Пересечения с другими тестамиНесколько активных тестов на странице? Проверяйте любую их комбинацию: конфликты селекторов и перекрытые модификации видны сразу.

Оптимизация по любым целям из любых источников

Не только CR по стандартной цели. Подключайте цели из Я.Метрики, Google Analytics, DataLayer, коллтрекинга или используйте автоматические цели Sales Ninja. Оптимизируйте по конверсиям, выручке, прибыли или ML-предсказанной выручке: той же модели, что стоит в Performance и Brand Performance.

Источники целей подключаются галочкой:Я.Метрика · Google Analytics · DataLayer / GTM · Calltouch · UIS / CoMagic · Smartis · Roistat · Rick.ai · JS-подписка · авто-цели Sales NinjaАвто-цели движок создаёт сам: отправка формы, активность, скролл до конца, корзина, клики по кнопкам связи. Без разметки и разработчика.
Метрика оптимизации теста
Конверсииклассический CR по выбранной цели
Выручкаsum(revenue): учитывает разные средние чеки
Прибыльsum(profit): точно через API или как % от выручки
Предиктивная выручкаML-прогноз ценности сессии: статистический сигнал в десятки раз быстрее, чем ожидание реальной покупки. Особенно ценно при низком CR и длинном цикле сделки.
Составные цели
ALLОткрыл корзину+Перешёл к оплате+Купилнужна вся последовательность в одной сессии
ANYРегистрация/Подписка/Заявкадостаточно одной из дочерних

4 стратегии остановки теста

Используйте ту математику, которая подходит задаче: классический фиксированный объём выборки, последовательное тестирование с промежуточными проверками или байесовский анализ.

РучнаяРучная остановка

Тест работает бессрочно, победителя выбираете вы. Для экспериментов, где статистика не единственный критерий.

ЧастотнаяФиксированный размер выборки

Система считает требуемый объём выборки на каждую руку через z‑тест для двух долей (мощность 80%) и останавливает тест при достижении.

n = ((z_α + z_β)² × (p₁(1-p₁) + p₂(1-p₂))) / (p₂ - p₁)²
ПоследовательнаяМетод O'Brien-Fleming

Промежуточные проверки по расписанию с распределением альфа-уровня: досрочная остановка при значимом результате, без инфляции ошибки I рода и эффекта «подглядывания».

БайесовскаяБета‑биномиальная модель

Апостериорное распределение Beta(1+conv, 1+visits-conv) с неинформативным априорным. P(B > A) считается методом Монте‑Карло: 50 000 выборок из каждого распределения.

P(B > A) = Σ MC[treat > ctrl] / 50 000 ≥ 0.95

4 режима сравнения вариантов

Гибкая формулировка гипотезы: контроль против объединённого лечения, лидер против второго лучшего, лидер против контроля или лидер против всех. Большинство платформ дают только первый режим.

КонтрольA + B + C
Контроль против объединённой группыВсе тестовые варианты складываются в одну группу и сравниваются с контролем. Классика и поведение по умолчанию в старом контракте.
сравнений: 1 · без Бонферрони
Лидер B2-й лучший A
Лидер против второго лучшегоТекущий лидер против ближайшего конкурента среди активных вариантов. Честный выбор победителя при нескольких руках.
сравнений: C(k, 2) · k=3 → ÷3, k=4 → ÷6
ЛидерКонтроль
Лидер против контроляОтвечает на вопрос «превосходит ли лучший вариант базовый». Удобно, когда интересен только победитель против исходника.
сравнений: k, по числу вариантов
ЛидерКонтроль + остальные
Лидер против всех остальныхЛидер против объединённой группы из контроля и других вариантов. Даёт уверенный вывод «лидер реально лучший». Режим по умолчанию для новых тестов.
сравнений: k · по умолчанию

Коррекция Бонферрони в частотном многоруком режиме. При множественных сравнениях альфа автоматически делится на их количество: α_corrected = α / MultipleComparisonCount. Платформы без честных многоруких режимов принимают ложно-положительные результаты, не замечая этого.

Многорукий бандит: эффект уже во время теста

Классический A/B-тест отдаёт каждому варианту одинаковую долю трафика. Деньги, ушедшие в заведомо проигрышные гипотезы, при этом теряются. Бандит Sales Ninja перераспределяет трафик в пользу лидеров, минимизируя regret.

Без бандита: жёсткие 25/25/25/25
Контроль
25%
Вариант A
25%
Вариант B
25%
Вариант C
25%
Вариант D давно проваливается, но продолжает жечь четверть бюджета
С бандитом: трафик к лидеру
Контроль
18%
Вариант A
14%
Вариант B
58%
Вариант C
10%
CR варианта B выше на 28%, и он уже собирает большую часть показов

Оба снимка: 10-й день одного и того же теста. Эффект начинается сейчас, а не после остановки.

Мощная аналитика: дробите данные как угодно

Статистика теста строится на том же движке, что тянет десятки миллионов визитов в Аналитике Sales Ninja. Любые срезы в реальном времени, пересчёт на ClickHouse за секунды.

Срез:
Контроль
2,4%
Вариант B
2,9%
По всему трафику вариант B впереди на 21%. Но самое интересное начинается в срезах.
Контроль
2,1%
Вариант B
2,9%
На мобильных отрыв уже +38%: именно здесь новый вариант работает лучше всего.
Контроль
3,0%
Вариант B
3,3%
В Москве разница скромнее. Значит, эффект тянут регионы: гипотеза для следующего теста.
Контроль
6,8%
Вариант B
9,4%
Аудиторный сегмент идёт оптимизированным быстрым путём, без тяжёлых join-ов.
Честные веса вариантовБандит или ручные веса дают вариантам разный трафик: движок учитывает это в CI и тестах значимости, без скрытых смещений.
ML-фильтр ботного трафикаБотные визиты вычитаются автоматически по поведенческим паттернам и ML-модели ботности. Тест не «побеждает» из-за скрейперов на варианте B.
Свой профиль расчёта на тестНапример, считать только сессии длиннее 30 секунд или только дошедших до корзины. Общие отчёты не затрагиваются.
Отчёты за секундыТиповые сценарии ходят быстрым путём: отчёт за 3 месяца на крупном проекте строится за секунды.

Ноль мерцаний и поддержка SPA из коробки

Никакого мерцания при переключении вариантов. SPA-фреймворки поддерживаются с автоматическим перерисовыванием при смене роута, а предиктивное кеширование делает повторные открытия мгновенными.

0 мсDOMContentLoaded: CSS против мерцания уже в заголовке страницы скрывает зону показа
~5 мсПопадание в кеш: вариант достаётся из памяти или браузера
~15 мсШаги применены, защита снята. Ноль мерцаний, ноль ошибок гидратации
Смена роутаMutationObserver видит перерисовку DOM и применяет варианты заново
Без дополнительной интеграции:React · Vue · Angular · Next.js · Nuxt · Svelte · SSR без ошибок гидратации
3режима кеша варианта: не кешировать / браузер / память
~15 мстипичное время применения варианта на кеш-хите
0мерцаний: встроенная защита зоны показа

Интеграции из коробки: вся экосистема российского маркетинга

Тесты не живут в вакууме: они связаны с рекламой, коллтрекингом, чатами и CRM. Интеграции включаются галочкой и работают в обе стороны: цели и аудитории забираются, конверсии и события отдаются.

Реклама и аудитории
Яндекс.Директвиртуальные цели, кампании, мониторинг стратегийVK Adsкабинеты, кампании, передача целей
Аналитика
Яндекс.Метрикацели, аудитории, ecommerce, параметры, событияGoogle Analytics / GTMDataLayer push: любые события и параметрыRick.aiсквозная аналитика, атрибуция, лиды, сделки, выручкаSmartisметрики как цели, raw report data
Коллтрекинг
Calltouchзвонки как цели, параметры визитаUIS / CoMagicData API 2.0, обращения, теги, сценарииRoistatLead Hunter, чат, промокоды, события
Чаты и CRM
Mindboxтриггерные формы, профиль, событияJivoSiteчат, проактивные приглашения, звонкиCarrotQuestidentify, диалоги, события конверсииTelegramуведомления о старте и остановке тестов
Разработчикам
JS-подпискасвоя логика по попаданию в вариант или целиMCPинтеграция с LLM-агентами по MCP-протоколу

JavaScript-подписка: интегрируйте тесты с любой логикой сайта

Прямо в браузере подписывайтесь на события Sales Ninja: попадание в вариант теста и достижение цели. Подписка вызывает ваш JS-обработчик, а дальше делайте всё, что умеет браузер: передавайте данные в CRM, инициируйте звонок коллтрекинга, показывайте свою форму.

// подписка на попадание в вариант теста
window.SalesNinja.on('ab.assign', (e) => {
// e.testId, e.variantId
myCRM.tag(e.userId, `ab_${e.testId}_${e.variantId}`)
})
 
// подписка на достижение цели
window.SalesNinja.on('goal.reach', (e) => {
if (e.goalId === 'purchase') {
myCallTracking.trigger({
testId: e.testId,
variant: e.variantId,
revenue: e.revenue
})
}
})
Бесплатно, без регистрации

Калькулятор A/B‑теста

Та же математика, что внутри платформы, только считает в браузере и доступна всем: значимость, доверительные интервалы, поправка на множественные сравнения, цена ошибки и честный ответ, есть ли смысл тянуть тест дальше.

  • Ничего не устанавливать
  • Данные не уходят на сервер
  • Ссылкой можно поделиться с командой
Открыть калькулятор

Глубина данных / Sales Ninja

За каждым визитом —
больше, чем видит отчёт.

Аналитика показывает, что произошло. Мы добавляем подробное поведение, модельные оценки и данные ваших систем — чтобы понять, что может произойти дальше.

Четыре слоя данных о визите: события сайта, поведение, модельные оценки и результаты из CRM
Один визит. От наблюдения — к пониманию ценности.

Пиксель Sales Ninja

Не только «был на странице». Как именно он выбирал.

Подробный слепок сессии помогает различать случайный просмотр и осмысленный интерес — даже когда покупка ещё не произошла.

  • Активность вкладки
  • Просмотры товаров
  • Корзина
  • Движения курсора
Как это помогает принять решение

Оценивать намерение по совокупности действий, а не по одному клику или времени на сайте.

Какие данные и системы можно подключить

События и контекст

Клики, скроллы, движения мыши, активность вкладок, корзина, просмотренные товары и цели прошлых сессий. UTM, устройство, город, погода и ваши собственные параметры.

Модельные признаки

Интересы, возрастная группа, платёжеспособность — с оценкой уверенности. Вероятность конверсии, ожидаемая выручка, цена клика и оценка ботности по поведению.

Ваши системы

amoCRM, Битрикс24, RetailCRM; Calltouch, UIS / CoMagic, Phonix; Rick.ai, Smartis, Roistat; Яндекс Метрика, AppMetrica. Если готовой интеграции нет — своя выгрузка конверсий.

Установка через GTM, Метрику или CMS

Модельные профили — классы и вероятности, а не личность человека

Расскажите о задаче.
Соберём решение
под ваш бизнес.

Познакомимся, разберём вашу ситуацию и наметим первые шаги. Без скриптов и давления: заявка вас ни к чему не обязывает.

  • Пишет живой менеджер, не бот
  • NDA по умолчанию,
    ничего не уйдёт наружу
  • Никаких почтовых цепочек и спама
Ответим в течение 1 рабочего дня

+ 8 модулей стека — в одной лицензии, без доплат

Идёт в подарок

Берёте A/B-тесты, остальной сайтовый стек получаете бесплатно

Одна лицензия: всё ниже уже внутри. Без доплат и кросс‑сейла.

8 модулей в одной лицензии

Нам доверяют ведущие агентства

Ответы на часто задаваемые вопросы