​​4 ошибки A/B-тестирования и как их исправлять:
https://towardsdatascience.com/a-b-testing-top-4-mistakes-with-business-cases-fixes-85e76767dfde

via @ABtesting

​​В сети появился отличный пример рассчета уровня значимости результатов A/B-тестирования в BigQuery с применением user-defined functions.

@BigQuery

​​Что такое коэффициент несоответствия выборки (Sample Ratio Mismatch) и как с ним работать:
https://link.medium.com/ZJeoj3OlJbb

via @ABtesting

О формулировании гипотез, подходах и критериях корректности, и проверке гипотез разных уровней:
https://soundcloud.com/productsense/make-sense-120

via @ABtesting

Эдуард Григорян: Metric optimization for Quality Control of A/B testing:
https://www.youtube.com/watch?v=4qvpZEKkARI

via @ABtesting

​​Основы математики АБ-тестирования:
https://towardsdatascience.com/a-gentle-introduction-to-the-mathematics-behind-a-b-testing-3afe354bdce3

via @ABtesting

​​О досрочном прекращении экспериментов

Система раннего предупреждения без которой можно потерять много времени и данных, не говоря уже о потенциальных потерях в доходах и нежелательных последствиях для пользовательского опыта.

via @ABtesting

​​Хороший справочник по A/B-тестированию и выбору критериев с примерами кода на Python.

via @ProductAnalytics

Как проводить умные A/B-тесты в мобильных приложениях с помощью многоруких бандитов?

На платформе Appbooster появился сервис усовершенствованного A/B-тестирования мобильных приложений. В его основе алгоритм, который позволяет проводить эксперименты и тестировать гипотезы с меньшими издержками, чем при классическом A/B-тестировании.

О том, как работает сервис, как проверяли его состоятельность и кому он будет полезен — кейс на vc.ru от Appbooster.

Материалы по экспериментам от Романа Поборчего.

Начнем с простого - A/B-тесты для "нематематиков" о методах грамотного оценивания результатов a/b-тестирования. Особое внимание уделяется вопросу о том, на какую целевую метрику ориентироваться при проведении маркетинговых экспериментов.

Продолжим вопросами дизайна эксперимента. Уже пора задуматься о том, на каких допущениях основан эксперимент: по-настоящему случайное распределение пользователей, независимость измеряемых событий и т.д.

Бывали ситуации, когда вы или вам говорили, что данных недостаточно для решения? Часто это действительно так, но нередко всё дело в поломках системы экспериментов и учёта пользовательской статистики. Рассмотрим типичные поломки, которые встречаются, и у вас появится возможность, вернувшись на рабочее место найти свои.

И на последок - грабли А/В-тестирования. Все изменения в сервисе проходят через эксперимент на пользователях. Выкатываем только то, что показывает значимое улучшение целевой метрики. Да, у нас есть целевая метрика. Да, мы всё знаем про статистическую значимость. Но почему целевая метрика нашего сервиса сегодня находится точно на том же уровне, что и год назад? Разбираемся

= = =

Но мы пошли дальше, нашли "белые пятна" в доступных материалах (не именно этих, а вообще) и закроем их на нашей конференции по продуктовой аналитике 8-9 апреля.

Уже знакомый вам Роман Поборчий расскажет о том, каковы этапы эволюции in-house системы экспериментов в любой компании. Это важно понимать хотя бы потому, что на маленьком и большом трафике абсолютно разные подходы к проведению экспериментов + к этому, Искандер Мирмахмадов, EXPF расскажет как проверять качество систем сплитования трафика на платформах экспериментов с теорией, кейсам и демонстрацией кода на Python. И у вас все сложится в единую систему.

Кроме этого,  Андрей Кузнецов, Lead Core Analytics ВКонтакте, готовит лекцию о том, почему регрессионные модели в а/б-тестах — это супер полезно. Он математик и ему есть что сказать.  И как вишенка на торте - Кирилл Шмидт, lead product analyst, Wrike. Поговорим с ним о том, что делать, когда а/б-тест невозможен: выборки слишком малы, нет ресурсов, когда вообще не запускать эксперимент.

Ждем вас на нашей конференции уже через 3 недели: https://aha.matemarketing.ru/

@internetanalytics

​​Как внешниие факторы влияют на эксперименты и почему важно запускать долгосрочные тесты.

via @ABtesting

​​Использование модели кластеризации K-means для создания однородных групп людей при A/B-тестировании.

via @ABtesting

​​Хороший материал о рассчете размера выборки для A/B-тесстирования.

via @ABtesting

​​Как анализировать A/B-эксперименты с использованием Bayesian Expected Loss и как его рассчитывать.

via @ABtesting

Как говорят американцы: Кто SQL не знает, тот всю жизнь в экселе отчеты считает! 😎

Новый курс по SQL от Глеба Михайлова, который уже стал хитом на Udemy, поможет вывести твой SQL на новый уровень.

Это SQL именно для анализа данных, и весь SQL Глеб пишет в Jupyter ноутбуке. Это очень удобный подход, потому что весь код хранится в одном месте. А так же можно быстро досчитать что-то в пандас и построить график.

Этот курс рассчитан на тех, кто уже что-то знает об аналитике и представяет что такое питон. Если ты знаешь SQL, но не знаешь питон — этот курс тоже будет тебе очень полезен. Совсем новички тоже смогут пройти курс — разобраться с питоном и Jupyter можно на ходу.

Ссылка заряжена хорошей скидочкой. Усиль свой SQL! 🔥

​​Об алгоритмах многоруких бандитов и сравнение с классическим A/B-тестированием:

https://github.com/raffg/multi_armed_bandit

via @ABtesting

Как проводят эксперименты в Spotify:

https://engineering.atspotify.com/2020/11/02/spotifys-new-experimentation-platform-part-2

via @ABtesting

​​Как проводят эксперименты в Tinder.
Phoenix - платформа для проведения экспериментов:

https://medium.com/tinder-engineering/phoenix-tinders-testing-platform-part-iii-520728b9537

via @ABtesting

​​Крутая новость для тех, кто хочет повысить уровень знаний и стать топовым профессионалом в области Data Science.

Сейчас идет набор в Big Data Lab School от Vodafone!

Что это такое?
Big Data Lab - это полугодовой интенсив по подготовке квалифицированных Data Science специалистов. Полный спектр знаний и практических навыков, необходимых для старта карьеры в Data Science.

Для кого рассчитан курс?
Курс рассчитан на работающих профессионалов, поэтому его можно совмещать с работой.

Почему Big Data Lab?
Ведь это:
- Фундаментальные математические дисциплины и data-science Engineering.
- Доменная экспертиза в различных сферах (телеком, финансы, промышленность, Smart City и т.д.).
- Преподаватели мирового уровня. В том числе профессионалы-практики с опытом работы в сфере Big Data.
- Решение современных бизнес-задач и работа с реальными большими данными.
- Постепенное вхождение в материал благодаря новым подготовительным курсам.

Продолжительность обучения: 6 месяцев
Начало обучения: 22 июня
Формат обучения: онлайн
Размер группы: 25 студентов


Регистрация по ссылке ↙️
https://bit.ly/3slCGyA

Если у вас есть друзья или коллеги которым это может быть актуально, пожалуйста, отправьте им это сообщение.

​​Ускорение A/B-тестирования с помощью CUPED от Microsoft, метода уменьшения дисперсии с использованием ранее существовавших данных.

via @ABtesting