Size: a a a

QA — Автоматизация

2020 January 08

A

Alex in QA — Автоматизация
Andrei Solntsev
Нет, я там другое предлагаю
покрыть юнит тестами? сириусли?)
источник

AV

Alexei Vinogradov in QA — Автоматизация
Alex
покрыть юнит тестами? сириусли?)
да.
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Andrei Solntsev
Ну конечно уже есть такая штука. "Gradle" называется. (Может, и мавен тоже так работает - не знаю)
Как работает? Сам организовывает порядок тестов? 🤔
источник

AS

Andrei Solntsev in QA — Автоматизация
Ну понятно, постфактум это сделать очень сложно. Будем реалистами. И покрывать юнит-тестами должны сами разработчики.
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Andrei Solntsev
Фокус в том, что не надо заранее р чего планировать и рассчитывать. Запускаешь N потоков. Каждый поток берёт первый тест из кучи незапущенных, запускает, потом берёт следующий. Так и получится, что (при большом количестве тестов) всё потоки будут примерно одинаковое время работать.
Ну сейчас так и есть, а тут увидел что последним в очереди стартует поток на 15 минут. И он один держит ран пока не закончится. Я вот только передвинул его пораньше и секономил немного времени
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Я понимаю что надо писать юнит тесты, юай тесты медленные, джава топ и все такое. И в идеальном мире код вообще писать ненадо :)
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Но я хотел просто какой то сортировщик сьютов, который бы я даже запускал вручную, а потом переименовывал файлы чтобы ранились в нужном порядкн
источник

BO

Boris Osipov in QA — Автоматизация
Oleksandr Khotemskyi
Но я хотел просто какой то сортировщик сьютов, который бы я даже запускал вручную, а потом переименовывал файлы чтобы ранились в нужном порядкн
ну а как сортировщик должен узнать из файла как ему сортировать)
источник

R(

Roman (rpwheeler) in QA — Автоматизация
Oleksandr Khotemskyi
Я понимаю что надо писать юнит тесты, юай тесты медленные, джава топ и все такое. И в идеальном мире код вообще писать ненадо :)
Между юнитами и юай могут быть интеграционные тесты. Они по скорости ближе к юнитам, но проверяют логику нескольких модулей. Я делал несколько немаленьких датасетов для таких задач.

Для (хорошего) разработчика не проблема соорудить код который будет гонять именно логику по данным, беря эти данные из каких-то файлов (csv, xml, json). Это "о-маленькое" от его собственного кода.

Емнип,
~165 проверок прогонялись секунд за 40-45,
~360 минуты за две.

Стабильность была 100% (в отличие от UI проверок на Аппиуме), фидбек разработчикам скорейший и наглядный.

Если такого даже не начинать делать, будут прогоны UI-проверок на несколько часов, и хорошо если они будут стабильны.
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Roman (rpwheeler)
Между юнитами и юай могут быть интеграционные тесты. Они по скорости ближе к юнитам, но проверяют логику нескольких модулей. Я делал несколько немаленьких датасетов для таких задач.

Для (хорошего) разработчика не проблема соорудить код который будет гонять именно логику по данным, беря эти данные из каких-то файлов (csv, xml, json). Это "о-маленькое" от его собственного кода.

Емнип,
~165 проверок прогонялись секунд за 40-45,
~360 минуты за две.

Стабильность была 100% (в отличие от UI проверок на Аппиуме), фидбек разработчикам скорейший и наглядный.

Если такого даже не начинать делать, будут прогоны UI-проверок на несколько часов, и хорошо если они будут стабильны.
Это все понятно, что лучше быть богатым и здоровым чем бедным и больным и чтобы пирамида была правильной
источник

АК

Александр Кот in QA — Автоматизация
Andrei Solntsev
Ну конечно уже есть такая штука. "Gradle" называется. (Может, и мавен тоже так работает - не знаю)
maven surefire plugin работает по тому же принципу, что ты описал ниже. Самое оптимальное - не пытаться оптимизировать, ведь как только несколько потоков застрянут на "долгих" тестах, оставшийся свободный возьмет и выполнит все остальные. Если тест выходит за пределы 2-3 минут - то тут нечего думать - надо оптимизировать тест. А после оптимизации, выигрыш в 3 минуты сильно критичен?
источник

R(

Roman (rpwheeler) in QA — Автоматизация
Boris Osipov
ну а как сортировщик должен узнать из файла как ему сортировать)
Можно логировать начало и конец тех или иных проверок или групп.
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Boris Osipov
ну а как сортировщик должен узнать из файла как ему сортировать)
А я думал скормлю какому то скрипту имя файла : время рана файла, и он мне просто в stdout выдаст в каком порядке выложить файлы, а дальше я сам руками :)
источник

MA

Maksim Andryushchenkov in QA — Автоматизация
Oleksandr Khotemskyi
Это все понятно, что лучше быть богатым и здоровым чем бедным и больным и чтобы пирамида была правильной
мне кажется, сколько вы это не обсуждайте, вам все равно покажется лучшей идеей написать самому скрипт. скормили ему файл с временем тестов - он вам выдал последовательность распределения, что-то такое
источник

R(

Roman (rpwheeler) in QA — Автоматизация
Oleksandr Khotemskyi
Это все понятно, что лучше быть богатым и здоровым чем бедным и больным и чтобы пирамида была правильной
Это можно будет посчитать в деньгах: если разработчику надо ждать фидбека от UI-проверок, если UI-проверки гоняют мощное дорогое арендуемое окружение, если тестирующим надо тратить кучу времени на разбор упавших UI-тестов.

"Богатыми" могут оказаться люди которые не хотят потратить время на быстрые проверки логики, но потом хотят его тратить на разгребание вышеперечисленного.
источник

MA

Maksim Andryushchenkov in QA — Автоматизация
ну или да, Роман правильно говорит о цене тестирования
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Maksim Andryushchenkov
мне кажется, сколько вы это не обсуждайте, вам все равно покажется лучшей идеей написать самому скрипт. скормили ему файл с временем тестов - он вам выдал последовательность распределения, что-то такое
Та я уже понял :)
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Roman (rpwheeler)
Это можно будет посчитать в деньгах: если разработчику надо ждать фидбека от UI-проверок, если UI-проверки гоняют мощное дорогое арендуемое окружение, если тестирующим надо тратить кучу времени на разбор упавших UI-тестов.

"Богатыми" могут оказаться люди которые не хотят потратить время на быстрые проверки логики, но потом хотят его тратить на разгребание вышеперечисленного.
Тут немного другая ситуация. Юнитов уже много, апи уже несколько тысяч, это именно критичные юай проверки на покупку и поиск, которые уже никуда не двинуть
источник

OK

Oleksandr Khotemskyi in QA — Автоматизация
Кароче есть ли готовый алгоритм или нет вы скажите? :)
источник

MA

Maksim Andryushchenkov in QA — Автоматизация
Oleksandr Khotemskyi
Тут немного другая ситуация. Юнитов уже много, апи уже несколько тысяч, это именно критичные юай проверки на покупку и поиск, которые уже никуда не двинуть
у меня лично вся покупка и поиск в API тестах, потому что критичные статусы биллинга уже оттуда видны, но если прям необходимы UI тесты для этого, то наверное вы в исключительной ситуации
источник