Size: a a a

2021 October 09

GP

Grigory Pomadchin in Moscow Spark
а там тоже нет тестов?
источник

GP

Grigory Pomadchin in Moscow Spark
(я конечно не занимаюсь кинк шеймингом)
источник

ЕГ

Евгений Глотов... in Moscow Spark
Вот там должны быть)
источник

ЕГ

Евгений Глотов... in Moscow Spark
Юнит
источник

ЕГ

Евгений Глотов... in Moscow Spark
Но да, пока нет😆
источник

ЕГ

Евгений Глотов... in Moscow Spark
источник

ЕГ

Евгений Глотов... in Moscow Spark
Но только это не "тестировать свои етли", а тестировать общий функционал
источник

ЕГ

Евгений Глотов... in Moscow Spark
А если общий функционал оттестирован, то етли, которые на нём основаны, можно покрывать дата тестами
источник

ЕГ

Евгений Глотов... in Moscow Spark
Аналитик две csv-шки подготовил - вот и всё тестирование
источник

ПФ

Паша Финкельштейн... in Moscow Spark
synthesized специально деает так, чтобы по SQL генерировались тестовые данные )
источник

GP

Grigory Pomadchin in Moscow Spark
ну даже если не синтетика
то можно иметь эту csv заранее
источник

GP

Grigory Pomadchin in Moscow Spark
и перегенировать ее каждый раз
источник

ЕГ

Евгений Глотов... in Moscow Spark
Код подачи цсвшек в тестирование опять же общий
источник

GP

Grigory Pomadchin in Moscow Spark
и потом сравнивать
источник

GP

Grigory Pomadchin in Moscow Spark
и на каждом пр мерже проверять автоматически (новая csv = эталону; а если не равна то пояснить почему поменялось и надо ли это менять)
источник
2021 October 10

Е

Евгений in Moscow Spark
Жень, а как в таком случае lag-ом заполнить пустые строки?
Если после юниона внизу много пустых строк, то lag заполнит только первую пустую, а остальные так и останутся пустыми

upd нагуглил https://spark.apache.org/docs/latest/api/python/reference/api/pyspark.sql.functions.last.html , попробую ее заюзать
источник

ЕГ

Евгений Глотов... in Moscow Spark
Я ж написал, не лаг, а надо идти до конца окном, пока не найдём)
источник

А

Алексей in Moscow Spark
Посмотрите классическую SQL задачу start_of_group, условие весьма напоминает
источник
2021 October 11

N

Nikita Blagodarnyy in Moscow Spark
вот не надо тут, общий функционал довольно неплохо обмазан. еще бы тестовые стенды выпилить на тестконтейнеры.
источник

ЕГ

Евгений Глотов... in Moscow Spark
Конкретно на моём кусочке общего функционала ещё нету😐
[Ушёл писать тесты]
источник