Size: a a a

2020 November 17

OI

Oleg Ilinsky in Data Engineers
Андрей Жуков
охапка дров - хадуп готов
scala in production cook book
источник

GP

Grigory Pomadchin in Data Engineers
Oleg Ilinsky
берём питон
заменяем : на {}
добавляем val при инициализации переменных
убираем return

радуемся, что освоили наскальный язык
ну от форича это никак не спасёт; петонисты не умеют ж в мап / фильтр ; у них все компрехеншн
источник

GP

Grigory Pomadchin in Data Engineers
источник

OI

Oleg Ilinsky in Data Engineers
так а чё от него спасаться то)) for (x <- something) {
}
источник

OI

Oleg Ilinsky in Data Engineers
источник

FT

FAXRIDDIN TOJIBOYEV in Data Engineers
Андрей Романов
val b = key.filterNot(c => c == '.' ))
val b=key.map(t=>t.filterNot(x=> x==','||x=='.'))
b.foreach(x=>println(x))

Получилось!
источник

АР

Андрей Романов... in Data Engineers
FAXRIDDIN TOJIBOYEV
val b=key.map(t=>t.filterNot(x=> x==','||x=='.'))
b.foreach(x=>println(x))

Получилось!
ееее, роцк
источник

FT

FAXRIDDIN TOJIBOYEV in Data Engineers
Ну спасибо за идею
После этой идеи пробовал предыдущие подходы
источник

T

T in Data Engineers
FAXRIDDIN TOJIBOYEV
val b=key.map(t=>t.filterNot(x=> x==','||x=='.'))
b.foreach(x=>println(x))

Получилось!
а зачем тут map?
источник

T

T in Data Engineers
или b это колеция коллекций
источник

SB

Sergey Boytsov in Data Engineers
пытаюсь записать несколько spark scala dataframe в jdbc, но содинения неожиданно заканчиваются
куда можно копать? сколько соединений пытается создать writer при записи в jdbc
источник

T

T in Data Engineers
Sergey Boytsov
пытаюсь записать несколько spark scala dataframe в jdbc, но содинения неожиданно заканчиваются
куда можно копать? сколько соединений пытается создать writer при записи в jdbc
если память не изменяет там на каждую партицию открывается
источник

T

T in Data Engineers
можно уменьшить количество партиций и проверить что спарк пишет бачами
источник

T

T in Data Engineers
для mysql на пример там надо гет параметр в url выставить
источник

SB

Sergey Boytsov in Data Engineers
T
если память не изменяет там на каждую партицию открывается
можно не надо? 🙀 ))
источник

SB

Sergey Boytsov in Data Engineers
T
для mysql на пример там надо гет параметр в url выставить
а есть примеры, простите если многого прошу
источник

T

T in Data Engineers
Sergey Boytsov
а есть примеры, простите если многого прошу
сек
источник

T

T in Data Engineers
Sergey Boytsov
а есть примеры, простите если многого прошу
jdbc:mysql://YOUR_IP:3306/YOUR_DB?rewriteBatchedStatements=true
источник

SB

Sergey Boytsov in Data Engineers
T
jdbc:mysql://YOUR_IP:3306/YOUR_DB?rewriteBatchedStatements=true
спасибо большое
источник

T

T in Data Engineers
Sergey Boytsov
спасибо большое
только вы докуменцию к rewriteBatchedStatements прочтите на всякий случай перед использванием, там есть парочка ограничей https://dev.mysql.com/doc/connector-j/5.1/en/connector-j-reference-configuration-properties.html
источник