Size: a a a

2020 March 30

AP

Alexander Patrushev in AWS_RU
Aleksandr Kostiuk
Всем привет, кто-то работал с AWS Batch?

Может кто-то подскажет как реализовать такую схему?

Есть образ в ECR, выполняем на его основе разные задачи, пробрасывая ему разные команды через AWS Batch
Но сами задачи имеют зависимости, например:
Выполняется одна, пока она не выполнилась, ничего не запускаем, по ее выполнение, запускаем 3 разные задачи, они могут работать параллельно, после выполенения всех 3 - идут еще задачи со своими зависимостями. Собственно такая схема должна запускаться каждый день.

Пока едиственный вариант который я вижу - писать что-то на Python, что будет контролировать  выполнения Batch задач.
Лучше используйте AWS StepFunction, он умеет управлять batch и делать все о чем вы писали )
источник

AP

Alexander Patrushev in AWS_RU
И CloudWatch Events для запуска по расписанию StepFunction
источник

AK

Aleksandr Kostiuk in AWS_RU
Alexander Patrushev
И CloudWatch Events для запуска по расписанию StepFunction
Точно. Не пришло в голову, никогда этот сервис раньше не использовал

Спасибо большое, буду копать!
источник

AK

Aleksandr Kostiuk in AWS_RU
Alexander Patrushev
Лучше используйте AWS StepFunction, он умеет управлять batch и делать все о чем вы писали )
Поковырял, именно то что мне нужно, спасибо ещё раз)
источник

PY

Pavel Yablochkov in AWS_RU
всем привет, что может быть
куда смотреть?
источник

vk

victor kurguzov in AWS_RU
PutBucketReplication

Note

To perform this operation, the user or role performing the operation must have the iam:PassRole permission.
источник

AP

Alexander Patrushev in AWS_RU
Pavel Yablochkov
всем привет, что может быть
куда смотреть?
В IAM. Там написано Access Denied, значит где то правило не хватает.
источник

i

inqfen in AWS_RU
Sebor
Коллеги, а никто не заметил в eu-central-1 подтормаживаний инета?
У меня в Огайо все плохо
источник

i

inqfen in AWS_RU
На соседнем проекте Орегон емнип, сейчас норм, а с утра жопа была, даже ssh отваливался
источник

VM

Viktor Mazankin in AWS_RU
Нагрузка видимо значительно везде выросла. Уже как пару недель количество ошибок от апи aws значительно выросло в Орегоне и северной Вирджинии, да и задержки от хостел сервисов сильно выросли, таже самая athena сейчас постоянно тупит
источник

i

inqfen in AWS_RU
Ну так все клауды сейчас страдают
источник

i

inqfen in AWS_RU
У azure в Европе нагрузка почти в 8 раз поднялась, сегодня на хабре было
источник

S

Sergey in AWS_RU
Всем привет!
Использую chalice, в коде подключаю boto3 библиотеку, и пытаюсь из одной лямбды вызвать другую через
client.invoke(
   FunctionName='
бла-бла-бла имя функции',
   InvocationType='Event',
)


Но выдает ошибку
Endpoint response body before transformations: {"Message":"Lambda was unable to decrypt the environment variables because KMS access was denied. Please check the function's KMS key settings. KMS Exception: AccessDeniedExceptionKMS Message: The ciphertext refers to a customer master key that does not exist, does not exist in this region, or you are not allowed to access.","Type":null}

У сгенерированной для лямбды роли есть в полиси
"Effect": "Allow",
           "Action": [
             "logs:CreateLogStream",
             "kms:*",
             "lambda:*",
             "logs:CreateLogGroup",
             "logs:PutLogEvents"
           ],


Может кто-то подсказать, что я делаю не так?:)
источник

PY

Pavel Yablochkov in AWS_RU
Alexander Patrushev
В IAM. Там написано Access Denied, значит где то правило не хватает.
я это понимаю, но вот не могу понять где и что, у моего юзера всего хватает, но когда он вызывает создание этого через cloudformation, то получаю ту ошибку((
источник

PY

Pavel Yablochkov in AWS_RU
victor kurguzov
PutBucketReplication

Note

To perform this operation, the user or role performing the operation must have the iam:PassRole permission.
это роль есть
источник

PY

Pavel Yablochkov in AWS_RU
если запускаю через дженкинс который апдейтит cloudformation, проблема таже, у дженкинса все роли есть, и iam:PassRole, и s3:PutBucketReplication, и s3:DeleteBucketReplication
источник

PY

Pavel Yablochkov in AWS_RU
делал ПОК чисто проверить, летит Агонь, изменяю существующий бакет такая дичь
источник

AS

Alexey Stekov in AWS_RU
Pavel Yablochkov
делал ПОК чисто проверить, летит Агонь, изменяю существующий бакет такая дичь
Еще раз проблема в правах, там явно об этом написано
источник

PY

Pavel Yablochkov in AWS_RU
Alexey Stekov
Еще раз проблема в правах, там явно об этом написано
но кому их дать))
источник

AS

Alexey Stekov in AWS_RU
Pavel Yablochkov
но кому их дать))
источник