AC
Size: a a a
2020 August 08
SM
ну да, до утра выяснять что такое асинхронность это тяжело
SM
не то что задачи практические делать
AM
Самая производительная система, как по мне, это N воркеров (процессов) на N + 1 ядер процессора, по ядру на воркер и плюс ядро на систему.
В каждом воркере обработчик сообщений плюс event loop для обработки асинхронных действий, чтобы ядро не простаивало. Тогда будет минимум оверхеда и эффективность максимальная.
Ну ещë можно постараться убрать все системные вызовы, чтобы вообще не блочилось.
Что будет быстрее такой схемы, не представляю.
В каждом воркере обработчик сообщений плюс event loop для обработки асинхронных действий, чтобы ядро не простаивало. Тогда будет минимум оверхеда и эффективность максимальная.
Ну ещë можно постараться убрать все системные вызовы, чтобы вообще не блочилось.
Что будет быстрее такой схемы, не представляю.
> N воркеров (процессов) на N + 1 ядер процессора, по ядру на воркер и плюс ядро на систему
Выделяй ядро на систему или не выделяй, один хер зависит от задачи и эта схема не будет эффективной в каждом случае.
Выделяй ядро на систему или не выделяй, один хер зависит от задачи и эта схема не будет эффективной в каждом случае.
AM
Чем поток от процесса отличается знаешь?)
в книгах вот не знают чем они различаются
A
в книгах вот не знают чем они различаются
потоки в рамках процесса шарят память
AM
потоки в рамках процесса шарят память
Это незначительные детали. Процессы тоже могут шарить между собой память.
NO
А хотите опишу реальную задачу как раз на тему параллельности, асинхронности и т.д.? Вдруг кому интересно будет.
Давай, только если она из реальной практики, а не абстрактная.
NO
> N воркеров (процессов) на N + 1 ядер процессора, по ядру на воркер и плюс ядро на систему
Выделяй ядро на систему или не выделяй, один хер зависит от задачи и эта схема не будет эффективной в каждом случае.
Выделяй ядро на систему или не выделяй, один хер зависит от задачи и эта схема не будет эффективной в каждом случае.
Ей и не надо быть эффективной в каждом случае )
SM
Давай, только если она из реальной практики, а не абстрактная.
Конечно. Она нас висит в планах на разработку.
SM
Я решение придумал,но наш ML программист говорит что очень сложно это для него.
SZ
ну давай уже свою задачу
SM
Исходные данные (инварианты):
1. P - количество доступных ядер процессора для выполнения вычислений.
2. M - размер доступной памяти (оперативной и видео).
3. На вход сервера поступает запрос обработка которого есть цепочка из N вычислительных модулей (нейронных сетей): mn->...->m2->m1. Порядок вычисления модулей задан.
4. Каждому модулю присваиваем вес равный его времени выполнения (примерно). Приоритет будет выше у того модуля у которого время выполнения больше.
5. Каждый модуль однопоточный и нагружает ядро процессора на 100%.
6. Каждый модуль выполняется определённое время и потребляет определённую память.
Цель: максимизировать количество одновременно выполняющихся цепочек и минимизировать время их выполнения с учётом потребления памяти цепочками.
Задача по сути про оптимизацию ресурсов одной машины под конкретную задачу просчёта нейронок. Необходимо придумать алгоритм для просчёта цепочек, доказать что он оптимален с точки зрения производительности и предложить способ реализации алгоритма с учётом того, что используемый язык программирования питон.
1. P - количество доступных ядер процессора для выполнения вычислений.
2. M - размер доступной памяти (оперативной и видео).
3. На вход сервера поступает запрос обработка которого есть цепочка из N вычислительных модулей (нейронных сетей): mn->...->m2->m1. Порядок вычисления модулей задан.
4. Каждому модулю присваиваем вес равный его времени выполнения (примерно). Приоритет будет выше у того модуля у которого время выполнения больше.
5. Каждый модуль однопоточный и нагружает ядро процессора на 100%.
6. Каждый модуль выполняется определённое время и потребляет определённую память.
Цель: максимизировать количество одновременно выполняющихся цепочек и минимизировать время их выполнения с учётом потребления памяти цепочками.
Задача по сути про оптимизацию ресурсов одной машины под конкретную задачу просчёта нейронок. Необходимо придумать алгоритм для просчёта цепочек, доказать что он оптимален с точки зрения производительности и предложить способ реализации алгоритма с учётом того, что используемый язык программирования питон.
SZ
странная задачка
SZ
обычный work stealing чем не подходит то? то что еще нужно память учитывать?
SZ
и норм наверное на питоне цифро дробилку делать?
SZ
и мне кажется или вы пытаетесь свой велосипед написать вместо того же YARN?
SM
Сама нейронка написана на C++. Но на питоне вся обвязка, т.к. популярные библиотеки для работы с нейронками почему-то именно на питоне используют.
SM
и мне кажется или вы пытаетесь свой велосипед написать вместо того же YARN?
Ты про какой YARN?