Это базовые операции в MPI)

Понятно

это оно? - https://github.com/microsoft/Armada

ну хз, rust наше всё :D
rayon приличная либа вродь как, но там именно потоки — псевдопараллелизм

Не знаю

Похоже

Извиняюсь. Мне нужно на некоторое время покинуть вас 🖐

Есть закон Мура (https://blog.golang.org/ismmkeynote), который гласит

количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца

но так как, последние поколения CPU развиваются не по этой временной шкале, то можно считать что современные вычислительные процессы отстают в развитии на 2+ года. Например, Core i7-8086K - 3 млрд транзизторов и тд

При увеличении кол-во логических юнитов мы добавляем больше пару медных проволок, транзистора, конденсатора и получаем DRAM ячейку памяти (перевод с статьи). При этом по закону Мура, при развитии Вычисл. Техники, производители должны также снижать или контролировать цены на сами чипы, иначе чем круче тем дороже будет работать не справедливо.   По крайней мере, я вижу в этом баланс когда вышел Nvidia 2080 по той же цене что и 1080Ti, цена за которую выросла на +$300-400

Так вот, Го язык программироавния был создан с этим расчетом с уклоном на параллелизм, и мы не говорим об ОС тредах, а об своих зеленых Горутин, со своим скедулером. Поэтому такие языки как Armada, про которую я ничего не знаю, мне кажется, немного запоздали, либо должны показать какую-то новинку на рынке, чтобы иметь право существовать

Еще люди говорят об real-concurrency в FPGA гейтах, но про это ничего не скажу, так как не особо знаю

что ты имеешь в виду под этим

вот это тоже не совсем понял

Как-то раз у меня было задание от математиков. Деталей не помню. Но результат запомнился навсегда. Они мне доказали (это же математики, у них факты - только цифры), что все мои программы не реализуют параллелизм, только псевдопараллелизм. В С и С++ операторы выполняются последовательно. Это традиционные языки программирования, созданные специально для описания алгоритмов. А вот например, в языке VHDL каждый параллельный оператор исполняется одновременно с другими параллельными операторами в теле архитектуры

ты можешь тоже самое и на си сделать

Хотелось бы научиться

у меня есть смутные подозрения, что у Вас несколько перепутались в картине мира понятия о параллелизме, асинхронности и т.д.
С одной стороны, если у вас одно ядро, любой параллелизм будет псевдопараллелизмом в Вашей терминологии.
С дрцгой стороны - почитайте про мультитрединг. А дальше - про те же MPI, где вообще физически могут использоваться разные устройства.
То есть есть легкое ощущение, что с теорией надо чуть глубже познакомиться

Я для этого даже специальные курсы проходил 😂

+

если имеется в виду распаралеллить на несколько ядер, то обычные языки с этим справляются

Нет на одно ядро

на одном ядре с одним исполняемым блоком физически будет исполняться одна инструкция, что бы ты выше уровнем не придумал

однв инструкция в один момент времени