AT
вот эта память managed она не обязательно где-то вообще лежит
Size: a a a
2020 May 09
AT
она может лениво выделяться
a
тогда есть ли несколько видов памяти, которая лежит на видюхе и в нее может лазать проц?
я хочу сопоставить вульканью память вот с этими cuda способами)
a
она может лениво выделяться
а где выделяться?
AT
страница 1 может читаться и писаться исключительно на хосте, а страница 2 — на девайсе. И ни разу не будет пересылки. На хосте физических страниц будет аллоцировано — одна, как и на девайсе
a
а, даже так
a
и при доступе с проца в память, которая есть только у видюхи - оно скопируется, да?
AT
да, если concurrentManagedAccess == true
I
она может лениво выделяться
По запросу то есть, так? А если запроса нету к ней(странице) то просто, быть помеченной?
AT
если нет, то надо cudaMemPrefetch* вызывать
a
да, если concurrentManagedAccess == true
а если конкурентного нету, то надо вызывать функции для скачивания/выгрузки памяти на проц/видюху?
a
если нет, то надо cudaMemPrefetch* вызывать
а, ну походу да
AT
если нет, то надо cudaMemPrefetch* вызывать
нет. Неправда
AT
а если конкурентного нету, то надо вызывать функции для скачивания/выгрузки памяти на проц/видюху?
надо просто дожидаться завершения всех куда-ядер, которые работают с этой памятью (причём со всем блоком, а не только со страницами, которые потенциально читаются и пишутся в ядре)
a
а, ок
AT
то есть нельзя к блоку доступаться с хоста из отдельного потока, пока в каком-то потоке ядро не завершилось (cudaDeviceSynchronize или cudaStreamSynchronize не вернулось)
a
а если конкурентного нету, то надо вызывать функции для скачивания/выгрузки памяти на проц/видюху?
я подумал, вызывать такую функцию, она дождется завершения, синхронизирует буферы
a
а разница между paged и этим в расположении памяти? paged лежит в оперативке, и видюха туда лезет, а direct на видюхе, и проц туда лезет?
а еще, оба этих способа могут работать конкурентно?
a
directManagedMemAccessFromHost - аналог в Vulkan-е — можно не вызывать invalidate (или flush, не помню)
а раз это аналог вулкана, то в чем разница в вулкане в наличии или отсутствии device local бита?
AT
Во вулкане скорей всего память реально выделяется на девайсе. Прям конкретные физические страницы отводятся под неё в полном объёме.