Причём, если в блоке try до исключения сделать return true, то работает

Да.

Пробовал throw 123, чтобы не было выделений памяти, пробовал всё переместить в другую функцию (чтобы не было `extern "C" и т.д -- всё равно падает

extern "C" __declspec(dllexport) bool __stdcall
myFunc()
{
  try {
    throw std::runtime_error("check");
    return true;
  } catch(...) {
    return false;
  }
}

> исключения в DLL

Никак в общем случае

extern "C" вообще не должен кидать исключения

А в чём может быть проблема? Я ожидаю, что все эти исключения отловятся внутри функции

Так оно внутри и задерживается, у меня ж там try {} catch (...) {}

Если рантаймы у DLL и EXE разные, то исключения нельзя передавать между ними

Они и не передаются

Они внутри задерживаются, в catch(...) {}

он и не кидает, в примере исключение ловится внутри функции

Да, вижу, сори

Это уже странно

Можно в исходниках посмотреть

Хотя я с наскоку не нашёл где malloc определён

malloc зовет более высокоуровневую функцию  https://docs.microsoft.com/en-us/windows-hardware/drivers/ddi/ntifs/nf-ntifs-rtlallocateheap

интересно, спасибо, не знал

а в чём смысл существования этого API по сравнению с VirtualAlloc?

VirtualAlloc для shared memory видимо.

VirtualAlloc
A low-level, Windows API that provides lots of options, but is mainly useful for people in fairly specific situations. Can only allocate memory in (edit: not 4KB) larger chunks. There are situations where you need it, but you'll know when you're in one of these situations. One of the most common is if you have to share memory directly with another process. Don't use it for general-purpose memory allocation. Use VirtualFree to deallocate.

HeapAlloc
Allocates whatever size of memory you ask for, not in big chunks than VirtualAlloc. HeapAlloc knows when it needs to call VirtualAlloc and does so for you automatically. Like malloc, but is Windows-only, and provides a couple more options. Suitable for allocating general chunks of memory. Some Windows APIs may require that you use this to allocate memory that you pass to them, or use its companion HeapFree to free memory that they return to you.