Короче, я не спец, но я бы попробовал:
1. Логи - собирать потребление озу, что-бы выяснить кто же жрёт
2. Отключить свап, посмотреть на работу.
3. Включить свап, поигрть настройкми агрессивности свапа
4. Попробовать ОММ кил, но мне кажется этот вариант не поможет.