Strategia per la gestione del consumo di memoria

Question

Stiamo progettando un'applicazione enterprise che memorizza nella cache molti dati dal back-end. Agli utenti è consentito aprire un numero arbitrario di finestre di app e ciascuna carica i propri dati e li memorizza nella cache. Per gestire in qualche modo il consumo di memoria e prevenire la diminuzione generale delle prestazioni del sistema operativo, abbiamo deciso di scrivere un gestore della cache che monitorerà automaticamente il footprint della memoria dell'app e rimuoverà i dati dalla cache quando necessario.

Quindi il problema è che abbiamo difficoltà ad identificare se è il momento di liberare memoria. Attualmente utilizziamo un approccio molto semplice: iniziamo semplicemente a buttar via la roba dalla cache quando l'utilizzo della memoria delle app supera l'80% della memoria fisica.

Esistono pratiche alternative (alternative?) Per affrontare questo tipo di problema?

Answer 1

Questo è fondamentalmente OK. Non esiste una strategia veramente buona. Se ci sono più applicazioni concorrenti questo può portare a concorsi in cache e falsi sfratti.

Se si seleziona la soglia troppo bassa si spreca spazio nella cache. Se è troppo alto, nient'altro potrebbe essere contenuto nella memoria, compresa la cache dei file, le DLL, ...

Cosa intendi per "memoria fisica disponibile"? Intendi memoria installata o memoria gratuita? In che modo un'app può utilizzare l'80% della memoria disponibile? Non sono chiaro sulla definizione che stai usando.

SQL Server utilizza memoria fino a quando il sistema operativo segnala che è a bassa memoria (credo che accada quando viene utilizzato il 95% di "qualcosa").

Certamente non si desidera utilizzare il GC per liberare memoria. Ucciderà abitualmente l'intera cache.

Forse è possibile spostare interamente il contenuto della cache su disco? In alternativa, è possibile condividere la cache tra i processi .NET avendo un processo del server cache nascosto che può essere interrogato dai processi delle app.

---

voglio sottolineare che se la vostra applicazione consuma il 99% di RAM installata (ad esempio) le prestazioni sarà molto male perché la cache dei file è quasi vuoto. Ciò significa che anche le DLL e il codice .NET NGEN verranno sfasati e frequentemente.

Forse una strategia migliore è presumere che 1 GB sarà necessario per memorizzare in modo appropriato il sistema operativo e i file di app. In questo modo è possibile consumare memoria finché non ci sono solo il 10% di RAM installata meno 1 GB.