A forma mais comum de implementação dos mecanismos de gerenciamento dinâmico de memória subdivide a memória de dados em duas áreas: a área de pilha e a área de heap. Linguagens de programação com esse tipo de gerenciamento de memória são conhecidas como ALGOL-like.

Normalmente um espaço da memória deve ser reservado para dados. A forma mais eficiente de fazer isso seria identificar quais variáveis são utilizadas no programa, qual o seu tamanho e reservar um espaço na memória correspondente à soma dos tamanhos de todas as variáveis.

A área de heap é uma área que obedece uma regra bem estabelecida. Toda vez que ocorre uma entrada em um bloco ou uma invocação de um subprograma, reserva-se no heap espaço suficiente para armazenar as variáveis locais do bloco ou do subprograma. Ao encerrar o bloco ou subprograma, o espaço que lhe foi dado deve ser liberado explicitamente.

Variáveis cujo tamanho se modifica em tempo de execução, devem ser armazenadas na pilha. Uma forma de gerenciar a pilha envolve a utilização de duas listas de controle contendo informações a respeito dos espaços de memória livres e ocupados.

A persistência de dados é a melhor maneira de alocação dinâmica de memória, visto que arquivos podem ser seriais ou diretos. Arquivos seriais são acessados sequencialmente, enquanto arquivos diretos não precisam obedecer a essa regra.