https://golang.org/doc/go1.12#runtime
Там можно прочитать про MADV_FREE.
Т.е. поведение по умолчанию освобождает память, но ядро не забирает освободившуюся память, если в ней нет необходимости. Предлагаю провести тест отключив этот флаг. В таком случае, как я полагаю, память будет возвращена немедленно.
Я не знаю деталей того, зачем вам понадобилось оптимизировать работу памяти. Я бы не приступал к этому процессу без конкретных причин.
Этот флаг скажется на производительности, поэтому если память не нужна хосту немедленно, не стоит её возвращать принудительно.
Следует мониторить метрики хоста и приложения, иметь оповещения на отклонения от нормы и только в случаях отклонения приступать к оптимизации работы компонентов приложения и ос.