Если кому-то поможет - использовал следующую формулу:
((avg_over_time(node_memory_MemFree_bytes{instance="b2sr:9100"}[5m]))/1073741824)/((avg_over_time(node_memory_MemFree_bytes{instance="b2sr:9100"}[10m:5m]))/1073741824)
А алертменеджере выставил ее со значением > 1.5, проверить пока не проверил в бою, но в целом логика, по моему мнению, должна отрабатывать