Prototype - широкое понятие, обозначающее макет интерфейса, может быть очень разной степени подробности. Wireframe - набросок интерфейса, который показывает, где что должно быть расположено, но не вдаваясь в детали внешнего вида. User flow - схема, показывающая последовательность действий пользователя, может быть совершенно абстрактной, может быть поверх макета.