Если я правильно вас понял, то prevProps.data и this.props.data - это объекты.
Могу предположить каждый раз это ссылки на разные объекты, и вам нужно сравнивать конкретные свойства объекта.
Можно воспользоваться lodash и сделать так:
componentDidUpdate(prevProps) {
if (!_.isEqual(prevProps.data, this.props.data)) {
this.props.loadData();
}
}