Такие задания всегда решаются перебором, угадыванием и знанием закономерностей для уменьшения перебора.
Например в этом задании мы знаем что в качестве звёздочки могут быть только 0 и 5, но ноль не подходит, т.к. число не может начинаться с 0 (это тоже стандартное ограничение таких задач).
Ещё можно заметить что треугольник может быть только 1, 2 или 3, т.к. остальные цифры при умножении на 3 дают двузначное число, т.е. результат этой суммы был бы четырёхзначным.