OLZ1

Масштабирование данных - один из основных шагов. К тому же признаки вашего набора данных имеют разный масштаб, поэтому перед обучением ИНС выполняйте масштабирование данных. Обычно делают отдельное масштабирование для входного вектора (Х) и целевого (Y) по причине меньшего объёма кода при выполнении оценки результатов.
Пробовали разные архитектуры модели? Где у вас функция активации для всех слоёв (кроме выходного)? Размер batch_size=1 тоже вызывает удивление.
Поищите статьи в интернете про реккуретные нейронные сети. Я бы вам порекомендовал начать с этой: ссылка.

В вашем случае задача сводится к предсказанию количества. Сперва попробуйте решить её с помощью "классических" методов машинного обучения (например, линейной регрессией). Ссылка на блиц-проверку. А там необходимоть в ИНС отпадёт.)

Есть вектор значений, размерность которого примерно 50

Маловато будет: ссылка. Попробуйте увеличить размерность, если это, конечно, возможно.
Советую ознакомиться с моей статейкой: ссылка.

Да-а, сперва завис над "Очевидно, что с такими малыми значениями сеть не обучиться".)) Почему вы так считаете?
Как правило, на вход нейронных сетей данные подаются в отмасштабированном (нормализованном виде). Поэтому сперва переведите матрицы X_train и X_test из целочисленных значений на отрезке [0,255] (image набора данных MNIST) к вещественным на [0,1].
Вероятно, у вас не совсем подходящая архитектура сети. Опирайтесь на образец: ссылка, благодаря которому набор данных MNIST "расщёлкали" с эффективностью 99.25%.

Начните с самого простого:
Нейронные сети для начинающих. Часть 1
Нейронные сети для начинающих. Часть 2
Далее хорошим шагом будем прочтение книги "Создаем нейронную сеть" (ав. Рашид Т.).