Как написать нейросеть на языке программирования C#?

Очень сомнительная архитектура, я бы его переписал полностью, включая отказ от методов "сеттеров", на отдельный объект настроек передаваемый через конструктор.

Насчёт забывчивости, если что, желательно обучать нейронную сеть сразу всему набору данным, а не итерационно зацикливаться по одному до достижения низких результатов ошибок.

Ну или проблема в данных/реализации, подробнее рассмотреть проблему можем в дискорде, если есть время поболтать.