по этому куску особо не скажешь ничего, поэтому пока предположение общего характера: у вас там не целые числа в параметрах? вы их трактуете как числа с плавающей точкой, а что там на самом деле передаётся?
ладно, а что дальше происходит с результатом этого вычисления? он используется в качестве глубины? в смысле, если смотреть сверху на ваши странные объекты, то будет график этой функции?
если так, то может оно и правильно? при определённых значениях того fi, как раз такой зазубренный график и получается. просто мелко очень, растянуть надо бы