дебагер в Visual Studio намеренно заполняет неинициализированную память подобным "странным" мусором
Это и интересно узнать, потому что на разных компьютерах результат повторяется.
поскольку по СИ вообще не особо много информации
(abs(F - log(1-xn)) > eps)
atoi не модифицирует строку, так что ничего ломаться не должно. Видимо проблема в вашем коде.
А вообще strtok разбивает одну большую строку на несколько маленьких, заменяя разделители нулями.