Нашел решение.
Для Atmel studio надо было изменить настройки компилятора.
Для того, чтобы он выводил числа float b double.
поставить галочку vprintf library(-Wl,-u,vfprintf).
И установить флаг -lprintf_flt
Подробнее здесь
https://startingelectronics.org/articles/atmel-AVR... 
