Разный ответ из-за
приоритета операций.
-1000 ** (1 / 3)
вычисляется на самом деле как
-(1000 ** (1 / 3))
Если вам интересно, почему в первом случае результат NaN - дело в том, что 1/3 не имеет точного представления в двоичной floating-point форме. Как и любая рациональная дробь, эта будет приближена некоторой дробью вида A/2
N (A - нечетное целое). Что равносильно извлечению N квадратных корней из отрицательного числа (-1000)^A