polyhedron

Для anomaly detection могу посоветовать использовать в качестве параметра агрегированный показатель количества пакетов, т.е. для каждого наблюдения считать сумму / среднее количество пакетов за период n. Можно попробовать использовать в качестве разных фич агрегацию за периоды разной продолжительности.

Я использую оба языка, и, признаться, R мне нравится больше. И вы правы, что там есть пакеты абсолютно для всего. Но Python обладает рядом преимуществ, главным из которых является развитая экосистема языка. Преимущества Python очень хорошо описаны тут. Вообще, в этом блоге есть много интересных статей как по Python, так и по R. Что касается deep learning, то для Python есть замечательная библиотека Theano.
Я бы порекомендовал сосредоточиться на Python, но R также не забывать на случай если понадобятся методы, не реализованные в Python, или будете работать с людьми, знающими только R.