Непонятно, как вы можете противопоставлять IDE и язык, а Matlab обзывать IDE?
Это все как сравнивать теплое с мягким.
Если вас интересует, что именно используют в математике - то это Matlab - если денжат хватит, и если готовы оставаться в заложниках одной фирмы-разработчика.
Или Python, где есть практически все, что есть в Matlab - но бесплатно. (Open-Source). И численные методы, и символьные, и Machine Learning и Deep Learning, и много много чего еще.
А вот к Python можно уже "приложиться" через IDE (Integrated Development Environment), которых сегодня есть много и разных. От совершенно классических - MS Visual Studio Code или PyCharm до более привычных для тех, кто работал с Matlab или R - например Spyder. Или какая экзотика типа Atom. Да хоть Notepad+ c соответствующими добавочными пакетами.
Jupiter - это IDE доступный через броузер, плюс фишки типа удобства верстки сопутствующих текстов, составление обучающих контентов (говорят - "блокнотов") и пр. Сложные вещи там делать не очень, но небольшие "поделки" - вполне нормально. Кроме того, есть еще и облачные сервисы, IDE которых построен тоже по принципу "блокнота" с небольшими вариациями.
А в общем- главное, не на чем делать, а что делать и как делать. Поэтому IDE не должен становиться ни ограничением, ни надеждой разработчика. Просто инструмент.
