Понял в чем дело.
До этого в этом окружении был инсталлирован пакет pyTelegramBotAPI
Я его деинсталлировал через pip.
pip удалил его, а все остальное осталось.
Удалил полностью виртуальное окружение и инсталлировал пакет aiogram.
Все работает, правдв вылезли другие ошибки, но это уже решаемо