Скорее всего, максимальное число продуктов упрется только в размерность автоинкрементируемых полей в БД Первая закончится catalog_product_entity_int или catalog_product_entity_varchar.
То есть, теоретически, максимальное количество продуктов = 4294967295(max. unsigned integer) / количество атрибутов.
Где "количество атрибутов" - не всех, а только одного типа, к которому принадлежит больше атрибутов.
Я никогда с таким не сталкивался и скорее всего у вас с этим проблем не возникнет (хотя однажды благодаря стороннему модулю у нас закончился core_store, а кто бы мог подумать).
Количество продуктов не особо влияет на требования к хостингу (разве что надо прикинуть сколько места понадобится для картинок), тут скорее нужно исходить из ожидаемой посещаемости
