попробуйте воспользоваться атрибутом sx

sx={{
[`.MuiPagination-ul li:nth-child(${neededPage})`]: {
background: "red"
}

https://codesandbox.io/s/pensive-beaver-5fursj?fil...

list-style применяется к. элементам dd, dt, li, ol и ul, а также ко всем элементам, у которых указано display: list-itemу; у summary по умолчанию свойство display в значении list-item, потому данное свойство поддерживается
добавьте в css:
summary {
list-style-position: outside
}
в моем случае, правда, понадобилось добавить еще details{ padding-left: 10px} а то в целом весь дивчик убегает за край, но это я глубоко не вникала, но в целом мой совет - поиграйтесь с list-style