Вначале обратите на настройку в macOS: General | Prefer tabs.
Если она стоит на Full screen, то соответственно нужно развернуть IntelliJ IDEA на весь экран и попробовать открыть новый проект.
Если значение на Always, то для открытия проектов как табы не нужно раскрывать IDE на весь экран.
https://www.youtube.com/watch?v=oRdpG80sRIs