За возможность использование групп рассылок отвечает ваш почтовый сервер. Roundcube может брать адресную книгу из mysql/ldap. Если хотите совместимую с MS Outlook, то вам остается только ldap. Если в качестве ldap сервера использовать openldap, то его придется патчить(
victor-sudakov.livejournal.com/124269.html) и пересобирать для полной совместимости с Outlook.