Самба -- это и есть контроллер домена. Так что если вы хотите реализовать контроллер домена на юниксах, то без самбы обойтись нельзя :-)
OpenLDAP -- это хранилище учётных данных для домена. База данных для учёток, иными словами.
По-моему, как раз без OpenLDAP можно обойтись при реализации домена, но никак не без самбы.