HAML компилируется в html также как и дефолтные для рельсов html.erb, но если во втором случае используется html с вкраплениями ruby кода, то у хамла отличный синтаксис без скобочек и закрывающих тэгов. Использовать просто - прописываем гем в гемфайл и создаем вьюшки уже с таким расширением, на сервере соберется хтмль в результате. Стоит ли использовать - дело вкуса, многим нравится, т.к. выглядит симпатичнее из-за меньшего кол-ва символов.
SASS - позволяет объявлять переменные, циклы, объекты на цсс, что значительно ускоряет работу. Если незнакомы с ним, то в файлы с расширением .scss можно писать и обычный цсс и постепенно рефакторить переводя на SASS - это очень удобно.