Рекурсия вам в помощь. Выбираете все коменты у которых parent_comment_id = 0 и для каждого из них выполняете рекурсивно функцию get_child_comments($comment_id).
Структура таблицы БД примерно такая: comment_id(int), parent_comment_id(int), comment_text(text) и дальше по желанию.