Если изображение открывается на отдельной странце, то там уже есть стандартная форма комментариев.
Если же надо коменты в лайтбоксе, как во ВКонтакте, то… я бы мог дать ссылку, как руками их туда воткнуть, но вам проще будет воспользоваться плагином wordpress.org/extend/plugins/lazyest-gallery/, там это уже реализовано.
Можно обойтись без всяких плагинов, в галерее устанавливаете ссылки с миниатюр на «Страница вложения», если шаблон делали не сами то скорее всего там уже есть файл attachment.php, который и отвечает за оформление страницы вложения, ну а если сами то создаете такой файл, ну и соответственно делаете нужно вам оформление.
на фри-лансе/he пол-года назад человек написа и выложил в репо wp изумительный плагин, типа фейсбучного или вконтактовского. как найти — сообщество wordpress.
Советую набор официальный плагинов Jetpack. Не более месяца назад они сделали у себя крупное обновление и добавили галерею по типу контактовской. Кроме того они собирают и предоставляют информацию о популярных страницах, посетителях и источниках, как если бы блог хостился на wordpress.com