Можно назначить вызов fancybox внутри самого содержимого через параметр onclick:
<li><a rel="gallery" href="/files/img/01.jpg" title="sometitle" onclick="$.fancybox(this);return false;"><img src="/files/img/prev_01.jpg" alt="" /></a></li>
Связать фотографии в одну галлерею можно попробовать следующим способом:
<li><a rel="gallery" href="/files/img/01.jpg" title="sometitle" class="fancybox"><img src="/files/img/prev_01.jpg" alt="" /></a></li>
<li><a rel="gallery" href="/files/img/02.jpg" title="sometitle1" class="fancybox"><img src="/files/img/prev_02.jpg" alt="" /></a></li>
<script type="text/javascript">$("a.fancybox").attr('rel', 'gallery').fancybox();</script>