1) На балкон водружать не советую. Зимой - холодно, а сильный холод не всегда полезен железу. В ЦОДах температура около 20 градусов. И этого вполне хватает.
2) Систему советую поставить UbuntuServer. Она хороша, и заморачиваться особо с ней не приходится.
3) Файлообменник сделайте через расшаренную папку (для форточек, если требуется) с помощью samb'ы. + у меня стоит ownCloud. Очень удобная штука. Не буду перечислять всех плюсов собственного облачного хранилища в нынешние дни, но держать информацию у себя, зная что ее никто не украдет, прочитает и.т.п. бесценно.
4) По поводу ОЗУ скажу так: У меня HP Proliant Microserver как домашний сервер. Там стоит DualCore от AMD с частотой 1,5GHz и 2ГБ ОЗУ. И под этим крутится WinServer 2008R2? файлообименник, торрент качала, VPN + Hyper-V с Ubuntu server к которому прикручена система мониторинга. И пока все работает на ура, пожирая не более 1 ГБ ОЗУ.
5) По поводу торрент качалки под Linux:
forum.ubuntu.ru/index.php?topic=29576.0
обязательно устанавливайте web-интерфейс. Штука удобнейшая. У меня стоит Transmission, но он не консольный.
Вроде и все.