Как скачать большое количество файлов с разных URL?
Приветствую,
Есть порядка 100 000 ссылок на изображения (отдельных URL на разных доменах) которые нужно скачать.
Пробовал закинуть список URL в Flashget, Download Master - они подвисают.
Вариант разбить список на несколько частей не подходит так как потом будут еще URL.
Также:
- некоторые URL не действительные
- файлы на скачивание имеют одно и тоже название (image.jpg)
- Нужно знать какое изображение было скачано с какого URL, вести какой-то лог