1) Эмулировать запросы, загрузку и выполнение js на страницах, поддержку кук.
2) Управление запросами и полученными данными на сервере, например, с помощью того же php.
Хотелось бы простоты, подобной тому же curl'у (он, естественно, не подходит сам по себе, так как не работает с js).
Не надо мучиться, напишите на моно простейшее консольное приложение использующее штатный контрол WebBrowser (при запуске под mono используется firefox), и пишите всю логику на javascript, запуская тут же на этой же странице на onload (точнее его аналог события на контроле).
Оно действительно получается очень простым, вся логика влезает в javascript с использованием jquery (его можно грузить в отличный от '$' идентификатор). И при этом запускается такое приложение на любом самом дешевом vps linux.
Я думаю между этим приложением и своим на php обмен сообщениями осилите c простейшими push ajax запросами или даже websocket?
1) сохраняете станицы, получающиеся после выполнения на них js-скриптов в файлы
2) и потом уже с помощью php или любого другого языка программирования обрабатываете эти файлы и делаете с ними, что хотите