рекомендовал бы помотреть в сторону AMF3.
Это родной для flash/flex формат передачи данный.
На серверной стороне если php то Zend_Amf (http://framework.zend.com/download/amf) или php-amf3 (http://sourceforge.net/projects/php-amf3/), последний в разы быстрее, если python тогда pyAMF в связке с django, twisted или чего-то другого по вкусу )) про java не в курсе.
