аз използвам тая система - http://net.tutsplus.com/tutorials/javascript-ajax/how-to-create-a-simple-web-based-chat-application/
Записва съобщенията в един лог файл, който после се презарежда на 2.5 секунди (или колкото му зададеш) без да рефрешва самия чат.