Работаю с Сонькой уже около 3 лет, так что посоветовать могу:
1) 10-й вегас бяка, лучше ставить 8-й или 9-й, но лучше 8-й
2) Удобнее сохранять в формате wmv, занимает на много меньше места и конвертирует быстрее, в качестве потери нет, а если и есть, то оооочень маленькая)
3) Если так принципиально нужен avi, то по перед конвертированием нужно выбрать кодек, который будет все сжимать) Честно говоря, таким не пользовался, так что сказать название точно не могу. Но вроде XviD MPEG-4 Codec. Но он такой не один)