Память умирает.

Может кто в курсе, в 64-битке при рендеринге HD проц сразу прыгает до максимума а потом прыгает от 0 до 20-30% а память показывает максимальную загрузку и до конца работы пока не закроешь вегас даже если перестать рендерить память больше не спускается вниз. Причем было 2gb теперь 4gb и все одно и тоже.

Сколько виртуальной памяти при этом используется?

Простите за непросвещенность, а как это узнать?

В таск менеджере на закладке счетчиков производительности, например. Точнее могу сказать из дома, если сами не разберетесь.

Судя по описанию с определенного момента просчет упирается в недостаток производительности жесткого диска (не обязательно обоснованную нагрузку).
Вариантов несколько (возможно, есть и другие):
1) Вегас и прочие участвующие в рендеринге вещи хотят использовать памяти больше, нежели есть на компьютере. То есть, суммарно виртуальной памяти в windows занимается больше, чем есть физической.
Тут windows начинает свопинг - часть оперативной памяти скидывается на диск, потом другая часть скидывается на диск, предыдущая считывается с диска и т.д.
Этот процесс сильно замедляет работу, но коли уж программам надо много памяти, никуда windows не деться - если не дать, то они вообще работать перестанут.
Проверьте загрузку виртуальной памяти во время рендеринга (физическую windows 7 занимает практически всегда на 100%, заполняя "ненужное" пространство дисковым кешем).
Если подозрения подтвердятся, то для начала стоит выгрузить из оперативной памяти миллионы полезных в другое время программ, дав Вегасу по возможности больше памяти.
Еще можно добавить оперативной памяти (опять же, если проблема действительно в этом).
Если же нет такой возможности, и придется работать через своп, постарайтесь выделить своп-файл на отдельный наиболее быстрый винчестер, чтобы его производительность в меньшей степени влияла на процесс.
2) Неудачное расположение файлов вкупе с общей их "пухлостью" забивают пропускную способность жесткого диска. Например, я столкнулся с подобным при просчёте неупакованного HD-источника. Тут все банально - не успевает система читать/писать данные. В таком случае исходники и результат рендеринга - на разные винчестеры, по возможности своп-файл и пререндеренные файлы на отдельные винчестеры.
3) Вы натолкнулись на баг кеширования в windows. Случается он следующим образом: кеш записи вытесняет из оперативной памяти данные программ (в частности, Вегаса). Но вытеснить рабочую память можно только на винчестер, который и так не успевает записывать то, что уже лежит в кеше.
Тут можно попробовать отключить кеширование на один из винчестеров, на которые ведется запись - делается это в свойствах диска. Для данного конкретного процесса хуже уже не будет, а данные будут писаться со скоростью, которую обеспечивает винчестер. Но эту опцию стоит рассматривать как "последний резерв", сначала проверив остальные.
И всяко лучше не шуровать там самому, если есть у Вас есть под рукой друзья, лучше разбирающиеся в компьютерах.