Вообще 12-я мне очень не нравилась, но подобный дефект встречал и в других версиях, правда всего пару раз. Конечно не видно,что вы там делаете, поэтому постараюсь все версии.
1. Пиннакл не любит разные форматы видео в одном проекте, лучше перед монтажом их привести к avi.
2. Сложные спецэффекты, такие, как плагины серии ADO или VITA, а особенно других сторонних производителей иногда могут давать сбой при выводе.
3. Наличие в системе пакета кодаков К-LITE очень негативно влияет на качество обработки и так же может привести к непредсказуемым результатам.
4. Перед монтажлм фотографии желательно уменьшить до небольшого размера (программа всё равно их конвертирует в 720*576), тогда ей легче работать.
5. Запустить фоновый просчёт до окончательного вывода проекта.
Теперь, что делать? Попробуй сделать короткий тестовый проект, попроще, без каких-то особых переходов, спецэффектов. Если всё нормально, смотри, что можно заменить или вообще неиспользовать в осн. проекте. Если же дефект появляется вновь, возможно причина в системе (те же кодаки, например).