Очень хочется посмотреть лог.
Из скринов видно, что запись лог файла у вас включена.
Пишется он в ту же папку, что и основной файл и имеет расширение .txt

У меня файл без компресии занимает 200 Гб - 3 часа. Настройки указаны в скрине выше

Лог, если это он :

Behold TV record log file

File: "C:\Beholder\Record\Video\(110625-150411).avi"
Date: 25.06.2011

////////////////////////////////////////////////////////////////////////////////////////////////////
// //
// * Record task description * //
// //
// Record mode........................: Microsoft AVI //
// Frame format.......................: 720x576, YUY2 //
// Frame rate.........................: 25.00 Fps //
// Video codec........................: Uncompressed video //
// Video buffering....................: 32 frames //
// AVI mux interleaving...............: None //
// AVI mux master stream..............: Audio //
// Use video processing...............: YES //
// Use frame cropping.................: NO //
// Use frame resizing.................: NO //
// Use video preview..................: YES //
// Use record audio stream............: YES //
// Audio record device................: Trident TM6010 //
// Audio codec........................: PCM //
// Audio codec format.................: 48.000 кГц; 16 бит; Стерео //
// Stop record if signal lost.........: YES //
// Process priority...................: Normal //
// //
////////////////////////////////////////////////////////////////////////////////////////////////////


15:04:12.187 Record task started success.
15:04:47.531 Record task stop.


////////////////////////////////////////////////////////////////////////////////////////////////////
// //
// * Record task statistics * //
// //
// Total captured frames..............: 881 //
// Total dropped frames...............: 0 //
// Average frame rate.................: 0,000 fps //
// //
////////////////////////////////////////////////////////////////////////////////////////////////////

Да нет. Не этот лог. С этим все понятно. Вояжер и ваш комп этот метод не потянут.
Лог , например MPEG, ГДЕ "КАЧЕСТВО ЗНАЧИТЕЛЬНО ХУЖЕ"!

File: "C:\Beholder\Record\Video\(110625-175529).mpg"
Date: 25.06.2011

////////////////////////////////////////////////////////////////////////////////////////////////////
// //
// * Record task description * //
// //
// Record mode........................: Software MPEG (InterVideo) //
// Encoder profile....................: MPEG2 Program Stream //
// Frame format.......................: 352x576, YUY2 //
// Frame rate.........................: 25.00 Fps //
// Video buffering....................: 32 frames //
// Video scan type....................: Progressive (DCT frame) //
// Video bitrate mode.................: VBR peak //
// Video bitrate......................: 6000 kBit/s //
// Video bitrate peak.................: 8000 kBit/s //
// Motion search complexity...........: 50% //
// Video GOP structure................: 15/3 //
// Aspect ratio.......................: 4:3 //
// Use frame cropping.................: NO //
// Use frame resizing.................: NO //
// Use video preview..................: YES //
// Use record audio stream............: YES //
// Audio record device................: Trident TM6010 //
// Audio format.......................: MPEG-1 Layer II //
// Audio sampling frequency...........: 48000 Hz //
// Audio channels encoding mode.......: Stereo //
// Audio bitrate......................: 224 kBit/s //
// MPEG file split....................: NO //
// Stop record if signal lost.........: YES //
// Process priority...................: Normal //
// //
////////////////////////////////////////////////////////////////////////////////////////////////////


17:55:29.343 Record task started success.
17:56:33.296 Record task stop.


////////////////////////////////////////////////////////////////////////////////////////////////////
// //
// * Record task statistics * //
// //
// Total captured frames..............: 1593 //
// Total dropped frames...............: 0 //
// Average frame rate.................: 24,975 fps //
// //
////////////////////////////////////////////////////////////////////////////////////////////////////

Где смотрим полученный файл? Без обработки, надеюсь.

Пытаюсь придумать, найти где выложить. Вы не подскажете где можно загрузить 1Гб видео? Выложу в avi и mpg для сравнения

закачиваю через http://ifolder.ru/ Потом кину ссылку

Да зачем сравнивать ... по логу понятно. Качать 1 гб никто не будет.
Как вы любите все усложнять!

похоже с вхсКИ вы желаете получить фуллАЩДИ что нереально...макс размер кадра 720х576.То что захватили в ави посмотрите штатным плеером винды или пауэр дивиди и при том при выводе в дивиди не будет артефактов и плохого качества как вам кажется.В пиннакл попробуйте захватиь в DV AVI по 5-10 минут

ок! Спасибо за помощь! Буду эксперементировать.

В итоге записал 2-мя частями. Рассинхронизации нет. Однако изначальный вопрос так и не решился. Не понятно почему не пишется звук в отдельный файл.