ここらへんが参考になるかと思います。
第177回　サウンドシステムの使いこなし @ Ubuntu Weekly Recipe

KeyholeTVはダイレクトにサウンドデバイスに音声出力してしまうため、サウンドデバイスを占有してしまいます。

YouTubeはAdobe Flash Playerを再生ソフトウェアとしていて、PulseAudioに音声出力します。PulseAudioはKeyholeTVと同様サウンドデバイスを占有しますが、ソフトウェアからの音声出力をミックスしてひとつの音声としてサウンドデバイスに出力します。Ubuntuで標準で使うことのできるソフトウェアはたいてい、PulseAudioに音声出力するように設定されています。そのため、特定のソフトウェアがサウンドデバイスを占有してしまうという状況を防いでいます。

そのため、KeyholeTVとそれ以外のソフトウェアを併用するのは不可能です。

私のPC（ubuntu11.04）ではkeyholetvの設定を変更して、KeyholetvとYoutubeも同時視聴できてます。

Keyhoketvのオーディオ/ビデオの設定で、ESDを選らんで適応クリックします。ESDを選べば、Pulseaudio経由で音声が出力されます。後は、番組を選べば良いと思います。

上記で出来ない場合は、コマンドでpadspを使い、Keyholetvの音声をPulseaudio経由で出力せています。

端末から
padsp lkeyholetv
で、Keyholetvを起動させます。
Keyhoketvのオーディオ/ビデオの設定で、ESD又は、UNIX DSPを選らんで適応クリックします。Pulseaudio経由で音声が出力されます。