Os vídeos em RMVB são feitos para tocar com o Real Player, é um formato proprietário (fechado) que nem todos os tocadores de vídeo podem reproduzir. Se você quiser extrair cada gota de desempenho do processador para decodificar esses vídeos, vale a pena usar o Real Player, que tem versão gratuita e pode ser baixado no site oficial:
Mas não precisa ser necessariamente só com ele. Programas como o MPlayer tocam arquivos do Real também, existem várias interfaces para o MPlayer no Windows, como o SMPlayer e o Mondego MP, este último com parte do desenvolvimento pelo Marcos Elias aqui do Explorando. Ele toca vários formatos de vídeo.
Outra forma é baixar um pacote de codecs, que permitem que vários vídeos funcionem na maioria dos tocadores que usam os codecs disponíveis no sistema. Um bastante conhecido é o K-Lite Codec Pack, mas existem muitos. Fique esperto na hora de baixar, pois há algumas pessoas que distribuem arquivos maliciosos disfarçados de pacotes de codecs.