Resposta:
Você pode definir a referência para o RF-COM5 em C# da seguinte forma (veja também a imagem):
No Explorador de Soluções no Solution Explorer, clique com o botão direito em "Referências" e selecione "Adicionar Referência..."
Na nova janela, forneça o caminho para Dlubal.RFEM5.dll através de "Procurar"
O caminho depende inicialmente da versão: "C:\Windows\Microsoft.NET\assembly\GAC_MSIL\Dlubal.RFEM5\...". Aqui, selecione a pasta com o número de versão mais alto.
Por último, é necessário configurar a propriedade de inserção dos tipos de interoperabilidade da referência para "False".