Pita, tente o seguinte:
Crie um novo projeto nativo dentro da solução.
adiciona a dll
selecione propriedades do projeto nativo e informe a plataforma 86x
No projeto da aplicação insira algo como:
declare myClass as type solution.projectNative = new solution.projetcNative()
declare myString as string = "visual cobol"
invoke myClass::nameMethod(myString)
display myString.
Penso que isso irá te ajudar.