Finalmente encontré como instalarlo, por alguna razón el installManager no toma los parámetros de línea de comando necesarios si se executa desde el archivo PinnacleStudio18_ULT_64bit_Setup.exe. Una vez que se descomprimió generé un acceso directo con los paramentros /s/v/qn/l1034 y comenzó a instalar, también hay que descomprimir el .cab1 que esta en el archivo lame y copiarlo a la carpeta Studio, sino no lo encuentra.
Finalmente instalar los pack de contenido, y luego la actualización a 18.5 y luego a 18.6 y todo parece funcionar en Windows 10.

Gracias Nuevamente!!!