En teoría al dar en Rec ya empieza a grabar, no te da alguna opción... Ya intentaste hacerlo desde otro navegador? Internet Explorer,Firefox, Google Chrome, Opera,etc.
sin embargo, si no puedes grabar en linea en ninguno. Puedes hacerlo en tu computadora y luego subir tu audio a soundcloud. Ahí donde te aparece el botón rec, al lado hay uno que dice subir archivo, le das click y subes tu audio.
Te recomiendo utilices el formato mp3 para que no sea pesado y no tengas ningún problema al subirlo.