¿Qué método utiliza Monospace para el cifrado?

Mirando el código fuente descompilado no lo llamaría "encriptación".

En su lugar, los textos "encriptados" son simplemente el texto markdown codificado usando base64 más la contraseña con hash SHA-256 añadida:

Desde com.underwood.monospace.main.MainActivityFragment.encryptText() :

 this.mEncryptedText = Utils.base64Encode(new SpannableToMarkdown(
    new WeakReference(getActivity())).toMarkdown(this.mEditText.getText())) + 
    "\n" + this.mHashedPassword;