¿Cómo puedo engañar o forzar una aplicación para que funcione en un dispositivo no compatible?

No puedes forzarlo a que funcione. Puede que haya trucos para hacer creer a la aplicación que está en otro dispositivo, pero en el caso de la aplicación específica (reproducción de vídeo), es casi seguro que se niega a reproducirse porque NO PUEDE.

El hardware del dispositivo es probablemente algo que los desarrolladores no anticiparon, o que la aplicación puede decir que no es lo suficientemente rápido para funcionar. Incluso si encuentras alguna forma de fingir y hacer que lo intente, sólo se bloqueará o se reproducirá tan lentamente que no se podrá ver.

Podrías desmontar la aplicación usando apktool y luego editar el smali, pero como se mencionó en respuestas anteriores aquí, eso todavía llevaría a problemas. Lo más probable es que los desarrolladores hicieron la aplicación de esa manera porque su dispositivo no era capaz de reproducir.

Si estás realmente interesado en tratar de editar el smali de la aplicación, hazlo: https://code.google.com/p/Android-apktool/

Lo que estás haciendo no es recomendable. Hay una razón por la que los desarrolladores de aplicaciones limitan la instalación a determinados dispositivos. A saber:

1. Versión para Android
2. Arquitectura del procesador/GPU
3. Chipset/Junta Directiva/RAM
4. Tamaño de la pantalla/Densidad/Resolución

Esto es para asegurar una buena, consistente y rápida experiencia del usuario tanto como sea posible.