Las otras respuestas son correctas, pero no señalan un par de diferencias:
Permisos
Las aplicaciones del sistema tienen la capacidad de solicitar ciertos permisos exclusivos del sistema que nunca están disponibles para las aplicaciones del usuario. Esto es no lo mismo que los permisos Root/sudo/su.
Un ejemplo que conozco y utilizo a diario es la posibilidad de restablecer el contador de notificaciones de llamadas perdidas. Tengo Go Dialer, que es un sustituto de la aplicación de marcación y contacto de serie (la forma en que se realizan las llamadas telefónicas). Cuando pierdo una llamada, Android me lo hace saber con una notificación. Sin embargo, Go Dialer no puede restablecer este contador, a pesar de que pide ese permiso cuando instalas la aplicación. Android 2.2 y anteriores permitían a las aplicaciones de usuario restablecerlo, pero hicieron de este permiso un permiso accesible sólo por el sistema para Android 2.3
Al mover mi aplicación Go Dialer a la partición del sistema, se permite restablecer este contador. La aplicación no necesita root (excepto, por supuesto, para mover la aplicación a la partición del sistema).
Otro permiso del sistema es la capacidad de establecer la ubicación gps actual. Ahora, Android tiene una preferencia en la que se pueden permitir las ubicaciones falsas, por lo que cualquier aplicación de falsificación de gps que se instale puede declarar una ubicación gps. Pero si la aplicación está en la partición del sistema, las ubicaciones falsas pueden ser desactivadas, mientras que la aplicación puede falsificar la ubicación gps.
Actualizaciones
Las aplicaciones del sistema se pueden actualizar igual que las aplicaciones del usuario, pero la actualización nunca se integra en la rom original. Es decir, las aplicaciones del sistema tienen la capacidad única de volver a la versión que existía cuando se instaló la rom por primera vez.
Mudanza a SD
Android permite a los usuarios moverse user
aplicaciones de la memoria interna a la tarjeta sd. Las aplicaciones del sistema no se pueden mover y siempre ocupan algo de espacio interno. Sin embargo, la mayoría de los dispositivos (¿todos?) tienen aplicaciones de usuario internas en una partición diferente, por lo que la desinstalación de una aplicación del sistema no le daría más espacio para aplicaciones de usuario (aparte de la eliminación de la caché dalvik).
Recuperarás algo de espacio si desinstalas las actualizaciones de una aplicación del sistema. Como se ha dicho, las actualizaciones no están integradas en la rom y por tanto se almacenan en el espacio de usuario. Las actualizaciones tampoco pueden pasar a la tarjeta sd, pero si se eliminan, se recupera espacio de usuario.
Cómo le afecta a usted
Si eres un usuario ocasional de Android, es probable que no te encuentres con escenarios en los que la aplicación del sistema frente a la del usuario suponga una diferencia. Si eres un usuario avanzado, es probable que tengas Root y puedas cambiar una aplicación de sistema a usuario (y viceversa) si alguna vez te encuentras con una de estas situaciones.