¿Hay alguna forma de evitar que determinadas aplicaciones utilicen la funcionalidad/permisos de geolocalización cuando no se ejecutan en primer plano?

Sí y no.

Algunas versiones de Android permiten controlar un gestor de actividades en segundo plano. En Android 9, la función de Batería Adaptativa puede utilizarse para forzar que ciertas aplicaciones no se ejecuten en segundo plano. También hay aplicaciones alternativas de terceros que pueden proporcionar la misma funcionalidad. Esto significa que hay una manera para evitar la geolocalización siempre que la aplicación no esté en primer plano.

Sin embargo, si necesita mantener la aplicación en funcionamiento mientras está en segundo plano, o si está interesado específicamente sólo en un permisos la respuesta es no, no sin Root.

Con Root se podría configurar una app como Tasker para que ejecute una tarea que modifique los permisos de otra app cada vez que se active. Ver por ejemplo este post de Reddit: https://www.reddit.com/r/tasker/comments/79yjrl/change_other_app_permissions/