TL;DR
El tamaño de almacenamiento de mi sistema no dejaba de aumentar en mi Pixel 4a con Android 12 (situación similar a la del OP). Pude recuperarlo guardando grandes archivos ficticios en el almacenamiento libre (en el lado del usuario, almacenamiento interno) y luego eliminándolos de nuevo.
Instrucciones detalladas
Elige un archivo grande que tengas a mano: película, ISO de Linux, ROM de Android, etc. Crea varias carpetas dentro del almacenamiento interno con nombres ficticios y copia el mismo archivo en cada una de las carpetas. Verás cómo el tamaño de almacenamiento del sistema se reduce a medida que utilizas más y más espacio en el lado del usuario. Una vez que el almacenamiento del sistema se haya reducido un poco, puede copiar el siguiente lote de archivos. Y así sucesivamente.
Mi experiencia
En mi caso, empecé con un sistema de almacenamiento que utilizaba 72 GB de mi memoria de 128 GB y terminé con sólo 14 GB de almacenamiento del sistema, liberando así casi 60 GB. Descubrí que Android libera 1 GB cuando el almacenamiento está lleno, así que trabajé con unos 700 MB de archivos a la vez.
Cómo optimizar el proceso
Descubrí que usar un servidor FTP en mi teléfono y subir el archivo desde mi PC ralentizaba el proceso de forma que Android podía seguir el ritmo de la copia y liberar suficiente almacenamiento a tiempo para el siguiente archivo. Por lo tanto, preparé una gran cantidad de archivos en mi PC y lo dejé funcionar durante una hora, hasta que apareció una advertencia de que mi teléfono se está quedando sin almacenamiento. Tuve que trastear un poco porque muchas aplicaciones se bloqueaban en ese momento, pero después de liberar algo de almacenamiento el teléfono volvió a funcionar con normalidad.
Mi teoría de por qué funciona (al menos para mí)
La razón de ser de este mecanismo es que Android (al menos las versiones recientes) utilizará todo el almacenamiento libre que pueda para su uso interno, especialmente la caché de los componentes del sistema. Mucha gente ya insinúa este comportamiento en Internet y recomienda borrar la caché de aplicaciones, cosa que yo hice sin resultado. El problema es que mientras que el usuario puede vaciar la caché de las aplicaciones instaladas por el usuario, la caché de los componentes del sistema no se puede borrar sin rootear el teléfono o hacer un restablecimiento de fábrica y ninguno es práctico para el uso diario. Supuse que Android cedería ese almacenamiento cuando el usuario lo necesitara y funcionó.
Últimas palabras
Así que, al final, es probable que el aumento continuo del tamaño de almacenamiento del sistema no sea un problema que requiera solución. Sin embargo, es desafortunado e inconveniente que Android muestre el almacenamiento interno como lleno cuando en realidad no lo está y presione al usuario para que borre fotos y vídeos "inútiles" en lugar de limpiar todo el desorden dentro del almacenamiento del sistema.
Referencias
Este problema está documentado en distintos lugares:
0 votos
Aunque hubiera toneladas de "memoria del sistema" libres: no podrías hacer nada con ellas. El almacenamiento del sistema está reservado para el sistema (oh, y para el bloat indeleble preinstalado, por supuesto) - y montado de sólo lectura. Así que para instalar aplicaciones y hacer que almacenen sus datos, esa zona no está disponible de ninguna manera.