Instalando TWRP en un dispositivo Samsung, sin fastboot (usando ADB u otras formas)

No hay modo fastboot en Samsung. Debes usar el modo ODIN, que es una alternativa al fastboot. En Linux hay una aplicación cliente llamada Heimdall que se comunica con los teléfonos a través del modo Odin. Así que la respuesta a tu pregunta es ODIN o Heimdall. ODIN es la aplicación PC propietaria de Samsung, Heimdall es la alternativa de código abierto multiplataforma.

Alternativamente, si eres capaz de rootear tu teléfono de alguna manera, puedes poner TWRP (u cualquier otra recuperación) en tu teléfono reescribiendo la partición de recuperación a través de shell, pero esto puede ser complicado y no lo recomendaría a menos que sepas exactamente lo que estás haciendo o estés dispuesto a correr el riesgo de brickar tu teléfono. Si estás interesado, puedo escribir también un tutorial genérico, pero prefiero dejarlo a alguien con más experiencia en eso, solo lo hice como 5 veces.