No guardes los datos de tu tarjeta de crédito. ( Editar: Acabo de probar, no se puede introducir información sin que se guarde. Uf). Puedes configurar un PIN en el Market, pero eso se soluciona fácilmente borrando los datos. Google Wallet (Checkout) no parece tener ninguna configuración de seguridad más allá de la necesidad de iniciar sesión, aunque obviamente las credenciales guardadas funcionan en Android.
Creo entonces que tu única opción (además de usar otro market) es usar un cifrado completo en el dispositivo como el que está presente en Honeycomb en combinación con una pantalla de bloqueo y no estar rooteado. Lo cual no descarta los exploits, pero si no hubiera riesgo de que tu CC se usara nefastamente tampoco sería utilizable por ti :P. Por supuesto, si te rootean el teléfono podrías simplemente cancelar tus tarjetas y/o avisar a la compañía de tu tarjeta de crédito sobre el riesgo o la realidad de las compras no autorizadas.
Google también te ayudará a solucionarlo :
Secuestro de cuentas
Si has creado previamente una cuenta de Google Wallet, y una persona no autorizada ha accedido a tu cuenta, por favor contacto con nosotros inmediatamente. Nuestra política de protección contra el fraude le cubre contra cualquier compra no autorizada que se haya realizado con su cuenta de Google. Si descubrimos que se ha realizado una compra no autorizada, nos aseguraremos de que no se te cobre por ella.