Retour de marchandise

Bonjour,
En panne de voiture, et ayant un besoin impératif de réparer, je suis allé acheter "en catastrophe" une batterie dans la station service la plus proche, que j'ai payé par carte bancaire.
cependant, après avoir essayé avec la nouvelle batterie, la voiture ne démarrait toujours pas.
Puisque le problème ne venait pas de la batterie, je la rapporte telle que je l'ai achetée au vendeur, qui me stipule sur le ticket "repris le" avec la date et le tampon de la station.
Aujourd'hui, je rappelle le gérant qui me dit qu'il ne veut pas annuler la vente mais que je peux venir chercher une autre batterie si besoin... ce qui n'est pas le cas puisque la panne vient d'ailleurs.
Dès lors :
- ne puis-je pas annuler l'achat ?
- et si j'annule la transaction auprès de ma banque, suis-je en faute et m'exposé-je à des soucis ultérieurs (poursuites, etc.) ?

Un grand merci par avance de vos retours et aide.