Prélèvement à mon insu suite à remboursement

Après avoir remboursé mes crédits immobiliers à la Caisse d'Épargne, ceci grâce à leurs décomptes envoyés chez mon Notaire à la vente de mon appartement, le service crédit immobilier à, quelques jours plus tard, prélevé 970 Euros de plus sur mon compte sans même me prévenir ni se justifier...
Non seulement cela est impensable de se faire prendre de l'argent de la sorte, mais en plus, personne n'a fait l'effort pour me contacter depuis lors!!!
Le responsable de mon compte m'explique que ce n'est pas "la banque" mais les "services crédits immobilier"qui sont responsable et que c'est normal car ils se sont trompé dans leur décompte ou ont oublié quelque chose!!!!
Il est incapable de me donner un contact (numéro de tel ou autre) et trouve surtout que "j'exagère" de me plaindre de la sorte!!!
Je n'est aucunement l'intention de simplement passer sur l'affaire, ce n'est pas de ma faute si "les services crédits immobiliers" ont fait une erreur de calcul ou autre.
De plus le courrier officiel reçu par mon Notaire lors de la vente spécifiait tous les détails de paiements et celui-ci est le document officiel permettant à mon Notaire de leur faire un chèque en mon nom. Je ne devrais donc pas être ponctionnée en plus de cela quelques jours plus tard.
Que puis-je faire, quel organisme ou qui puis-je contacter pour m'aider à récupérer mon du ou à demander des dédommagements ou/et réparations?