Refus fermeture compte caisse épargne

Bonjour,
A la naissance de mon fils dans le cadeau de la maternité il y avait un chèque-cadeau à déposer à la caisse d'épargne afin d'ouvrir un compte au nouveau né.. 100 fr.. et un autre au Crédit Mutuel..de 50 fr.. J'ai ouvert ces comptes, mais aucun d'eux n'a été provisionné par la suite..
J'ai souhaité fermer ces comptes aujourd'hui.. (J'ai ouvert un compte épargne jeune dans une autre banque, mieux rémunéré..) Le crédit mutuel m'a dit que je n'avais pas le droit d'avoir plusieurs compte d'épargne pour un mineur.. ? Mais a accepté la fermeture ..
La caisse d'épargne, elle, m'a refusé la fermeture de ce compte.. Il faudrait attendre la majorité de notre fils qui aujourd'hui a 13 ans.. car il s'agissait d'un chèque naissance.. La somme est dérisoire (30 €).. Est-ce normal ? Et sur le fait d'avoir plusieurs comptes, il m'a été dit que c'était totalement légal..
Qui croire ? Que faire ? Si quelqu'un a eu la même expérience un conseil serait le bienvenu..