Le square doit son nom à un estaminet désigné ainsi dès 1761-1763, où se déroule des bals pour enfants sous la Restauration. Au XIXème siècle, il sert également de local pour les réunions politiques. Il est finalement détruit en 1943 lors d'un bombardement anglais. En picard « ramponneau » signifie « filtre à café ».
