Antes mesmo da emancipação de Varginha, em 1882, o Distrito das Catanduvas já possuída uma pequena cadeia, construída entre 1850 e 1881, mais tarde ampliada em um momento de disputas de oligarguias regionais pelo controle do poder. A época era da consolidação da República em 1888. Entre 1915 e 1918, houve a mudança do local e a construção de uma nova cadeia pública, na praça João Gonzaga. A cadeia e o fórum funcionavam no mesmo lugar. Hoje, no prédio construído no estilo neo-clássico permanece apenas a Polícia Civil. O fórum foi transferido para outra sede, na rua presidente Antônio Carlos, em 1926 (antigo Palacete Vila Vica). Em setembro de 1976 foi inaugurada uma sala anexa à delegacia, destinada ao setor de identificação. Na mesma época, alguns presos da cadeia faziam pipas e papagaios e vendiam para as crianças da cidade. O tombamento do prédio da praça João Gonzaga ocorreu em 1999.