En 1985 el Arzobispo de Bs. As. aprueba los planos para la construcción de un nuevo templo que reemplazó a la "Iglesia Primitiva" ubicada a 100 mts. de la actual iglesia. El nombre San José se decide por licitación pública y se debe al patrono del trabajo ya que por ese entonces Olavarría era conocida como la ciudad del trabajo.
La nueva iglesia se construyó en una superficie de 50 metros por 22, en estilo europeo clásico, con dos torres y el campanario. En su interior una nave central y dos laterales con techos abovedados, aberturas vidriadas, altar central y altares laterales menores, coro, atrio, púlpito y sin retablo (en su lugar existe un vitraux)