Après s'être placé quatrième à l'épreuve individuelle aux Jeux Olympiques en 1960, Balczo remporta l'or par équipe, cette même année. En 1968 il remporta la médaille d'argent en individuel et la médaille d'or par équipe. En 1972, à l'âge de 34 ans, il s'attribua le titre individuel ainsi qu'une médaille d'argent dans le concours par équipe, soit un total de cinq médailles olympiques (trois en or et deux en argent). Bien que champion du monde en titre, il ne concourut pas aux Jeux en 1964 mais son palmarès général demeure le meilleur de tous les pentathloniens modernes. Balczo, pour qui la course de fond était l'épreuve de prédilection, était mécanicien en machine à écrire.