Ao longo dos seus quase 45 anos de carreira como destacado actor secundário, Herrmann participou em filmes tão conhecidos quanto "O Grande Gatsby" (1974), "Annie" (1982), "A Rosa Púrpura do Cairo" (1985), "The Lost Boys - Os Rapazes da Noite" (1987), "Riquinho" (1994), "Nixon" (1995) e "O Aviador" (2004) e em séries televisivas como "Gilmore Girls" (2000-2007), "Anatomia de Grey" (durante alguns episódios da quarta temporada) e "The Good Wife" (2010-2013).
Tinha 71 anos.