En los años 60, Gerhard Mitter era uno de los pilotos a batir, ya fuera con un coche de la categoría Sport, en turismo, en fórmula o en un prototipo; en circuito o en montaña. Después de su éxitos iniciales durante los años 50 como piloto de motos, en 1959 Mitter se cambió a los coches. Tras una etapa de aprendizaje como mecánico, comenzó en Fórmula Junior y se convirtió en el piloto alemán más exitoso de esta categoría. En ese periodo captó la atención por la puesta a punto de sus propios coches y por pilotar con motores DKW más potentes.
En 1964, Mitter se convirtió en piloto de Porsche y poco después entró en el Campeonato Europeo de Montaña, siguiendo los pasos de Edgar Barth, que murió en 1965. Como Barth, Mitter logró tres títulos en el Campeonato de Europa de Montaña en tres años consecutivos. En 1966, lo hizo con el Porsche 906 Carrera 6. En 1967 y 1968 defendió su título con el Porsche 910/8 Bergspyder. Con su habilidad para concentrar toda su energía durante unos pocos minutos, Mitter se convirtió en prácticamente imbatible en las carreras de montaña.
El 4 de mayo de 1969, Gerhard Mitter celebró su mayor victoria. Junto con su compañero Udo Schütz, ganó la Targa Florio con el Porsche 908/02. Apenas una semana después corrió en Spa-Francorchamps con el nuevo Porsche 917, que hacía su debut en competición. Aunque un muelle de válvula roto le obligó a retirarse después de una vuelta, fue en ese año cuando formó parte del equipo oficial que ganó el primer Campeonato del Mundo de Marcas en la historia de Porsche. Al mismo tiempo, por su capacidad técnica se convirtió en el principal interlocutor de los ingenieros Peter Falk y Hans Mezger.
A pesar de su éxito en el Campeonato de Europa de Montaña, en el Campeonato del Mundo de Sport y en el Campeonato del Mundo de Marcas, Mitter nunca abandonó su carrera en monoplazas. Estaba a punto de dar el salto a la Fórmula 1, en 1970, y ya había firmado un contrato con Ford. Pero el 1 de agosto de 1969, el Fórmula 2 de BMW que pilotaba en Nürburgring tuvo seguramente un fallo en la dirección. Gerhard Mitter se estrelló entre los tramos Flugplatz y Schwedenkreuz y murió a los 33 años.