Il calcio della Germania dell'Est è stata un lungo dominio della Dynamo Berlino, un club legato alla Stasi, della Dynamo Dresda e della Lokomotive Lispsia. Capitava, a volte, che questo dominio venisse interrotto da altri club, uno dei quali fu il Carl Zeiss Jena (o FCC).
Come molti altri club dell'ex Repubblica Democratica di Germania, il Carl Zeiss Jena non ha avuto sempre lo stesso nome. Prima della guerra, il club principale della città era lo SV Jena, che nel 1946 cambiò in SG Ernst Abbe Jena. Mentre un certo numero di stadi della DDR vennero ben presto associati a funzionari comunisti e politici del regime, quello di Jena è stato uno dei pochi a fare eccezione, con un nome che sarebbe sopravvissuto ai grandi cambiamenti dei primi anni '90. Originario della città, Ernst Abbe era un fisico, specialista in ottica e uno dei fondatori della Carl Zeiss AG. E mentre gli stadi Ernst Thälmanns e Otto Grotewohls sarebbero stati spazzati via dal tempo, l'Ernst-Abbe-Stadion è ancora lì, con il suo nome.
Pur avendo difficoltà nel farsi largo tra le squadre sponsorizzate dal regime, la FCC riuscì comunque a ritagliarsi quache momento di gloria, sottraendo qualche trofeo a quelle bacheche sempre pù ricche. Nel 1960 riusciva a vincere la Coppa della Germania Est, la FDGB-Pokal (o Coppa della Federazione Sindacale Tedesca Libera) e tre anni dopo conquistava il suo primo titolo nazionale vincendo la DDR-Oberliga.
Dopo la vittoria del 1960, replicarono il successo in coppa nel 1972, 1974 e 1980, aggiungendo anche altre due vittorie del campionato nel 1968 e nel 1970. Lo FCC finì per ben 9 volte al secondo posto.
Nelle competizioni europee, il club della Turingia si è sempre comportato bene. Il loro debutto (come SC Motor Jena) nella prima Coppa delle Coppe nel 1960/61 si concluse con una semifinale, e sarebbero arrivati ai quarti di finale nella Coppa dei Campioni nel 1970/71. Il club ha anche raggiunto gli ottavi di finale della Coppa delle Fiere (69-70) e della Coppa UEFA nel 1977/78.
Poi, nella stagione 1980/81, conquistarono la finale della Coppa delle Coppe. Molti tifosi dello Jena ricorderanno quella finale, tutta orientale, al Rheinstadion di Düsseldorf contro la Dinamo Tblisi. I tedeschi passavano in vantaggio al 60', ma i sovietici riuscirono a ribaltare il risultato, conquistando il trofeo. È stato senza dubbio il momento più importante nella storia del club della Germania dell'Est. Quando Vitali Daraselia segnò il gol della vittoria per la Dinamo, mancavano solo quattro minuti alla fine.
Se, però, conquistare la finale di una coppa europea fu un grande successo nella relativamente giovane storia del Carl Zeiss Jena, la prestazione indimenticabile per i tifosi fu quella ottenuta nei sedicesimi di finale. Contro la Roma di Liedholm e Falcao, lo FCC non solo regalò ai suoi tifosi una notte da ricordare, ma anche una delle più incredibili rimonte nella storia delle competizoni europee. Nella partita di andata, la Roma vinse all'Olimpico 3-0 e sembrava aver ipotecato il passaggio del tturno. Due settimane dopo, il 1° ottobre 1980, all'Ernst-Abbe-Stadion, i tedeschi ribaltarono il risultato e vincendo 4-0 eliminarono i giallorossi.
Oggi il Carl Zeiss Jena, che gioca ancora all'Ernst Abbe Sportfeld che può contenere poco più di 12.000 spettatori, gioca nella Regionalliga Nordost, il quarto livello del sistema calcistico tedesco.