O Joinville foi fundado em 29 de Janeiro de 1976, a partir da fusão dos departamentos de futebol do América e do Caxias, os dois clubes profissionais da cidade na época. Ambas as equipes enfrentavam sucessivas crises, e foi com uma parceria entre dois tradicionais adversários do futebol local que começou a história do JEC.

A solução encontrada por um dos dirigentes do Caxias, no sentido de pelo menos remediar momentaneamente os problemas do clube, foi de convidar para a presidência o industrial João Hansen Neto, da Tubos e Conexões Tigre.

A partir daí, o único e difícil passo para se criar um novo clube em Joinville foi obter a aprovação dos caxienses e americanos. Porém prevaleceu o bom senso, e em 29 de janeiro de 1976 foi criada a nova agremiação com a personalidade jurídica de Joinville e constituída também a sua primeira diretoria sob a presidência de Waldomiro Schützler.

Dez anos depois da fusão entre os dois clubes, o Joinville já havia acumulado tantos títulos quanto América, Caxias e Operário (todos clubes de Joinville) em 65 anos de história.

Dono da quarta melhor colocação de um clube catarinense no Campeonato Brasileiro de Futebol (8º lugar em 1985, sétimo lugar do Figueirense em 2007 e sexto lugar de Criciúma em 1987 e Avaí em 2009), o Joinville esteve na Série A do Campeonato Brasileiro por 10 anos consecutivos, entre 1977 e 1986. Em 2010 disputou o Série D após conquistar o título da Copa Santa Catarina de 2009, e terminou desclassificado nas quartas-final pelo América (AM), logo após a derrota, o setor jurídico do clube identificou que o adversário havia utilizado um jogador irregular nas duas partidas disputadas, e desta vez, o time conseguiu o tão esperado retorno à Série C.

O Joinville foi campeão de Santa Catarina logo em seu primeiro ano de atividade. Depois, entre 1978 e 1985, conquistou um inédito octacampeonato catarinense, recorde insuperável até hoje. De 1988 a 1999, passou o mais longo período sem títulos de sua história. A sequência foi quebrada com a conquista do bicampeonato estadual de 2000 e 2001, ano do último troféu da primeira divisão erguido pelo clube.

Em 2007, o Joinville fez a pior campanha de sua história no Campeonato Catarinense, terminando em penúltimo lugar, na zona de rebaixamento. Depois disputou e venceu a Divisão Especial e retornou à elite do torneio estadual já em 2008.

No ano de 2009 o Joinville começa o seu projeto de reconstrução, terminando o campeonato em 3º lugar e em 2010 conquista o vice-campeonato Catarinense. Em 2011 foi eliminado nas semi-finais no turno e returno, terminando na 4º colocação. No dia 18 de Outubro de 2011, o JEC consolidou sua ida para Série B ao ganhar do Brasiliense por 4 x 1, com duas rodadas de antecedência. No dia 24 de Outubro de 2011, com a derrota do Ipatinga para o Brasiliense por 4 x 1, o Joinville se classificou para a final do campeonato Brasileiro da Série C de 2011, com uma rodada de antecedência. No primeiro jogo das finais contra o CRB, vitória do Joinville em pleno Estádio Rei Pelé, em Maceió por 3 x 1 e no segundo jogo das finais, o Joinville conquista seu primeiro título nacional, vencendo na Arena Joinville pelo placar de 4 x 0.