Gimnasia de Jujuy fue fundado en 18 de marzo de 1931. El 15 de enero de 1928 un grupo de jóvenes deportistas se reunió para crear una entidad sin fines de lucro, la cual fue llamada Club Deportivo 23 de Agosto. Luego, tras una reorganización del club y bajo la presidencia de Tomás Yufra, se decidió cambiar el nombre a Club Atlético Gimnasia y Esgrima de Jujuy.

De la mano de Salvador Ragusa vuelve a la segunda división del fútbol Argentino en 1993. Y con la conducción de Francisco Pancho Ferraro en la temporada 1993/94 logró conseguir otro ascenso en forma consecutiva y vuelve a la primera división después de 12 años de ausencia, ganando el campeonato que lo tuvo en la punta desde el primer minuto del primer partido, siendo este un hecho histórico para el fútbol argentino.
Se mantuvo en primera durante 6 temporadas (12 campeonatos) más, sobresaliendo el 4to puesto que obtuvo en el campeonato Clausura 1998. La temporada 1999/2000 no fue buena y desciende a la «B» Nacional donde jugó 5 temporadas alternando buenas y malas campañas. En la temporada 2004/05 con la dirección técnica de Francisco Ferraro en el Apertura 2004 (salió cuarto) y Roberto Carlos Mario Gómez en el torneo Clausura 2005 (salió primero), logró el ascenso: en la final con Tiro Federal (Rosario), no logra ascender y sí lo hace luego (ganándole al poderoso Huracán de Parque Patricios) para jugar la temporadas 2005/2006, 2006/2007, 2007/2008 y 2008/2009 en primera división.
