Fundado el 6 de septiembre de 1918, inicialmente con el nombre de Deportivo Meilicke (apellido los propietarios de una curtiembre y formadores del club), con esa denominación ganó la Segunda División en 1923 y para su participación en la Primera División en 1924 cambió su nombre a General Caballero Sport Club, en honor a Bernardino Caballero, expresidente de Paraguay y uno de los comandantes principales en la guerra contra la Triple Alianza (1865-1870).
En 1928 logró su segundo título en la Segunda División (pero por primera vez con su nueva denominación) y su ascenso a la Primera División.
También jugó en la Federación Paraguaya de Deportes y ganó un campeonato de esa entidad en 1937.
En 1958 logró el subcampeonato de la Segunda División y así ascendió con el campeón Presidente Hayes a la Primera División.
Volvió a ganar la Segunda División en 1962, pero no pudo ascender ya que el campeón no ascendía en forma directa, debía jugar una promoción ante el último de la Primera División, esta promoción lo perdió ante el club Sol de América, que se mantuvo en la máxima categoría.
En los años 1970 y 1986 ganó de nuevo el título de campeón de la Segunda División y el ascenso a la Primera División.
En los años 1993 y 2000 logró el título de la Tercera División, en el primer caso cuando la tercera categoría era la Segunda de Ascenso y el último cuando la tercera categoría era la Primera de Ascenso (tras la creación de la División Intermedia en 1997).
En 2004, se consagró subcampeón de la División Intermedia y así también logró el ascenso a la Primera División.
En 2011 logró de nuevo su ascenso a la Primera División, ganando el título de campeón del torneo de la División Intermedia de 2010. Al final de la temporada debió retornar a la Segunda División, a pesar de una protesta presentada por un partido contra Independiente, la cual le debía haber permitido mantener la categoría.
En la temporada 2015 logró el subcampeonato de la División Intermedia por lo que en la temporada 2016 jugó en la Primera División tras seis años de ausencia de la máxima categoría.
En la temporada 2016 de la Primera División, en el Torneo Apertura el club terminó en el noveno puesto de la tabla de posiciones, y con cierta tranquilidad en la tabla de promedios. En el Torneo Clausura llegó a la última fecha con buenas posibilidades de salvar la categoría, pues con una victoria aseguraba su permanencia, pero tras su derrota ante Libertad finalmente descendió.
En la temporada 2018, año en la que festejaba su Centenario, el club no tuvo un buen desempeño (principalmente en la segunda mitad del campeonato) y en la última fecha del campeonato tras perder 2-0 en condición de visitante ante Ovetense concretó su descenso a la Primera División B, por lo que volvió a competir en la tercera categoría del fútbol paraguayo tras 19 años. En la Copa Paraguay el club cayó eliminado en los octavos de final ante el club Libertad de la Primera División, anteriormente en la primera fase había eliminado al club Humaitá de la Cuarta División, en la segunda fase pese a caer ante el club Deportivo Capiatá de la Primera División, clasificó a octavos de final como uno de los mejores perdedores.
La temporada 2019 acabó mal de nuevo,. Su muy bajo de desempeño determinó el descenso por vez primera en su historia a la cuarta categoría del fútbol paraguayo, pasando - por lo tanto- por los 4 niveles en sólo 5 años.