Poco después de 1878, año de la fundación de la Academia de la Sociedad Estímulo de Buenos Aires, de la Cárcova comienza allí su formación artística bajo la dirección de Francesco Romero. En 1885 parte a estudiar en la Academia Albertina de Turín. En el Salón turinés de 1890 el rey Umberto I adquiere una de sus obras: el pastel Cabeza de viejo. De allí viaja a Roma, donde entra en contacto con la obra de Antonio Mancini y Giacomo Grosso. Su paso por París, alternado con su estadía en Roma, es breve.
Ya en Buenos Aires, en 1894 se incorpora al Centro Obrero Socialista, derivado de la Agrupación Socialista que había comenzado a publicar, a comienzos de año, el periódico La Vanguardia. Ese mismo año es jurado del segundo Salón del Ateneo, en el que exhibe Sin pan y sin trabajo, una gran obra proyectada en Roma y terminada en Buenos Aires que, a pesar de ser celebrada por la prensa como una de las más notables de la exposición, no encuentra comprador en ese momento. Sin embargo, forma parte de las primeras adquisiciones hechas por Eduardo Schiaffino para el Museo Nacional de Bellas Artes, abierto en 1896, y más tarde recibe un “Gran premio” en la exposición de Saint Louis de 1904 en los Estados Unidos, a la que concurren más de 20 millones de espectadores. La prensa internacional se hace eco del éxito de la pintura y de su temática social, a tono con los conflictos obreros que para esa época arreciaban en las ciudades industrializadas del globo. Con todo, de la Cárcova no sigue cultivando esta temática. El regreso a Buenos Aires, con su limitado mercado artístico y la estrechez de miras de la burguesía que podía oficiar de potencial clientela, definen una trayectoria artística formada por retratos, naturalezas muertas y hasta algunos desnudos de corte simbolista, muy alejados de aquella gran pintura inaugural despreciada, en su momento, por la prensa socialista local. “Hay en Ernesto de la Cárcova un dandy y un socialista”, había dicho Rubén Darío. De esas dos facetas vence en él la primera, lo que lo hace ser recordado como una de las personalidades más distinguidas y refinadas de su generación.
Apoya con su actividad docente la formación de La Colmena Artística, una agrupación de pintores, la mayoría de ellos españoles, que procuran generar espacios de reunión y exhibición alternativos al Ateneo.
De la Cárcova es el primer director de la Academia Nacional de Bellas Artes, nacida cuando la Escuela de Bellas Artes, fundada por la Sociedad Estímulo, es nacionalizada en 1905. Renuncia al cargo en 1908, luego de algunos meses de conflicto generados por la Ingerencia de la Comisión Nacional de Bellas Artes sobre la Academia. Reemplazado por Pío Collivadino, recibe expresivas manifestaciones de apoyo de los estudiantes, que en su mayoría desaprueban el cambio.
Entre 1909 y 1919 se desempeña como Director del Patronato de Becados Argentinos en Europa. En 1923 se hace cargo de la dirección de la Escuela Superior de Bellas Artes, que se establece cerca del balneario municipal y que, por la libertad que allí reinaba bajo su mandato, fue conocida como “el balneario” o “el paraíso”.
Lleva adelante una intensa actividad pública. Por tres períodos es miembro del Honorable Consejo Deliberante de Buenos Aires. También integra las comisiones de los monumentos al general Alvear, general Mitre, y a la Independencia, entre otros. Es el creador de los premios municipales a la mejor fachada y se le encarga la adquisición de obras de arte en Europa para el embellecimiento de la ciudad de Buenos Aires. Es además oficial de la Legión de Honor francesa.
Se destaca su labor como medallista, realizando varias piezas para el Centenario de 1910, y la que es utilizada hoy como logotipo de la Universidad de Buenos Aires.
Al morir, su figura había adquirido una dimensión que puede medirse por la cantidad de asistentes ilustres a su entierro –entre ellos el presidente Marcelo T. de Alvear– y por los muchos homenajes que se le rinden.
Se conserva obra suya en el Museo Nacional de Bellas Artes, Museo "Rosa Galisteo de Rodríguez" en Santa Fe, Museo de Paraná, Museo “Juan B. Castagnino” de Rosario, entre otras instituciones.