Los tres personajes principales dan título a la obra: un caballero, la muerte y el diablo. Pero aparte de ellos, se representan multitud de elementos que llenan la composición para conjurar el horror vacui.
El caballero, completamente equipado y montado sobre un caballo, es la figura central. Ha de prestarse atención a la completa elaboración anatómica del cuerpo del caballo, lo que es típico de los artistas del Renacimiento preocupados por las ciencias naturales y la anatomía. Probablemente a Durero le influyen las impresiones obtenidas en su viaje a Italia, cuando hizo el esbozo de un caballo. En cuanto al caballero, es modelo directo de este el que aparece en un estudio previo de Durero (véase figura abajo a la izquierda).
Está acompañado por un perro que se asocia a la lealtad y la fe (fides) y es un motivo usado a menudo por Durero. En la parte inferior derecha un lagarto huye en dirección opuesta.Otros dos acompañantes del caballero, que despiertan menos confianza, son la Muerte y el Diablo. La muerte está representada con forma barbuda, sobre un caballo viejo, inestable, con un reloj de arena como símbolo de lo transitorio, y pelo serpenteante. El diablo se sitúa en la parte posterior del caballero, siendo una creación particularmente imaginativa, una mezcla de animales diferentes.
En la parte inferior izquierda hay una placa con las iniciales del nombre y del apellido del artista (A D), formando un anagrama característico con el que firmaba algunas obras. Además, puede verse la fecha. Detrás de esta placa hay una calavera, otro símbolo de la muerte. Puede aludir al hecho de que este caballero, tan orgullosamente sentado sobre su caballo, pronto puede matar y a su vez, sufrir la muerte.
El caballero parece estar cabalgando por un valle o por un paisaje montañoso con árboles y maleza. En el fondo se reconoce un castillo o una ciudad que se asemeja a Núremberg. El paisaje está realizado con gran detalle, como es propio de un autor que se dedicó también al género paisajístico.