Gennem mange århundreder foregik alle begravelser i Aabenraa midt i byen på pladsen rundt om Sct. Nicolai kirke.  Allerede fra sidst i 1700-årene stod det klart, at pladsen var for lille, og der var mange ubehageligheder forbundet med at begrave de døde så tæt op ad byens boliger. I 1803 tog kirkens og byens repræsentanter derfor fat på at finde en ny plads til kirkegården. Den blev indviet vest for byen ved Forstallé den 27. august 1826. Her er alle begravelser i Aabenraa foregået siden da.

Ved indvielsen bestod kirkegården af fire afdelinger, som strakte sig op til det nuværende kapel. I 1869 blev der udvidet med et areal mod nord, i 1904 med endnu et, og i 1945 kom den sidste udvidelse.

I 1937 indrettede man en urnehave på den ældste del af kirkegården, lige syd for kapellet. En ny urnehave blev taget i brug nordvest for kirkegården i 1959. Her indrettedes også en urnefællesgravplads for anonyme urnebegravelser.

I 1932 opførte man et kapel midt på kirkegården, og i tilknytning hertil byggede man i 1952 et krematorium. Krematoriet blev udvidet i 1973-74. I 1979 blev et våbenhus bygget til kapellet. Både kapel og krematorium gennemgik en stor renovering i 1997.

I 2010/2011 gennemgik krematoriet en større ombygning og 2 ovne blev erstattet at 1 ny større ovn, der kan tage ekstra store kister.

I dag rummer kirkegården en rig skat af gravminder. Her er der fornemt udsmykkede gravsten fra 1800-årene. Byens storhedstid som søfartsby bliver levende, når man ser de mange gravsten over kaptajner og menige søfolk og skibsværftsejere, som gjorde Aabenraa kendt over hele kloden.  Her er imposante gravminder over storkøbmænd og industriherrer og minder over byens solide håndværkerbefolkning. Indskrifter på dansk og tysk viser, at Aabenraa altid var en by i et grænseland.  Mange af de mænd, som stod i første række i den nationale kamp fra 1840’erne og frem til efterkrigstiden, er mindet på kirkegården.

Krigenes barske virkelighed fremgår af monumenter fra de slesvigske krige 1848-50 og 1864. Rundt om på gravstederne mindes unge sønner faldet i begge verdenskrige. Anden Verdenskrig bliver nærværende, når man står ved gravene over nedstyrtede allierede flyvere eller ved gravene over de tyske flygtninge, som kom til byen ved krigens afslutning.  Eller ved gravene for modstandsmænd, som faldt i Danmarks frihedskamp.

Under "historiske gravsteder" fortælles mere om et lille udpluk af de mange gravminder. Hvert enkelt gravminde er en del af historien om Aabenraa og byens befolkning og landsdelen i tiden fra 1826 og frem til i dag.