Cmentarz został założony na początku XIX wieku w celu zastąpienia cmentarzy parafialnych. Jednak szybko stał się przestrzenią symboliczną wypełnioną arcydziełami architektury i rzeźby funeralnej.

Najstarsza część cmentarza została zaprojektowana w formie parku z punktem centralnym, którym jest kaplica. Za kaplicą alejki układają się w kształt półkola, ponieważ symboliczne, przypominające bramę założenie miało odzwierciedlać tajemnicę przejścia przez wrota do wieczności.

Najstarsze groby oraz tablice upamiętniające pierwsze pochówki na Cmentarzu Rakowickim znajdują się wzdłuż muru przy wejściu głównym, po lewej stronie. Odwiedzający cmentarz spacerując główną aleją natkną się na grób Jana Matejki. Ta same aleja zaprowadzi nas także do nagrobka aktorki Heleny Modrzejewskiej. Na cmentarzu Rakowickim znajdują się wybitne rzeźby funeralne, w tym Anioł Zemsty, który został poświęcony ofiarom ostrzału Krakowa przez Austriaków w 1848 roku, a także przejmująca postać kobiety w żałobie na grobie Falterów. Na cmentarzu znajduje się również Aleja Zasłużonych, gdzie można znaleźć groby m.in. Jerzego Nowosielskiego, Piotra Skrzyneckiego, a także Marka Grechuty. Grób laureatki Nagrody Nobla Wisławy Szymborskiej znajduje się z dala od reprezentacyjnych części cmentarza.

Turyści często także odwiedzają grób rodziców oraz brata Jana Pawła II – Karola, Emilii i Edmunda Wojtyłów. Grób ten znajduje się w części nekropolii nazywanej cmentarzem wojskowej, która kiedyś służyła pochówkom żołnierskim.