Un cinguettio di cinque righe delle 20.45, un annuncio che una città intera aspettava: «Rudi Garcia sarà il nuovo allenatore del Napoli». Aurelio De Laurentiis ha comunicato così il post-Spalletti per la sua squadra, fresca di vittoria dello scudetto. «Ho il piacere di annunciare che, dopo averlo conosciuto e frequentato durante gli ultimi 10 giorni, il signor Rudi Garcia sarà il nuovo allenatore del Napoli. A lui il più sincero benvenuto e un grande in bocca al lupo!».
Dopo aver esordito come collaboratore tecnico nel Saint-Étienne, nel gennaio 2001 assume il ruolo di allenatore della prima squadra, in coppia con Jean-Guy Wallemme.Dal 2002 al 2007 siede sulla panchina del Digione. Sotto la sua guida la squadra raggiunge la promozione nella Ligue 2 nel 2004, divisione in cui riesce ad assestarsi nei tre anni successivi. Nel 2007-2008 allena il Le Mans, con cui chiude al nono posto in Ligue 1 e arriva alle semifinali della Coppa di lega.
Nel 2008 viene ingaggiato dal Lilla, prendendo il posto di Claude Puel. Dopo aver conquistato la qualificazione in Europa League, il 2 giugno 2009 decide di lasciare il club per divergenze con il direttore sportivo Xavier Thuilot. Nel giro di due settimane però, il presidente del club Michel Seydoux lo convince a ritornare al suo posto. Nel 2011 conquista il suo primo titolo, battendo in finale di Coppa di Francia con il punteggio di 1-0 il Paris Saint-Germain. Poco tempo dopo arriva anche la vittoria della Ligue 1, centrando così il double. Al termine della stagione 2010-2011 viene nominato migliore allenatore della Ligue 1 e viene inserito al settimo posto dei migliori allenatori del mondo dell’anno 2011.
L’anno successivo porta la sua squadra al terzo posto in campionato, conquistando per la seconda volta l’accesso alla Champions League. In nessuna delle due occasioni però la squadra riesce a superare la fase a gironi della manifestazione. Il Lille chiude al sesto posto il campionato 2012-2013, rimanendo esclusa dalle coppe europee.
Il 12 giugno 2013 firma un contratto biennale con la Roma, divenendo il nuovo allenatore della squadra. In campionato infila una striscia iniziale di dieci vittorie consecutive, che porta i capitolini al comando del torneo.La sconfitta per 3-0 con la Juventus, issatasi in vetta, costringe i giallorossi al secondo posto al termine del girone di andata.[10] Durante il resto del campionato, la Roma colleziona altri risultati positivi ma le speranze per lo scudetto si esauriscono nelle ultime giornate a causa di tre k.o. consecutivi. Con 85 punti all’attivo, viene stabilito il record capitolino in massima serie (poi superato da Luciano Spalletti nella stagione 2016-17 con 87 punti).Concluso il campionato, rinnova l’accordo con la società sino al 30 giugno 2018.
Nella stagione successiva, non senza qualche difficoltà, raggiunge ancora il secondo posto, stavolta superando in volata i rivali cittadini della Lazio dopo averli battuti per 2-1 in un derby al cardiopalma, deciso da un colpo di testa del difensore giallorosso Mapou Yanga-Mbiwa.
Il 13 gennaio 2016 Garcia viene ufficialmente sollevato dall’incarico di allenatore della Roma dopo una serie di risultati deludenti; conclude la sua esperienza in giallorosso con il bilancio di 61 vittorie, 35 pareggi e 22 sconfitte in 118 panchine. Il 20 ottobre risolve consensualmente il contratto che lo legava al club capitolino.
Il 20 ottobre 2016 viene ingaggiato dall’Olympique Marsiglia, con la squadra al dodicesimo posto in Ligue 1. Alla prima uscita nelle vesti di allenatore dell’OM riesce a fermare il PSG con uno 0-0. In Coppa di Lega viene eliminato agli ottavi per mano del Sochaux e dalla Coppa di Francia esce agli ottavi per mano del Monaco, mentre in Ligue 1 arriva quinto.
Nel 2017-2018 la squadra di Garcia si piazza quarta in campionato, dalla Coupe de la Ligue esce sempre agli ottavi per mano del Rennes e viene eliminata ai quarti della Coppa di Francia dal PSG, mentre in Europa League giunge a disputare la finale, persa contro l’Atlético de Madrid.
Nel 2018-2019 in Coupe de la Ligue la squadra esce ancora agli ottavi – questa volta ai rigori contro il Racing Strasburgo – dalla Coppa di Francia esce già ai trentaduesimi per mano dell’Andrézieux (modesto club militante nel Championnat de France amateur), in Europa League si classifica ultima con un solo punto nel girone, mentre in Ligue 1 non va oltre il quinto posto, fallendo la qualificazione alle competizioni europee. Il 22 maggio 2019 Garcia annuncia di aver lasciato il club.
Il 14 ottobre 2019 firma per l’Olympique Lione, dove sostituisce il brasiliano Sylvinho dopo un avvio di campionato inferiore alle aspettative (9 punti in altrettante partite). Chiude il campionato al settimo posto a un punto dalla zona UEFA, stante la sospensione decisa dalla LFP per via della pandemia di COVID-19, perde la finale di Coppa di Lega ai rigori contro il PSG (anche in Coppa di Francia è eliminato dai parigini in semifinale) mentre in Champions, dopo aver eliminato a sorpresa Juventus e Manchester City agli ottavi e ai quarti, il cammino si interrompe in semifinale venendo sconfitto dal Bayern Monaco poi vincitore della competizione.
Termina la prima parte della seguente annata al primo posto in campionato a pari punti con il Lille, sua ex squadra, concludendo poi la stagione al quarto posto a due punti dalla qualificazione in Champions mentre in Coppa di Francia viene eliminato dal Monaco ai quarti. Al termine dell’ultima partita di Ligue 1, dopo aver mancato la qualificazione in Champions, annuncia che lascerà il Lione.
Il 29 giugno 2022 sottoscrive un contratto biennale come nuovo tecnico dell’Al-Nassr. Il 13 aprile 2023 viene comunicata la risoluzione consensuale del contratto tra il club e Garcia,a seguito del deterioramento del rapporto con la rosa dei giocatori.