Inizia la carriera di allenatore in promozione nell'US Torremaggiore per poi passare ad allenare le giovanili del Foggia e, nel 1993, passa ad allenare la Salernitana. È quella una stagione memorabile per il tecnico romagnolo, che, partito tra gli scetticismi della piazza (vedi contestazione dei tifosi in una amichevole precampionato a Lagonegro), al termine della stagione regolare, conclude il campionato di C1-B al secondo posto alle spalle di Perugia e conquistando l'accesso ai play off. Le vittorie contro Lodigiani e Juve Stabia permettono a Rossi di ottenere la promozione in Serie B al primo anno da allenatore professionista. L'esordio in Serie B con i campani è brillante: la Salernitana esprime un gioco a tratti esaltante, riuscendo quasi nell'impresa del doppio salto dalla C alla A in due anni. Il sogno granata si spezza allo stadio Azzurri d'Italia di Bergamo, all'ultima giornata di campionato contro l'Atalanta che vincendo 2 ad 1, conquista la promozione proprio ai danni della Salernitana. Al termine del campionato, nel luglio 1995 Rossi torna a Foggia, per passare poi al Pescara nel 1996, dove dopo un girone d'andata strepitoso (imbattuto per le prime 12 giornate), la squadra ebbe un grosso calo di forma nel girone di ritorno, non riuscendo a trovare la promozione in A e si posizionò al sesto posto.
Nel 1997 ritorna a Salerno e con una fantastica cavalcata - il cui apice è toccato nel dicembre '97 con la vittoria a Venezia e il sorpasso in classifica proprio ai danni del Venezia - conquista la promozione in Serie A. La Salernitana con un campionato esaltante riesce a stabilire il record di punti in serie cadetta. L'anno seguente (1998-99) Rossi è esonerato due volte dal presidente Aniello Aliberti. La prima all'indomani della sconfitta di Vicenza, ma rimane in sella a furor di popolo - vedasi episodi incresciosi in una torrida conferenza stampa di presentazione del nuovo allenatore Francesco Oddo; la seconda all'indomani della sconfitta di Perugia. Seguono le esperienze al Genoa e ancora al Pescara, sempre in B, grazie alla grande amicizia nata con Antonio Oliveri vice-presidente all'epoca della squadra abruzzese, dove fu esonerato e poi richiamato per concludere un campionato disastroso che finì con la retrocessione degli adriatici in serie C1. Rossi non dimenticò mai quella stagione disastrosa che tutt'ora rimane il suo più grande rimorso, come dichiarato in più momenti.
Nel gennaio 2002 subentra ad Alberto Cavasin sulla panchina del Lecce, ma non riesce ad imprimere la svolta ad una stagione ormai compromessa, conclusasi con la retrocessione in serie B. Nel 2002-2003 conquista la promozione in Serie A con i giallorossi salentini e l'anno successivo, dopo un girone di andata molto negativo, guida il Lecce ad uno straordinario recupero (10° posto finale e salvezza in Serie A). Lascia il Lecce al termine della stagione.
Alla 15a giornata del campionato 2004-2005 gli viene affidata la guida tecnica dell'Atalanta ultima in classifica. Nonostante alcune prove di orgoglio, però, i nerazzurri non riescono a salvarsi dalla retrocessione. Delio Rossi ha comunque lasciato un ottimo ricordo a Bergamo venendo applaudito da tutto lo stadio nonostante la retrocessione matematica.