Il vescovo Orso fu una figura importante per la storia della chiesa ravennate tra la fine del IV e gli inizi del V secolo. Secondo la tradizione egli fu il committente della Basilica della Resurrezione, oggi conosciuta come Duomo, e del Battistero accanto ad essa, meglio noto come Neoniano, a ricordo dello straordinario intervento musivo commissionato da Neone, suo successore dopo Pietro Crisologo.
Di Orso rimane una superba rappresentazione nella Basilica di Sant’Apollinare in Classe: egli è raffigurato insieme ad altri tre vescovi ravennati – Severo, Ecclesio, Ursicino – e al pari di loro indossa gli abiti per la celebrazione eucaristica, porta il pallio sulle spalle e regge un prezioso codice gemmato.
Andrea Agnello, nel Liber Pontificalis Ecclesiae Ravennatis, offre una narrazione sapienziale della sua vita ricordandone la santità: «Orso fu castissimo nel corpo, santissimo nelle opere, aveva il volto raso e bello, era un po’ calvo. Costui per primo cominciò a costruire un tempio di Dio per raccogliere, come piissimo pastore, in un solo ovile il popolo cristiano che vagava in locali isolati […]. Dunque questo beatissimo presule edificò all’interno di questa città di Ravenna la sacra chiesa cattolica, dove tutti assiduamente accorriamo e che egli dal proprio nome chiamò Ursiana. Ai suoi tempi ne pose le fondamenta e con l’aiuto di Dio potè completarne la costruzione […]. Fu sepolto, come alcuni affermano, nella predetta chiesa Ursiana o Anastasis, che egli aveva costruito».