Il palazzo fu edificato nella prima metà del ‘500 da Gian Giacomo Cesi, conte delle Terre Arnolfe.
L'edificio, costruito sui resti di un antico fortilizio trecentesco, consta di due corpi: il più antico, risalente probabilmente al '400, a monte della strada; l'altro affacciato sulla vallata ternana.
Il primo corpo si divide in quattro enormi stanze collegate da porte architravate in pietra e dotate di grandi camini.
Il secondo corpo, collegato al primo da un corridoio pensile con arco sottostante, presenta un portone bugnato perfettamente conservato. La facciata è ingentilita da una loggia a tre archi; l’ingresso è caratterizzato da archi a cortina con fregi ed elementi araldici in travertino e un monumentale portale con il nome del costruttore.
ll piano terra è costituito da diversi ambienti: l’ingresso voltato, la sala delle guardie, la biblioteca, la sala da pranzo, tra cui la sala con la loggia fungente da osservatorio astronomico.
Il piano nobile, abbellito da monumentali camini, è decorato da affreschi che raffigurano, i forme allegoriche, le imprese e i possedimenti della famiglia Cesi.
Al centro del meraviglioso soffitto ligneo, lo stemma della casata.
Al palazzo è annesso un bel parco.
Alla fine del XIX secolo l’edificio iniziò ad essere chiamato Cittadini-Cesi, quando il duca Gerberto Cesi, non avendo figli maschi, trasmise il titolo alla sorella Elvira, moglie del marchese Cittadini di Terni.