Sul suolo in Piazza San Giovanni Maggiore venne eretta un casamento nobiliare che comprendeva anche un agrumeto con vista sul mare, nel quale abitò Conzalo Fernandes de Cordoba, viceré di Napoli il quale vendette il casolare nel 1546 al marchese di Grottola, Alfonso Sanchez, membro del vicereame, il quale si affidò, per la progettazione del nuovo palazzo, allo scultore e architetto Giovanni da Nola. La costruzione del palazzo iniziò nel 1549 e terminò solo alcuni decenni dopo, grazie all’opera del figlio omonimo, tesoriere del Regno.
Nel 1645 l’edificio passò alla famiglia del cardinale Filomarino che completò definitivamente il palazzo, rifacendo il portone di piperno e demolendo le casupole negli immediati dintorni. La proprietà rimase a questa nobile famiglia fino al 1820. Il saccheggio dei lazzari nel 1799 distrusse gli antichi ornamenti interni (pitture, mobilio, e una grande biblioteca). Nel corso della contro-rivoluzione borbonica, il palazzo fu invaso e i proprietari (i fratelli Filomarino, grandi intellettuali illuministi, legati alla Rivoluzione Napoletana) vennero trucidati all’interno dell’edificio poi dato alle fiamme. costringendo i nuovi possessori a un ampio rimaneggiamento. Nella volta del salone al primo piano (piano nobile) fu eseguito da Giuseppe Cammarano un affresco raffigurante "Ercole al bivio".
Negli anni successivi il palazzo rimase disabitato finché, dopo un breve passaggio di proprietà, nel 1828 fu ceduto al banchiere Luigi Giusso che ne fece sede della sua banca. Fu Giusso ad eseguire imponenti lavori di restauro interni ed esterni, testimoniati dalla targa commemorativa affissa oggi nel cortile interno del palazzo.
Nel 1931 il Regio Istituto Orientale prese in affitto buona parte dei locali e nel 1935 venne effettuata l’intero acquisto dell’edificio, acquisto gestito dal senatore Alberto Geremicca col benestare del Ministero. Da allora, Palazzo Giusso divenne la sede storica dell’Orientale.
L’edificio si articola su due piani più un mezzanino e il pian terreno. Il cortile è impostato come un tipico cortile di palazzo nobiliare napoletano: gli archi sono retti su pilastri rivestiti di piperno scolpito a modanature. È presente un pozzo di una certa imponenza, a cui si poteva accedere da una scaletta di notevole fattura.
È parte della proprietà di Palazzo Giusso anche lo storico cedro del Libano al centro della piazzetta antistante l’edificio.