Nato ad Alessandria, all'inizio del secolo, frequenta il ginnasio a Milano dove si è trasferito e poi il liceo classico a Novara. Frequenta l'università di Pisa e si laurea poi in architettura a Bologna. Interessato ai fenomeni artistici, lavora dal 1908 a Milano presso riviste d'arte e organizza mostre e conferenze. Nel 1920 sposa l'artista Rosa Menni con cui ha tre figli: Paolo, Federico e Ferdinando. Dopo la riforma scolastica di Gentile inizia ad insegnare presso i licei milanesi Berchet, Parini e Beccaria, ma per le sue idee antifasciste e per non aver prestato giuramento al governo di Mussolini, viene espulso. Continua la sua attività di critico d'arte ma viene progressivamente isolato dal mondo accademico.

Per le sue dichiarate posizioni antifasciste, viene arrestato dall'OVRA il 4 luglio 1940 e internato con il figlio Paolo a Istonio Marittimo (ora Vieste, provincia di Teramo). Dal febbraio del 1941 viene trasferito al domicilio coatto a Senago (MI) ed in seguito si ricongiunge con gli altri famigliari a Vacciago, frazione di Ameno, sopra il lago d'Orta, nella casa di famiglia dei suoceri. 

Dopo il 25 luglio 1943 torna a Milano e organizza un gruppo antifascista (nome di battaglia "Giusto"). Dopo l'8 settembre collabora con il gruppo partigiano formato sopra Omegna da Filippo Beltrami, suo ex allievo. Collabora anche con il giornale "Avanti" e altri fogli clandestini di sinistra fino al nuovo arresto, ad opera dei fascisti della Legione Muti, avvenuto a Milano il 14 settembre 1944. Con lui sono arrestati anche la moglie e il figlio Federico che successivamente verranno liberati. Giolli viene torturato, ma non facendo i nomi dei compagni viene consegnato ai tedeschi che lo mandano prima a San Vittore e poi lo trasferiscono a Bolzano.

E' deportato da Bolzano il 20 novembre 1944 e giunge a Mauthausen il giorno dopo. Primo numero di matricola 110283, categoria Schutzäftlinge (deportato per motivi di sicurezza). Successivamente trasferito a Gusen. 

Muore per polmonite il 6 gennaio 1945 a Gusen (Mauthausen).

Una pietra d’inciampo lo ricorda in via Pietro Giurati, la sua abitazione di Milano.

Corriere di Novara, 15 maggio 1946; http://www.italia-liberazione.it/novecento/Giolli_1.htm; https://www.anpi.it/donne-e-uomini/1853/raffaello-giolliRaffaello Giolli; http://www.pietredinciampo.eu/portfolio/raffaello-giolli/; https://www.treccani.it/enciclopedia/raffaello-giolli_%28Dizionario-Biografico%29/; (a cura di B. Mantelli e N. Tranfaglia), Il libro dei deportati, vol. 1, tomo II, pg. 1012, Mursia 2009.