Il penitenziario dello Stato orientale può avere radici protestanti, ma aveva anche una sinagoga ebraica, che, insieme alla sua ricca storia, è stata rivelata al pubblico per un periodo limitato nell'aprile 2008.
Sebbene la popolazione carceraria ebraica non abbia mai contato più di 80 in una sola volta, c'era una forte presenza ebraica nel penitenziario che risale al 1845. I rabbini locali vennero per consigliare i detenuti e fornire letture religiose.
All'inizio degli anni 1920, dopo l'abbandono del sistema di isolamento della Pennsylvania, Alfred Fleisher, allora presidente del consiglio di amministrazione della prigione, sostenne la costruzione di una sinagoga per soddisfare meglio le esigenze dei detenuti ebrei. Prigionieri e volontari locali partirono per costruire il centro religioso negli ex cantieri di blocco delle celle sette.
Era uno spazio decorato, con un soffitto decorato e un pavimento piastrellato rosso. Panchine fiancheggiavano le pareti mentre il tavolo di un lettore e l'arca di Torah di legno riempivano la stanza. Fleisher si unì ai detenuti per ogni servizio nella sinagoga fino alla sua morte nel 1928. Più tardi quell'anno, la sinagoga fu dedicata a Fleisher e una targa di bronzo fu eretta in sua memoria.
Altri partecipanti memorabili della sinagoga includevano Joseph Paull, un famoso uomo ebreo forte che fu invitato da Fleisher nel 1923 per intrattenere i detenuti con le sue abilità di forza. Paull ha sviluppato un ottimo rapporto con i detenuti, tornando per i servizi e fornendo alla prigione cibo dalla sua macelleria kosher. Più tardi, apprendendo la difficoltà che alcuni detenuti hanno dovuto affrontare - avevano diritto alla libertà vigilata ma non potevano essere rilasciati perché non avevano ottenuto un impiego - ha creato un programma che abbinava i prigionieri ai datori di lavoro. Paull avrebbe continuato a essere un fedele sostenitore della comunità carceraria fino alla sua morte nel 1966.
I servizi alla sinagoga continuarono fino alla chiusura della prigione nel 1971. Abbandonata per i successivi 33 anni, cadrebbe in un grande stato di rovina. I muri di pietra che portavano all'ingresso della Sinagoga crollarono, impedendo l'accesso e parti del soffitto in gesso caddero a causa del deterioramento dovuto al danno dell'acqua. Nel 2004, la studentessa dell'Università della Pennsylvania Laura Mass, dopo aver studiato il penitenziario per la sua laurea in conservazione storica, ha tentato di scoprire la casa di culto dimenticata da sotto le macerie.
Durante lo scavo, la Messa ha trovato resti del soffitto decorativo in gesso, pagine di un libro delle canzoni per le vacanze e parti di una stella di David. Queste scoperte hanno incoraggiato il sito storico del penitenziario dello Stato orientale a istituire un comitato di restauro della Sinagoga. Oggi la ricostruzione della sinagoga di Alfred W. Fleisher continua e si prevede che parteciperà al tour pubblico del penitenziario nell'ottobre 2009.
La sinagoga nel 1995 prima di essere ripulita. (Greg Brooks) 
"La sinagoga perduta" nel penitenziario dello Stato orientale. (Sito storico penitenziario dello stato orientale) 
"La sinagoga perduta" nel penitenziario dello Stato orientale. (Sito storico penitenziario dello stato orientale)
