流散的開始
猶太人反抗羅馬帝國的起義以失敗告終，人民遭到殺戮，聖城耶路撒冷被毁，從此之後猶太人的歷史便進入了世界性流散的時期。在希伯來文中，猶太人的流散被稱為「加路特」（Galut），意思是被放逐或流放到他鄉。在許多西方文字中，都使用一個專門的詞「Diaspora」來指猶太人離開巴勒斯坦，散居到世界各地。這個名詞來自希臘語，意為「離散」或「分散」，中文一般把它譯為「大流散」。
猶太人向世界各地的流散，有兩種情況。一種是猶太人主動離開巴勒斯坦，這早在耶路撒冷被毁之前幾百年就已開始。還在大衛王和所羅門王時期，就有猶太人到遠方去經商和定居。當南北兩個希伯來王國滅亡後，又有更多的猶太人移居異鄉，他們去到了敘利亞、埃及、巴比倫、希臘和歐洲的其他地方。到羅馬帝國時代，在帝國遼闊的疆域內，許多地方都有猶太人生活居住。儘管猶太人散居各地，但他們卻把耶路撒冷看作他們的精神中心，看作他們的國家和首都。各地的猶太人時常前來朝聖，前來繳付宗教稅，並接受耶路撒冷的宗教威權在教法方面的指導。
自從「巴比倫之囚」以後，巴比倫就一直有猶太人生活。在羅馬帝國早期，巴比倫和巴勒斯坦成了猶太教的兩大學術文化中心。當巴勒斯坦的猶太中心衰落之後，巴比倫猶太中心的地位依然存在，而且在規模、影響上進一步發展，遠遠超過了巴勒斯坦。這裡的猶太社團享有高度的自治，有他們自己的世襲領袖，作為猶太社團的代表向統治巴比倫的波斯國王負責。巴比倫的這種猶太自治政權一直延續到十世紀後仍存在。猶太人在巴比倫還建立了一些著名的學院，如蘇拉、內哈達等地的宗教學院都曾把猶太教的研究推到一個新的高度。這些學院中負有盛名的學者被稱為「加昂」，他們編纂的《巴比倫塔木德》後來成了全世界猶太人研習和使用的猶太教律法權威經典。巴比倫的重要地位吸引了不少猶太人前來定居。
另一種流散是被迫的，如古代亞述帝國對以色列人的流放，如西元前六世紀的「巴比倫之囚」，以及如羅馬帝國對猶太起義的鎮壓、擄掠和驅逐。其實，還在「猶太戰爭」之前，就有大批猶太人不堪忍受羅馬人政治和經濟壓迫而離開了巴勒斯坦，移居到周圍的地區。有人估計，在羅馬人統治時期，巴勒斯坦約有300萬猶太人，周圍的埃及、敘利亞、安納托利亞（即今天的土耳其）、巴比倫各有100萬，猶太人口總數達800萬。西元一至二世紀，猶太起義失敗後，羅馬帝國的屠殺和迫害，促使大批猶太人離開巴勒斯坦及其周圍地區。除了有一些人是被作為戰利品擄獲到羅馬本土以外，更多的猶太人是作為逃難者背井離鄉，遠走高飛的。他們有的嚮東邊的巴比倫、波斯、中亞甚至更遠的印度、中國遷徙，有的嚮西邊的埃及、北非、南歐移動，也有的則嚮北邊的小亞細亞、巴爾幹、高加索，和嚮南邊的阿拉伯半島等地流動。
聖城耶路撒冷的被毁，也是猶太人向世界各地流散的一個重要原因。自古以來，耶路撒冷聖殿一直是猶太人的宗教中心，對猶太人的宗教生活發揮著巨大的影響作用。他們在這裡舉行祈禱、祭祀活動，遠近的猶太人每年三次要前來朝聖。同時，耶路撒冷也是猶太人的政治和經濟中心。它原來一直是猶太國家的首都，即使在猶太國家滅亡後，這裡也仍然是猶太人社團的核心。各地的猶太人有義務向管理著聖殿的猶太教公會繳納宗教稅。因此，耶路撒冷對猶太人有著強烈的吸引力和凝聚力。當聖殿被毁、聖城被改變了性質後，這種吸引力和凝聚力也就逐漸消失了。
不管是主動的還是被動的，羅馬帝國時期猶太人向各地移動的結果，就形成了猶太民族的大流散。從此以後，猶太人就成了一個沒有祖國，沒有土地，隨波逐流，四海為家的世界性民族了；猶太人的足跡遍布世界各地，世界的大部分地區都有，或者曾經有過猶太人。儘管猶太人散布世界各地，但令人驚異的是，他們卻能在精神上始終保持為一個整體，歷經千百年的艱辛磨難，不離不散，不死不滅。
在中世紀前期的歐洲和阿拉伯世界
早在第二聖殿時期，猶太人就開始向歐洲移居。後來隨著羅馬帝國同歐洲內陸接觸交往的增加，更多的猶太人經羅馬帝國進人到西歐、中歐各地，他們定居于西班牙、法國、德國，甚至渡海來到英國。他們為這些地區經濟和文化的發展作出了重要的貢獻。但是由於宗教原因，他們卻很難同當地居民融合。當封建制度在西歐確立後，猶太人常常遭到西歐君主們的迫害和驅逐。而當時中歐和東歐小國林立，地廣人稀，這為猶太人逃避宗教迫害和驅逐創造了條件。猶太人逐漸從歐洲西部嚮東部遷移，到中世紀後期，波蘭、立陶宛、匈牙利、俄羅斯集中了全世界近一半的猶太人。
猶太人適應環境的生存能力是很強的。他們每到一個地方後不久，就能在當地站穩腳跟，進而建立起自己的事業，創造輝煌的成就。這在西班牙，在西歐和中歐，在北非等地都已得到了證明。這些地方的猶太社團經過幾代人的發展後，往往都是當地經濟上最富裕，文化上最發達的居民群體，而且往往還能為提高當地整體的社會、經濟和文化水準作出貢獻。
那些流散到阿拉伯、巴比倫和波斯等地的猶太人，從西元七世紀起便處於信奉伊斯蘭教的阿拉伯帝國的統治之下。與歐洲基督教徒相比，阿拉伯人對猶太人要寬容得多。伊斯蘭教與猶太教在教義上比較接近，而且歷史上又沒有什麼恩怨糾葛，所以每當阿拉伯人征服了一個新的地方之後，都允許當地猶太人保持他們的宗教信仰和風俗習慣，允許猶太人社團保持很大程度的自治，唯一的條件只是要求他們比穆斯林多繳納一種「人丁稅」。例如，巴比倫的猶太人在阿拉伯帝國時期，不僅保持著高度自治，而且在宗教文化方面也得到了很大的發展，成了繼巴勒斯坦之後的又一個宗教學術中心。
另一方面，來自沙漠的阿拉伯人在向外擴張時，也需要得到猶太人的幫助。猶太人經常往來於世界各地，熟悉各地的情況，與許多不同的地方保持著廣泛的商業、貿易、文化聯繫，他們中有很多人都通曉希臘語或拉丁語等歐洲語言，同時又懂希伯來語和阿拉伯語。因此，他們在幫助阿拉伯世界與基督教世界之間的溝通和聯繫方面，具有十分重要的價值，能發揮重要的作用。也正是由於他們有這樣一些優勢，不少猶太人後來成了阿拉伯統治者在外交、貿易、財政方面的顧問，還有的獲得了很高的官職。
當阿拉伯人八世紀初從北非渡過直布羅陀海峽，把征服的矛頭指嚮西班牙時，當地深受基督教歧視和迫害的猶太人對阿拉伯人的來到歡欣鼓舞。在西班牙，除了那些原來就生活在基督教統治下的猶太人外，還有很多猶太人是隨阿拉伯征服者一起來到的。在阿拉伯人統治下，西班牙猶太人達到了他們流散史中的「黃金時代」。他們深受阿拉伯統治者的信任，不少人當了宮廷中的高級官員，有的人甚至還擔任了軍隊的指揮官。在自由的環境中，猶太人的聰明才智得到了充分的發揮，他們中湧現了許多著名的哲學家、醫學家、語言學家，產生了不少學者和詩人。其中最負盛名的有邁蒙尼德、猶大·哈列維、加比洛爾等人。他們一方面把傳統的猶太宗教、哲學、文學推到了一個新的高峰，使其更具有理性力量。另一方面他們還把古代希臘、羅馬的一些重要的著作翻譯為阿拉伯語、希伯來語，又把中世紀重要的阿拉伯人的著作譯為拉丁語，有力地推動了東西方之間的文化交往。
宗教復國思想的產生
猶太人雖然被迫離開了故鄉，離開了聖地耶路撒冷，但他們在精神上卻始終嚮往著巴勒斯坦，嚮往著耶路撒冷。他們有形的聖殿雖然被摧毁了，但他們心中始終仍然存在著一座無形的聖殿。隨著他們流散的足跡越走越遠，區域越來越廣，或者隨著他們受到異族的歧視和迫害越來越嚴重，他們對故土和聖地的思念和嚮往也變得越來越強烈。這種對聖地和聖殿的嚮往，逐漸成了猶太宗教、文化和民族心理的一個組成部分。
後來，這種嚮往又發展成為返回聖地，回到祖先的土地生活的宗教復國思想。猶太教徒相信他們是上帝的特選子民（the ChosenPeople），他們負有傳播上帝旨意的特殊使命。而且上帝還允諾將巴勒斯坦賜予猶太人，作為他們永遠居住的地方。其根據是，《聖經·創世記》第17章中寫道：「我（耶和華）要將你現在寄居的地，就是迦南全地，賜給你和你的後裔永遠為業。」因此，無論猶太人流散到何處，最終上帝都將使他們重返迦南這塊「應許之地」（thePromised Land）。許多猶太人把他們的流散解釋為是一種上帝對他們的懲罰和考驗，他們遭受的苦難是為了贖罪；只要他們堅信上帝，嚴守律法，虔誠反省，最終將會得到上帝的寬恕，並將他們從放逐之地解救出來，使他們回歸祖先的土地。
因此，無論他們在世界的哪一個角落，他們都不會忘記故土和聖地。猶太人中有許多宗教習俗都與這種嚮往聖地，渴望返回故土的信念有關。例如，猶太教徒每天祈禱三次，祈禱時都必須面向耶路撒冷方向；猶太家庭每年逾越節晚宴的最後一句祝詞都是：「明年在耶路撒冷」；猶太人以死後能埋葬在耶路撒冷為榮，即使不能埋葬在那裡也要設法從聖地裝一小包泥土放墓穴中，以象徵在聖地安息；猶太人舉行婚禮時，都要打碎一隻杯子，提醒人們不要忘記被毁的聖殿；他們在建造房屋時，也要留出一部分來不加裝飾，以紀念尚未修復的耶路撒冷；等等。
正是有了這樣一種信念，猶太人千百年來才能夠年復一年地期盼、等待，忍受一波又一波的反猶惡浪。也正是由於有這樣一種信念，猶太民族在精神上始終保持為一個整體，維持著很高的道德標準，期待著復國返鄉那一天的到來。猶太人的這種宗教復國思想對他們中後來產生的政治復國思想有極大的影響。