犹太人第四次回到迦南这片“上帝应许之地”的时候，已经是19世纪了。这一次他们在外流浪了两千年之久。
公元70年和135年的两次犹太战争之后，巴勒斯坦的犹太人绝大多数离开本土向世界各地流散，这个流散过程是漫长的，犹太人的足迹遍及世界各大洲的主要国家。甚至在东方的中国，也有犹太人和犹太会堂的踪迹。到公元300年，除不列颠行省外，犹太人已经遍布在从西班牙到埃及、从莱茵河到北非的罗马帝国各个角落。他们被赋予宗教信仰自由，允许将犹太律法作为自己的生活准则，而且免除在军队服役的义务。公元300年时，全世界的犹太人口已经至少达到300万，其中大部分生活在巴勒斯坦以外的地区。公元6世纪后，由于基督教和伊斯兰教的兴起，由于宗教信仰和生活习俗的歧异，更由于经济上的原因，客居异国的犹太人逐渐不受欢迎。歧视、奴役、迫害、抢劫、残杀的事件不断发生。
在穆斯林统治之初，犹太人尽管处于从属地位，但还是能够保持自己的信仰、自由经商、在飘扬着新月旗的土地上自由旅行。然而犹太人在伊斯兰世界中属于低人一等的种族，从西班牙到阿拉伯半岛，陆续建起了犹太人隔离区，犹太商人被哈里发们课以惩罚性税收，并被强制穿戴有特殊标志的服饰。
穆斯林统治下犹太人生活的城镇包括那些两千年来一直有犹太人定居的地方。就连被认为是伊斯兰教心脏地带的阿拉伯半岛，犹太人也是早已深深扎根于当地的生活中。在穆罕默德开始传教之前，麦加和麦地那等城市甚至一直由在当地居住了1200多年的犹太部落统治着。从公元644年开始，穆斯林统治者开始将半岛上的犹太人驱逐到南方的也门和埃塞俄比亚。从637年阿拉伯军队攻陷耶路撒冷起，到1516年土耳其人攻陷耶路撒冷为止，阿拉伯人对其统治下的犹太人时而宽容、时而苛待。继阿拉伯帝国之后兴起的奥斯曼土耳其帝国虽然不时苛待犹太人，但仍有不少欧洲犹太人由于基督教的迫害和驱逐，前往奥斯曼治下的巴勒斯坦、摩洛哥、利比亚和其他领地寻求避难。
在中世纪，犹太人所遭受的最严重的迫害来自基督教世界，因为他们被视为“杀害耶稣者”。统治西班牙的西哥特人首先开始奴役犹太人，因此其首都托雷多城的犹太人在阿拉伯大军到来的时候打开了城门，欢迎穆斯林解放者的到来。法兰克帝国也发生过火烧犹太人的事件。11世纪至12世纪十字军东征时，中东、中欧、西欧的犹太人又成为残杀对象。1096年，十字军在路过德国境内时，曾在多座城镇里屠杀犹太居民。英王狮心理查德举行加冕礼时，参加十字军的英格兰人大批屠杀国内的犹太人。1290年，英格兰境内残存的5000名犹太人被全部驱逐到法国。1358年法国也实行彻底赶逐犹太人的政策。无数历史悠久、充满生机的大型犹太人小区遭到驱逐，在离开时，他们的财产不是被没收就是遭掠夺。
公元10至13世纪，西班牙的犹太人处境曾比西哥特人统治时期有所改善，当时阿拉伯和柏柏尔穆斯林在西班牙当权，对犹太人比较宽容，于是西班牙一度成为犹太人新的活动中心。但到15世纪末，穆斯林在西班牙的统治结束，取而代之的天主教王国厉行政教合一政策，设立异端裁判所，审讯迫害犹太人，把自从迦太基和罗马人时代就居住在那里的40多万犹太人驱逐出境。这些犹太人离境时，不得不拿一栋房子换一头驴，一座葡萄园换一小匹布或者亚麻，因为他们不能随身带走金银。有些犹太人吞下金银币，藏在肚子里带出海关。妇女吞得多些，有个人一次吞下了30枚金币。
大批西班牙犹太人流散到北非、西亚等穆斯林国家，多数从事农业劳动，这一类犹太人称“塞法迪人”，文化较为落后。除了西班牙犹太人外，还有一批犹太人定居在神圣罗马帝国，他们后来辗转进入欧洲的波兰、俄国等国，被称为“阿什肯纳齐人”。这些人文化程度较高，多从事商业和文化活动。
在欧洲历史上，犹太人的形象，除了勾结罗马人杀死耶稣外，时隐时现的还有一个夏洛克的形象——从正在挨饿的基督徒寡妇手里榨取最后一枚硬币的、面目丑陋而又铁石心肠的守财奴。实际上，他们扮演的是代人受过的角色。因为对基督徒来说，高利贷是一种罪恶，因此基督教国王们经常允许犹太人从事放贷收贷的高利润生意，再向犹太人课以重税，拿走利润的大头，而犹太人得到的不过是蝇头小利，而且经常因此挨打。如果公众对犹太借贷者的仇恨沸腾起来，基督教国王们就会出卖犹太人，让暴民去攻击他们。法王路易九世(圣路易)在1253年是这么干的，英王爱德华一世在1290年也是这么干的。
不过，在中世纪的欧洲，也存在一些犹太人的避难所。1333年，波兰的卡西米尔一世和立陶宛的维佐夫特大公相继宣布给予犹太人保护，其中不少是从德意志逃出来的难民。这些统治者很欢迎犹太人，因为当时波兰和立陶宛地广人稀，经济落后，犹太人到来后使各地的商业都繁荣了起来。为了吸引更多的犹太移民，国王们甚至颁布了保护犹太人的法令。大批犹太人从此在波兰一立陶宛王国定居下来，日益繁荣兴旺。这些人使用的德语经过几个世纪的变迁，逐渐成为犹太人的通用语言——拥有强大生命力的意第绪语。凭借这一语言，犹太人的文学、教育、歌曲和民谣得到了发展。
流散的犹太人在长达千年的中世纪历史阶段里，经历了深重苦难，受到歧视、赶逐与屠杀，被隔绝于西方社会的政治、文化生活之外。1516年，威尼斯共和国将全市犹太人驱人一座小岛上的枪炮铸造厂内，宽阔的运河和沉重的大门将其与外界隔绝开来。一到晚上，大门就要关闭。这种经验后来被各国仿效推广，在城市设立犹太人专住的隔离区，此类隔离区被称为“隔都”。在隔都之内，犹太人可以有自己的会堂、学校和商店，但在隔都之外，他们是不受欢迎的异邦人。直到1797年，拿破仑才废弃了威尼斯的隔都，但在这座城市直到1866年犹太人才被允许自由选择居住区域。
尽管隔都是一种歧视性的做法，但是备受欺凌的欧洲犹太人还是愿意生活在隔都里，因为这里毕竟是他们自己的一个小天地。隔都内的犹太人实行自治，可以在隔都里保持他们的宗教信仰、文化习俗，让他们的孩子接受犹太教育。当时犹太人常说“隔都里的孩子可能没有食物，但是他们决不会没有教育”。实际上，隔都成了犹太人免受外界侵扰和避免同化的一种措施。中国和(近代以前)伊斯兰国家的情况就是隔都的反例：这些地方从来没有对犹太人进行强制隔离，因此犹太人与当地民族主动融合，轻则像也门犹太人一样讲阿拉伯语、沿用阿拉伯人的衣着婚礼；同化严重的，如开封的犹太人，最后消失融合于当地人民之中。P13-16
