1952年9月10日，以色列和德意志联邦共和国在卢森堡签署了赔偿协议，从此开始了两国关系史上的新篇章。
“以德国人的名义所犯下的难以启齿的罪行，必须给予道义和物质上的赔偿。”
1951年9月27日，当时的德意志联邦共和国总理康拉德·阿登纳发表了如下讲话：“联邦政府准备同犹太人和以色列国的代表一起，共同就物质赔偿问题寻求解决方案，以缓解他们无限的精神创伤。”
德国前总理阿登纳
联邦总理阿登纳在德国联邦议院所发表的政府声明，为德国和以色列的赔款谈判铺平了道路。6个月后，这一谈判在荷兰-也可以说是在一个中立国的土地上正式开始。犹太人索赔大会主席格德曼（Nahum Goldmann）事后回忆说，谈判进程就好似一桩在讨价还价的金融买卖。犹太人索赔大会管理着22个犹太人组织，这些组织代表着生活在以色列境外的纳粹受害者的利益。德以双方就索赔问题的每一个条款都进行了艰苦的谈判。之后，以色列获得了价值300亿德国马克的货物作为抵偿，犹太人索赔大会获得4，5亿马克的赔偿金。慕尼黑历史学家汉斯·君特·豪克茨（Hans Günter Hockerts）表示：“一个很棘手的问题是，拿什么作为衡量赔偿价值的标准。在进行赔偿谈判时，以色列议会出现混乱的场面。有人高举的横幅标语上写着：我们被杀害的祖父母价值多少钱？这句话的意思是：赔偿根本没有标准！因此，人们决定将幸存难民在以色列定居的费用作为索取赔偿金的合理标准。以色列需要的不是德国马克，而是德国的产品如铁路机车和船舶，也需要进口石油以及化学和医药产品。”
以色列前总理本古里安
阿登纳最亲密的顾问汉斯·格罗布克也参与了赔偿协议的缔结进程，尽管他在纳粹时期曾经为反犹太人的纽伦堡种族法案撰写过决定性的评论。而以色列人并没有对他表示愤慨。难道是对战后德国的效忠？以色列记者和历史学家汤姆·塞格夫认为：“我认为不应说是效忠。这完全出于外交政策和现实的政治考虑。当时以色列已经意识到，德国是一个正在崛起的大国。因此，人们为避免得罪阿登纳政府作出了巨大的努力。例如以色列第一任总理本古里安（Ben Gurion）就曾经表示，永远不要称呼他们为德国人，应该只称他们纳粹。”
