《聖經》中記載了這則故事：天使對那位希伯來人說：“你的名字不要再叫雅各，要叫以色列，因為你與神與人較力，都取勝了。”
在旅居埃及的大約300年間，適逢埃及新王國法老拉美西斯二世正試圖創建一個埃及帝國並尋找空前多的奴隸來維持國內經濟的運轉，希伯來人受到了種種奴役，他們被迫開山挖石，服各種苦役。過了幾十年，拉美西斯二世死去，埃及受到來自四面八方的野蠻民族和海盜的入侵。
正是在那時，在公元前1250年左右，希伯來人的首領摩西乘機帶領全族人越過紅海，離開埃及來到西奈半島（這是位於埃及和迦南之間的一片沙漠地帶），並說服他們崇奉雅赫維神，該神的名字後來被寫作耶和華。
也正是在那時，所有希伯來人都成了以色列人，因為他們在摩西的勸說下相信，耶和華是亞伯拉罕、以撒和雅各的神，結果以色列的神也就成了他們全民族崇奉的神。
希伯來人在西奈沙漠地帶遊蕩了大約一代人的時間，其後他們決定遷回比這裡富饒得多的迦南之地；相對於乾旱的西奈荒漠而言，迦南確實太過富饒了。
不過這次遷徙並非簡單的搬遷和定居，因為迦南人並不願與希伯來人共享他們的土地，因而希伯來人不得不訴諸武力，而事實證明這一歷程進展遲緩且布滿艱辛。
摩西的繼承者約書亞確實奪取了迦南的一些地區，但收穫並不太大，因為遊牧的以色列人裝備較差，無法用圍城戰術攻克迦南防禦堅固的城池。此外，約書亞死後，以色列各部又重新各自為政，無法採取統一的軍事行動，因而攻城掠地進展甚微。
結果，經過一個世紀的征戰，以色列人所獲得的只是迦南的一些丘陵地帶和為數不多的土地及並不肥沃的河谷。在公元前1025年前後，一位名叫撒母耳的部落士師以其人格力量贏得了以色列各部落的擁戴，他從所有以色列人中挑選出了一位國王掃羅，掃羅十分勇猛、機智和果斷，成了全體希伯來人尊敬的英雄。但掃羅王卻在一次戰鬥中失敗而自殺了。
掃羅死後，一個有勇有謀，名字叫大衛的青年登上了王位。他曾經是一個強盜頭，後來被掃羅收服，成了掃羅的帶兵官。大約在公元前1000年，大衛率領以色列人又攻下迦南人的一個叫耶路撒冷（意思是“和平之城”）的小城市。
因為大衛出身猶太部落，他就把他建立的國家稱為猶太王國，並把首都建在耶路撒冷。大衛還在在耶路撒冷大興土木，修建宮殿和神殿，自己也過上豪華的帝王生活。大衛死後，他的兒子所羅門繼承了王位。