龐培在青少年時期受過良好的教育，具有很高的文化修養，對當時先進的希臘文化有濃厚的興趣。由於受到家庭的薰陶，他酷愛軍事，17歲時就隨同父親一起鎮壓義大利人的起義。在政治上，他完全繼承了父親的衣缽。他的父親野心勃勃，在動盪的年代謀取了國家的最高權力，這在龐培的心目中留下了深刻的印象。
公元前87年，其父被雷擊死，龐培繼承了他在皮凱努姆的地產，並在那裡生活了六年。這期間，正值馬略和蘇拉為爭奪羅馬最高權力在進行內戰，一些豪門貴族紛紛投靠蘇拉。
龐培意識到，只有在蘇拉麾下才能飛黃騰達。他利用父親的勢力和影響，很短時間裡招募組建起一個軍團，趕赴蘇拉軍營。途中，龐培指揮部隊多次衝破馬略部下的阻攔，順利通過許多城市，還繳獲了大批武器和戰馬。蘇拉看中了軍事上嶄露頭角的龐培，把他提拔為自己的有力助手。龐培這時年僅23歲。
公元前82年，蘇拉最終擊敗馬略奪得羅馬政權，實行獨裁；龐培為了密切與蘇拉的關係，加強自己的地位，卑鄙地拋棄了自己的妻子，和蘇拉的女兒結婚。
婚後不久，龐培就奉蘇拉之命去奪取西西里島。由於駐守該地的馬略部將未加抵抗，使龐培得以輕易地占領該島。隨即龐培又被派往非洲同努米底亞人多米提烏斯作戰，在一個暴風驟雨的日子，與龐培對峙的多米提烏斯向後撤退，龐培命令部隊迅速出擊。面對突然而來的羅馬大軍，努米底亞士兵驚慌失措，潰不成軍。這一勝利震驚了努米底亞，一些城市不戰而降，僅40天時間，龐培占領努米底亞，征服了非洲。
非洲的戰功大大地提高了龐培在羅馬的威望，也使蘇拉感到了緊張。戰後不久，蘇拉便命令龐培解散軍隊，率領一個軍團返回烏提卡等待接替者。龐培拒絕了這一命令，並且率領大軍出現在羅馬大門口。儘管他沒有擔任公職，卻要求蘇拉為他舉行凱旋式。
蘇拉警告龐培不要違背法律。因為當時羅馬法規定只給有巨大戰功的執政官、行政長官舉行凱旋式。然而龐培毫不退讓，他嘲諷蘇拉說：“崇拜初升太陽的人要多於崇拜落日的人。”蘇拉迫不得已，破例為龐培舉行了非洲之戰的凱旋式，並授予他“偉大”的稱號。
公元前78年，蘇拉病死。羅馬人對蘇拉軍事獨裁不滿的情緒如大火般爆發出來。當年執政官雷必達廢除蘇拉憲法，元老院宣布雷必達為祖國公敵，派龐培進行鎮壓，又輕易取勝。第二年夏，龐培又奉元老院之命討伐在西班牙的另一民主派領袖塞爾托里烏斯，這次又取勝了。
這時羅馬國內爆發了著名的斯巴達克斯起義，得勝後的龐培，連忙撤軍回國增援鎮壓起義軍的克拉蘇。龐培趕到時，克拉蘇已經消滅了起義軍主力，龐培攔住了突圍出來的6000名奴隸戰士，殘忍地屠殺了這支起義軍餘部。
公元前70年，羅馬的政局又朝著有利於民主運動的方向發展。懷有個人野心的龐培看到蘇拉派逐漸失勢，民主派聲勢大增，便見風轉舵，倒向民主派，討好騎士和平民。龐培和克拉蘇當選為當年的執政官，他們頒布和實施了一些有利於平民的政策，還清洗了元老院中蘇拉的50名黨羽，因而換取了羅馬人民的好感。