瓦特在很小的時候就開始當學習學徒。18歲那年進格拉斯哥城學習手藝，後來又去倫敦專門學習機械製造業。1756年，瓦特學期未滿，到了蘇格蘭的格拉斯哥。他特別想自己開個店，但是他的學徒期太短，不夠獨立經營的標準，因此沒有獲得當局的批准。
1757年，瓦特到格拉斯格大學找到一份工作，即做機修工，主要負責製作和修理教學儀器。這份工作為瓦特提供了良好的學習與實踐的機會。他勤奮認真的學習專業知識，另外還掌握了德文和義大利文，一有機會就向大學裡的教授請教，有時還和他們爭論科學技術問題。同事，瓦特還結識了著名物理學家布萊克教授。從他那裡，瓦特學到了關於熱學的知識，這對他日後的發明益處很大。
早在1679年法國工程技師巴本就製作了“蒸煮器”，就像現代的高壓鍋。在這基礎之上，巴本進一步研製出了第一台活塞式蒸汽機，但他未能改進成實用的蒸汽機。這種機器的原理是在汽缸底部放有少量的水，一加熱，水的蒸汽就會推動活塞。當停止加熱時，汽缸下落，可以提供動力。但是因為礦井太深，用機械排水需要耗費很大的人力、財力和財力，所以英國政府公開懸賞，希望有人能解決礦井的排水問題。
英國工程師薩費里發明了蒸汽泵來解決這個問題。1698年，英國的塞萊斯發明了實用的無活塞式蒸汽機，能應用在礦井中，被稱為“礦山之友”，但受當時材料和技術的限制，無法推廣。直到1705年，紐可門創造了空氣蒸汽機。他通過向汽缸里裝冷水噴射器，使得降溫冷凝的速度有了很大的提高。
1763年，格拉斯格大學買了一台紐可門的蒸汽機用來做實驗。經過一段時間的研究，瓦特發現這台在當時還算是先進的蒸汽機仍然存在很大的弊處，其一是使用時燃料的耗費量特別大，而且體形還很笨拙，另外它的應用範圍有限，只能用於礦井抽水和灌溉。看著這台機器，瓦特對自己說：“我一定要研究一台更好的蒸汽機。”
瓦特開始自籌資金，租了間地下室，買了必要的設備。一年之後，瓦特自己製造的蒸汽機開始點火了。但水沸騰起來之後，蒸汽機卻一動不動，水汽從裡面冒了出來把屋子裡搞得霧氣騰騰。經過檢查發現，原來是蒸汽機漏汽，瓦特的第一次試驗失敗了。“我一定能成功！”瓦特並沒有灰心。
但是，瓦特面臨了資金不足的現實問題。當時，造一台蒸汽機需要幾千英鎊，而瓦特一年的工資也才不過35英鎊，他只好向朋友求助。幸好他有一個叫巴克的朋友為他提供經費，給予他很多幫助。當瓦特看到曙光的時候，巴克突然破產了，瓦特又走投無路了。
“瓦特，我給你帶好消息了。”正當瓦特在自己的實驗室里一籌莫展的時候，巴克也在四處奔走，想法為瓦特尋找支持者。
“什麼好消息，趕快告訴我。”瓦特興奮起來，又有了奮鬥的激情。
“伯明罕有一個鐵器製造商，叫馬太·波爾敦，他答應為你提供經費，並且維持你的生活，直到這個事業獲利為止。”
“他有什麼條件？”
“在你成功後，他想占有蒸汽機專利權的三分之二作為對他的補償。”
“好，我同意了！”