1928年9月的一天早晨，弗萊明像往常一樣來到了實驗室。雖說他工作的地方是在實驗室里，但是他的實驗室更像是雜貨鋪。裡面的多西多種多樣，比如：鏈狀球菌、葡萄狀球菌、炭疽菌、大腸桿菌等這些有毒細菌都被放置在一起。這些細菌的存在都是為了能研究出對付能使傷口感染化膿的細菌。弗萊明試驗了各種藥劑，力圖找到一種能殺它的理想藥品，但是一直沒有成功。
弗萊明例行檢查著每個培養器皿中細菌的變化，當他檢查到靠近窗戶的一隻器皿時，他皺起了眉頭，自言自語道：“唉，怎麼搞的，竟然變成了這個樣子！”原來，這隻培養皿里不是長滿了金黃色的葡萄球菌，而是像發了霉似的，長出一團青色的霉花。
他的助手趕緊過來說：“可能這是被雜菌污染了，把它倒掉吧。”弗萊明沒有馬上把這培養器交給助手，而是仔細觀察了一會兒。令弗萊明驚奇的是：在青色黴菌的周圍，有一小圈空白的區域，原來生長的葡萄狀球菌消失了。難道是這種青黴菌的分泌物把葡萄狀球菌殺滅了嗎？雖然還不能確定，但是弗萊明肯定他是一種很有價值的東西。
他把培養皿中青色物刮下來一點點，開始用顯微鏡觀察。這些青色的斑斑點點具有青黴素屬黴菌——青黴葡萄球菌氧化酶的特徵。然後，弗萊明把剩下的黴菌弄出來，放在一個裝滿營養液的罐子裡。幾天後，青黴菌明顯繁殖起來。
接著，弗萊明忐忑地開始了試驗：他用一根線蘸上溶了水的葡萄狀球菌，放到青黴菌的培養器中，幾小時後再取出線頭，葡萄狀球菌已全部死亡。接著，他分別把帶有白喉菌、肺炎菌、鏈狀球菌、炭疽菌的線放進去，這些細菌也很快死亡。經過多次試驗和觀察，他確認：這種綠色黴菌具有強大的殺菌能力，正是自己夢寐以求的殺菌物質。
另外，為了研究青黴菌液體對動物是否有害，弗萊明小心地把它注射進了兔子的血管，然後緊張地觀察他們的反應，結果發現兔子安然無恙，沒有任何異常反應。這證明這種青黴菌液體沒有毒性。弗萊明將這種青黴菌分泌的殺菌物質稱為青黴素。
1929年6月，弗萊明將一篇題為《青黴素——它的實際應用》的論文發表在《新英格蘭醫學雜誌》上，標誌著人類在抗菌素研究中取得了關鍵性的進展。
然而，讓人又感到遺憾的是，當時青黴素還無法馬上用於臨床治療，因為培養液中所含的青黴素太少，一次有效的注射要用幾升培養液，而且只會從霉爛的食品中培養青黴素，這在實際上無法辦到。因此，弗萊明只好暫時停止了對青黴素的培養和研究工作。但是他的發現，為後來的科學家開闢了道路。
時間到了1939年，弗萊明關於青黴素的論文引起了在牛津大學主持病理研究工作的澳大利亞病理學家佛羅理的興趣。但是，要提取出這種物質，需要各方面科學家的共同努力。為此，他和助手德國化學家錢恩以及一些生物學家、生物化學家和病理學家，組成了一個聯合實驗組。