《小黃人》圍繞小黃人們的“前格魯時代”展開敘述,并特別追溯了小黃人的起源。小黃人原本是一種單細胞體生物,之后逐漸進化為專為超級壞蛋提供服務的壞蛋助手。它們服務過的超級壞蛋包括:霸王龍、拿破侖、吸血鬼、北極熊。小黃人總是忠誠地為主人提供各種服務,兢兢業業,毫無怨言——直到它們失手“害死”每一任主人。在痛苦地失去一個又一個主人后,被困在冰洞之內小黃人們愈發焦躁不安,于是小黃人斯圖爾特、凱文及鮑勃決定挺身而出,去到花花世界,再次尋找可以效勞的主人。
時值上世紀60年代,超級壞蛋也并不好找。不過總算皇天不負有心人,小黃人三人組無意間看到了“壞蛋大會”廣告,該大會聲稱世界第一女壞蛋斯嘉麗·殺人狂會出席大會并發表演講。為了盡快見到斯嘉麗,小黃人三人組甚至搭上了銀行搶劫犯的順風車。在經歷了 一系列可想而知的“災難”之后,小黃人終于如愿以償地成為斯嘉麗的助手。它們為斯嘉麗執行的第一個任務就是盜取英國伊麗莎白女王的皇冠,任務進展的十分順利,順利到呆萌的鮑勃竟然莫名其妙的成為新任國王。但是斯嘉麗對于他們的戰果并不滿意,她誤以為小黃人三人組要自立門戶,于是麻煩接踵而至。