生活在上古时代的人们，由于物质生活非常贫乏，可以吃到蔬菜很少。《诗经》中共提到了132种植物，可以作为蔬菜食用的只有20余种。后来，其中大部分都退出的蔬菜圈，成为野生植物，如荇、苕、苞之类。
战国秦汉时期，主要蔬菜有5种。葵为“百菜之主”，现在有的地方称其为冬寒菜，植物分类学上称其为冬葵。自唐朝之后，种植面积就开始减少，明代时已经很少种植，并且已经不将它作为蔬菜食用。藿，也是先秦时的主要蔬菜，它指的是大豆苗的嫩叶，如今也早不把它当作蔬菜来吃了。韭、葱、蒜在我国古代蔬菜中已经常见。《汉书·召信臣传》中记载了冬天在温室里种植葱、韭菜的情况，并把培育出来的韭菜称为“韭黄”。此外，还有萝卜、蔓菁等根菜类，我国古代就培育出来很多优良品种的萝卜。蔓菁早在《吕氏春秋·本味篇》中就有“菜之美肴”之称，古时蔓菁还被用来当作主食。
魏晋南北朝至唐宋时期，从国引陆续引进了一些新的蔬菜品类，如茄子、黄瓜、菠菜、扁豆等。茄子原产地在印度，传入我国较晚，刚开始称为胡瓜；菠菜是唐朝贞观二十一年（公元647年）由尼泊尔传来的，最初叫波楼菜；扁豆原产爪哇国，在南北朝时传入我国；刀豆最初产于印度，唐代时传入我国。
我国古代劳动人民还自行培育出一些极重要的蔬菜品种，而且至今都在食用，比白菜、茭白等。
发展到元明清以来，我国菜谱中又新添了很多成员，如元代由波斯传入的原产北欧的胡萝卜。辣椒和西红柿等则传入得晚些，西红柿传入国内的时间比辣椒还要晚，最初称之为“番柿”，仅做观赏用，19世纪中叶才作为蔬菜栽培。