中国古代，散文是与韵文、骈文相对应，指不讲究韵律、不重排偶的散体文章。它的历史可以追溯到甲骨文，包括政论、史论、传记、游记、书信、日记、奏疏、小品、表、序等各体论说、杂文。而中国现代散文受晚明小品文和英国随笔影响，早期称之为“美文”，包括杂文、随笔、游记等。
广义的散文，是指诗歌、小说、戏剧以外的所有具有文学性的散体文章。除以议论抒情为主的散文外，还包括通讯、报告文学、随笔杂文、回忆录、传记等文体。随着现代写作的发展，许多文体渐渐获得了独立的文体地位，散文的范围日益缩小。
而狭义的散文专指文艺性散文，它是一种以记叙或抒情为主，取材广泛、笔法灵活、篇幅短小、情文并茂的文学样式。
散文文体的出现可以追溯到先秦历史散文。中国古代散文是伴随着史官记言记事而出现的。从记言为主的《尚书》，到记事为主的《春秋》，再到《国语》、《左传》、《战国策》，先秦历史散文奠定了古代史传文学的传统。将严谨的史笔与生动的文采结合起来，达到真实性与生动性的统一。
发展稍晚的是先秦诸子散文。从《论语》和《老子》的语录体散文，到《孟子》、《庄子》和《荀子》、《韩非子》，散文文体渐次发展完备，且文体丰富多样，有长篇专论、自由灵活的驳难体、抒情化的杂感短文、笔记体、韵文等。郭沫若曾评价，“孟文的犀利、庄文的恣肆、荀文的浑厚、韩文的峻峭，单拿文章来讲，实在是各有千秋”。
其后经历汉赋，至《史记》的诞生，不仅开创了中国纪传体的历史学，而且开创了以人物为中心的叙事文学，并奠定了中国散文文学的发展格局。魏晋南北朝时期发展成的骈文虽与散文相互对峙，但从文章发展的历史来看，它是散文的一种特殊形态。
一直延续到唐代，散文（古文）与骈文均处于不断消长变化之中，直到中唐“古文运动”直至宋代又重新倡导古文，形成享誉文学史的“唐宋八大家”。
之后，元、明的散文发展在复古的大旗下一直进行着观念的论争与拟古倾向，强调文与道的统一，讲究文章法度，并日益陷入一种模拟化的形式文风之中。受此影响，明代八股文形成于明代成化年间，并逐步演化为科举作文之法。其基本结构由破题、承题、起讲、入题、起股、中股、后股、束股、大结等部分组成。
值得肯定的是晚明小品文的出现。其创作从思想上卸去“文以载道”的沉重负荷，行文上洗净传统古文章法格式，以悠然自得的笔调和漫话絮语式的形态轻松自然地体味人生与社会，其语言自由别致，并营造一定的艺术意境。不仅对当时的八股文起到了一定的冲击作用，而且影响了现代散文的形成。
清代桐城派散文既是古代散文发展的理论高峰，也是古代散文式微的象征。但由于思想的守旧，无法使散文的发展符合文学和社会发展的内在规律。
五四时期的现代散文一开始就繁荣达到较高的水准。文体品种之丰，名家之多，风格之绚烂多彩。有《新青年》作家的“随感录”，周作人等的知识小品文，“冰心体”的美文，朱自清的抒情散文，丰子恺等的生活随笔，许地山的散文诗，庐隐的书信体散文，郁达夫的自传体散文，徐志摩的艺术性散文等等。
其后的三四十年代，现代散文的发展既有以林语堂为主的幽默闲适小品，也有以左翼作家为主的“鲁迅风”杂文，注重散文的现实批判性与论战效果，“像匕首，像投枪”，还有京派文人团体的艺术抒情散文与散文小品。
这个时期，由新闻体游记发展并形成的报告文学文体的产生，是现代散文发展的重要现象。报告文学的发展规模直到新时期，才彻底从散文文体中分离出来，开始了文体门户独立。
新中国成立以来，通讯、特写、回忆录与传记文学等散文类别发展迅速。新时期散文在“说真话、诉真情”，以“人”为中心的抒情表达中回归。散文开始“向内转”，真诚抒写情感、体验、裸露自我的灵魂，沟通人性，陶冶性情。