人類著書並為書作插圖的歷史已有三千五百年了。最初，人們在埃及尼羅河沿岸發現了壹種叫做紙莎草(Papyrus)的纖維質植物，取其莖皮，可以制成卷軸，用來寫字作畫，做成關於科學、歷史、巫術及宗教的書卷。這種卷軸的另壹重要用途是陪葬，伴隨死者抵達另壹個世界，上面的文字幫助他們向冥神奧西裏斯解釋他們壹生的作為。卷上的畫像以後被稱為細密畫，都是用透明的顏色畫成的。土黃色、赭色取之於泥土；紅色取自朱砂類的礦物；石青為藍，石綠為綠，土黃為黃，蟲膠為橙；黑色以柳木炭制作，白色則用白堊。這些色料都用阿拉伯樹膠(Gum arabic)加蛋白調和，用水稀釋後使用。簡而言之，這就是水彩。
壹千年以後，大約公元前170年左右，帕加馬國王歐墨尼斯二世率先使用羊皮紙。以羊皮經石灰處理，剪去羊毛，再用浮石軟化，便成了這種新的書寫材料。把這些羊皮訂成小冊子，稱為手抄本，再合訂成冊，使成為留傳後世的羊皮典籍。此後，手稿壹直使用羊皮紙。
到公元九世紀，無論在希臘、羅馬、敘利亞還是拜占庭，大多數細密畫都是用水彩與鉛白混合制成的壹種不透明的水彩來畫的。而此時正值查理曼大帝的卡洛林王朝。查理曼大帝十分重視手稿創作，他召集了許多交替使用透明和不透明水彩的大畫家。這種混合使用壹直延續到中世紀後期乃至文藝復興時期，當時已普遍將水彩應用於細密畫中。事實上，這些就是水彩畫的雛型。
水彩畫的範疇可以推展到古代埃及人的畫卷，波斯人富有異國情調的細密畫和歐洲中世紀聖經手抄本的插圖，以及我國古代的傳統洛陽東郊顧人殘墓中布質畫幔的遺跡，更早甚至可追溯到史前時代阿爾塔米拉和拉思考(Altamira & Lascauxl)的洞穴壁畫。雖然許多古代人類用顏料、樹脂調和水，作為記載他們的生活瑣事，傳述他們社會文明的工具，但是，隨著時光的荏苒，知識的累積，歷經18、19世紀歐洲水彩畫的興起；尤其是英國多位水彩畫家們努力所創立的豐碩成就，從此，水彩畫漸近完美。到19世紀末，水彩畫已經發展出完整的獨自體系。就狹義的定義而言，“水彩畫”是指用水彩顏料，以水為稀釋媒介，在紙張上作畫的繪畫方式。通常有透明水彩(Transparent Watercolor)及不透明水彩(Gouache)兩大領域。
隨著科技的進步，新的繪畫材料的生產，20世紀水彩畫已不再局限於透明水彩與不透明水彩兩大範疇。舉凡能用水稀釋作畫的材料。如Gesso、壓克力、透明水彩液、水彩鉛筆，都包含在水彩畫的領域之中。