油画的起源可以追溯到12世纪初的北欧。还有一些迹象表明，中东国家可以在盾牌和盔甲上绘制油画作品。当时人们认为，与其他已有的方法相比，油画颜料不会因为雨水的侵蚀或冲刷而脱落，因此更适合绘制在金属上。然而，尽管油画历史悠久，直到15世纪，早期荷兰的油画家，如罗希尔·范德魏登（Rogier van der Weyden）和扬·范·艾克（Jan van Eyck）才使油画真正流行起来。到了16世纪，大多数欧洲人开始使用这种颜料。
在油画出现之前，蛋彩画是最常见的。蛋清蛋彩画盛行于整个文艺复兴时期。当时画家们认为，色层有助于表现更清晰的画面，因此以亚麻籽油作为颜料的溶剂最佳。
直到16世纪，威尼斯开始使用油彩作为绘画的基本方法。16世纪末期，许多威尼斯人一直利用釉料的多层次性创作基本的油画。亚麻画布也取代了之前熟知的木板。
西班牙油画家迪亚哥·委拉斯开兹（Diego Velazquez）是油画技艺大师；彼得·保罗·鲁本斯（Peter Paul Rubens）对油彩的使用在过去的几个世纪里影响了许多画家；而伦布兰特（Rembrandt）可能是当时最著名的油画家。他用层层涂抹的方法表现出了纹理的深度，把平滑和粗糙的笔画相结合，绘制或厚或薄的涂层用以凸显画面深度。
油画成为绘画的上选脱颖而出是因为，一批如约翰尼斯·维米尔（Johannes Vermeer）这样有影响力的画家创作出了众多享有盛名、令人艳羡的杰作。大师们把在画布上混合色调与光滑层次的技法传授给门徒，并最终在学校教授这些技法。今天，由于颜料黏稠性的改变和底漆的变化，许多古老的绘画技巧已经遗失。使颜料变得更加安全、厚重并能够快速干燥的添加剂成了妨碍我们从油画中发现真正的艺术的元凶。