Het eerste watermerk werd per ongeluk vervaardigd in de Fabriano-papierfabriek in Italië, waar al sinds 1260 papier wordt gemaakt. Op de wals die werd gebruikt om het water uit de natte pulp te persen, zat een stukje draad. Het papier was iets dunner op de plekken waar de draad zijn indruk had achtergelaten. De aldus ontstane streep was tegen het licht te zien.
Men besefte dat op deze wijze ook een compleet ontwerp in het papier gedrukt kon worden. In 1282 werd het allereerste opzettelijke watermerk vervaardigd -een eenvoudig kruisje.
Tot op heden wordt ongeveer dezelfde methode gevolgd. Het natte papier wordt door een papierwals geperst waarop het model van het watermerk is genaaid of gesoldeerd.
Watermerken worden al eeuwen door de fabrikanten van briefpapier als fabrieksmerk in hun produkt gedrukt. Om de vervalsing van bankbiljetten tegen te gaan worden ingewikkelder watermerken gebruikt, zoals portretten van staatshoofden of zeehelden. Deze zgn. schaduwof ombré-watermerken komen tot stand door de figuur in reliëf op de zeef te persen. Dit type watermerk is zo moeilijk na te maken, omdat er tintnuanceringen mogelijk zijn (van lichter tot donkerder dan de kleur van het papier).