およそ5000年前に、石の表面に絵や文字を刻むための黒色インクが中国で開発された。このインクは油煙や松煙と膠の混合物であった。他地域の初期文明においても植物の実や種、鉱物から様々な色のインクが作り出された。
墨は古代インドで紀元前4世紀から使用され、いくつかの化学成分の混合物であった。カローシュティー文字で記述された古文書が新疆ウイグル自治区で発見されている。インド南部においては、針とインクを使って文字を書くことは一般的であった。いくつかのジャイナ教の教典はインクによって記述されている。インドでは墨の煤を骨やタール、ピッチなどを燃やすことで得ていた。
古代ローマではアトラメンタム(atramentum、銅板に熱した酢か尿をかけることで得られた緑礬色)が用いられた。シャロン・J・ハンティントンはクリスチャン・サイエンス・モニターの記事でその他の歴史上のインクについて記述している。
15世紀にグーテンベルクが印刷技術を開発すると、それに適した新しいタイプのインクが開発されることとなった。当時、ギリシャ・ローマの筆記用インク(煤と糊、水から成る)および12世紀に開発された硫酸鉄、胆汁、ゴム、水から成る2種類のインクが普及しておりこれらはどちらも版面に付着せず、印刷には適さなかった。結局、煤、テレピン油およびクルミ油からなるニス状のインクが印刷機用に開発された。