advertising は、特定の広告っていうか、広告を限定しているときに使う。たとえば：
This form of advertising targets children.「このような広告手法はこどもを対象にしている」――”このような”と限定してるから、advertising を使うんだね。
また不可算扱いなので「広告活動全般」というニュアンスで使うこともある。たとえば：
Advertising is expensive. 「広告活動というもののはお金がかかる」
advertisement は、広告そのものを観た時に使う。たとえば：
I saw an advertisement for a new car.「新車の広告を見た」――実際に広告を見たわけだね。an がついているのをみてわかるように、こちらは可算名詞扱い。「広告１本出すのはお金がかかる」だったら An advertisement is expensive. は可能。
ややこしいね～～～
ポイントは、可算・不可算の違い――と覚えておけば整理しやすいかもしれないね。