2002年、小学校からの友人であった麗とれいたは、前に組んでいたバンドのボーカルのルキ、そして葵、由寧と共にガゼットを結成した。しかし、1年ほどで由寧が脱退してしまい、後任に戒が加入。その後は戒がリーダーとして活動していくことになる。ちなみに戒自身が自発的にリーダーに立候補したらしい。それ以前は特にリーダーが決まっていなかったが、麗がその役目をしていたらしい。
ちなみにバンド名の由来は、「デモテープ （カセット） のような古き良き物を今に伝えるという意味をこめていると同時に、ガギグゲゴ調の名前にしたかった」とルキは言っていて、
お客さんに覚えてもらいやすいからと語っている。
しかし、2003年、戒が突発性難聴を患ってしまい、サポートメンバーとして由寧が一時的に復帰している。
この後、ガゼットは「大日本異端芸者」と名乗り始め、ポスターなどに「大日本異端芸者ガゼット」の表記が見られるようになった。また、PS COMPANYと契約したのもこの頃である。
作詞はルキが担当、作曲はバンド自身が担当しているということになっているが、実際はルキ、麗、葵のいずれかの場合が多く、また、原曲にいろいろアイディアをつけていくことから、このようなクレジットになっている。
音楽性としては初期の頃は「ガゼロック」と呼ばれるストレートなロックからジャズテイストやヒップホップテイストなものも取り込んだものであったが、アルバム「NIL」あたりからメロディアスな楽曲やハードロックなものも増え、「STACKED RUBBISH」ではターンテーブルを混ぜてみたりと、ロックにR&Bやヒップホップを混ぜた曲にも挑戦している。なお、麗は雑誌「グレア」で、「ロックにほかのジャンルを混ぜることなんかに抵抗感はない。」とコメントしている。
ガゼットを、解説してみました★