夜空に見える天体には恒星や惑星などの点光源の天体と、それらとは異なって雲のように面積を持って広がった天体とがあることが古くから知られていた。後者には現在で言うところの散開星団・球状星団・散光星雲・銀河など様々な天体が含まれているがその正体は長く明らかになっておらず、星雲 (nebula) と総称されていた。
1600年代初めに望遠鏡が発明されるとイタリアのガリレオ・ガリレイは自作の望遠鏡で様々な天体を観察し、それまでの宇宙観を覆す多くの発見をした。その一つに天の川が恒星の集団であることを発見したことが挙げられる。この数年後の1612年にはドイツのシモン・マリウスが我々の銀河系の隣の銀河であるアンドロメダ銀河 (M31) を初めて望遠鏡で観測しているが、当時の望遠鏡ではこの銀河の個々の星を分解することはできなかった。
1755年にはドイツのイマヌエル・カントが太陽系からの類推を元に、天の川はたくさんの恒星が重力で回転している天体で、これを内側から見ているために天球上で帯状に見えているとする説を提案した。さらにカントは、星雲のうちのいくつかは我々の天の川と同様の天体が遠方にあるものではないかと指摘し、それを指して島宇宙と称した。
1764年から1784年にかけてフランスの彗星捜索家シャルル・メシエは、星雲と呼ばれていた雲状の天体を彗星と区別するためにメシエ・カタログと呼ばれる星雲のカタログを発表した。この時代でも星雲はもっぱらその形態で分類されるにとどまり、その性質の違いや距離などについてはまだ分かっていなかった。
1788年にイギリスのウィリアム・ハーシェルは夜空の星々の数をあらゆる方向について数え、暗い星ほど距離が遠いという仮定を用いて恒星の空間分布を求めようと試みた。その結果、恒星は天の川に近い領域ほど数が多いことを発見した。これによって、カントが唱えていた通り天の川は我々の太陽系を含む円盤状の恒星集団（銀河系）であるらしいことが明らかになった
1840年代にはイギリスのロス卿が口径72インチの大望遠鏡を建設し、これを用いて様々な天体のスケッチを残した。彼はりょうけん座の M51 が渦巻状の姿をしていることを発見した。彼は星雲の中に同様の渦巻状の天体が数多く存在すること、一方でそのような特徴を持たない楕円形のものもあることを発見した。
20世紀に入ると、ハーシェルの研究を引き継いで我々の天の川の形とその中での太陽系の位置とを正確に決めようとする試みが行われた。1920年にはオランダのカプタインがハーシェルの手法をより洗練させた観測を行い、銀河系は直径約15kpcの楕円体で太陽はそのほぼ中心にあるとする説を唱えた。一方、アメリカのシャプレーは、球状星団の空間分布がいて座の方向に集中していることから、銀河系は直径約70kpcの平らな円盤で太陽はそのはずれに位置すると主張した。実際には星間塵による光の吸収の効果を考慮していなかったため銀河系の大きさについての推定はどちらも正しい値ではなかったが、太陽系が円盤状の銀河系のはずれにあるというシャプレーの描像は今日でも正しいとされている。
紫外線で見たアンドロメダ銀河 (M31, NGC224)また20世紀には、ロス卿が見出した渦巻星雲や楕円型の星雲の正体も明らかにされた。1912年にはケフェイドと呼ばれる変光星の絶対的な明るさと変光周期の間に一定の関係があることが発見されていた。この周期-光度関係を用いると星団に含まれるケフェイドを観測すれば星団までの距離が測定できることとなる。当時、いわゆる渦巻星雲が銀河系内の天体か銀河系外の天体かについては依然として明らかになっておらずこれをめぐって1920年にシャプレーとカーティスの間で公開論争が行われたほどであったが、1924年にハッブルがアンドロメダ銀河 (M31) の中にケフェイドを発見し、それによってM31までの距離が約90万光年であると計算された（その後、ケフェイドに2つの種族があることが判明したためこの距離は現在では約230万光年に修正されている）。この値は当時知られていた銀河系の大きさに比べて十分大きな値であったため、M31が銀河系外にある天体であることが確定した。これによって、M31と同様の渦巻銀河は全て銀河系外の天体であるという描像が定着した。
このような歴史的事情を反映して、かつては銀河も星間ガスからなる星雲(nebula) も共に「星雲」と呼ばれ、両者を区別するために銀河系外星雲/銀河系内星雲などと呼ばれていた時期があったが、現在では両者は 銀河(galaxy) /星雲(nebula) として呼称の上からも明確に区別されるのが普通である。
1944年には、オランダのファン・デ・フルストによって中性水素原子が波長21cmの電波（21cm線）を放射することが明らかにされた。この電波は星間吸収の影響を受けないため、これを用いて銀河系全体の水素ガスの分布と運動が調べられるようになった。その結果、我々の銀河系にも渦巻構造があることが明らかになった。現在では電波望遠鏡の発達により、銀河系外の銀河の水素ガスの分布も調べられている。
1970年代になると、水素の21cm電波観測から得られた銀河の回転速度が銀河の外縁部近くでも遅くなっていないことが分かり、電磁波で観測される銀河の質量をはるかにしのぐ質量が銀河全体に分布していることが明らかにされた。この「見えない質量」をダークマターと呼ぶ。ダークマターの正体については様々な説が出されているが現在も明らかになっていない。