見慣れない植物が植わっていたので、なんだろうと触ると極小さいながらもトゲだらけで指に刺さりました。

危険と思い、抜こうとするも根の近くの茎以外はトゲだらけで、ロゼット状の葉は地面にへばりつくように生えています。

「小さい、緑、ロゼット状、トゲ、庭の雑草」と特徴を検索してみると、「メリケントキンソウ」だとわかりました。
メリケントキンソウの見分け方

アフリカ原産のこの外来植物は、果実(痩果)および種子に鋭いトゲがあり、草丈が低く、刈込みによる除草は困難です。

4月~6月が開花・結実期間期間に当たるので、ちょうどトゲが刺さった時期も納得がいきます。
※より小さなものはふさふさと柔らかいので油断してしまいそうです。

これらは繁殖を防ぐため、枯れたものも含めスコップで根っこから抜き、ある程度乾燥させトゲが出ないように保護してから可燃ごみで排出します。
→追記:10キロの米袋に入れて、可燃ごみで排出しました。スッキリです!