※特に表記のない場合は8bit画像を前提とします。
選択範囲は自動選択、矩形選択ツールなどで選ぶと点線がチカチカ動いているあれですね。
選択される範囲はどこ？と聞かれて、点線の内側が選択されていて外側が選択されていない部分、と思った人は半分だけ当たりです。
フォトショップでの選択範囲は256諧調持っているので、点線はその真ん中を表します。
ただの目安です。信じてはいけませんよ。
とくに中間調の選択が多い場合は目安にもなりません。
ためしにクイックマスクをかけてみましょう（英語モードでQキー）。
選択されている部分はそのままで、選択されていない部分は青く半透明になっています（設定は変えられます）。
エッジの部分を見ると少しぼやけています。この部分が中間調の選択範囲で、50％の濃度なら半分選択ということになります。塗りやフィルタを適用すると半分だけ適用されます。
選択範囲にアンチエイリアスをかけたり、ぼかしをかけたりすると中間調の選択範囲ができます。オプションバーの設定を参考にしてください。
ここをしっかり理解していないと、思ったものと違う部分が選択されてしまいます。
カチッと取りたい場合はアンチエイリアスを外し、ボヤッと取りたい場合はぼかしをいれておきましょう。
意図した選択範囲をとるためには設定変更を忘れないように。
チャンネルパレットにはクイックマスクチャンネルが出現しています。
選択範囲は256諧調持っているのでチャンネルに置き換えることができるのです。
クイックマスクチャンネルのみを表示すると白黒になります。100％（黒）部分は選択していない領域、0％（白）部分が選択している領域になります。グレー部分は濃度によって変わります。
デジタルチックな方式で、ややこしいですが、これはフォトショップを操作する上ではとても重要なことです。
選択範囲＝256諧調＝チャンネルであり、白は選べて黒は選べないということを覚えておいてください。