ベクターレイヤーは、ラスターレイヤーと違って描画情報をドット単位で持たず、
基準点となる中心線に対して、どの程度の太さであるか、といった情報で
描画が行われるレイヤーとなります。
そのため、ベクターの中心線が選択範囲の内側ぎりぎりに描かれていた場合、
そこを基準に線の太さが決まって描画されるので、添付いただいた画像の様に
線の太さの分だけ描画域が選択範囲からはみ出ます。
ベクターの中心線は、[操作]ツールの[オブジェクト]サブツールで
ベクター線をクリックすると確認できます。
そのため、選択範囲の枠内にきっちり描画を収めたい場合は、
ドット単位での描画が出来るラスターレイヤーを使用いただくか、
マスクなどで非表示にしていただければと思います。