Vamos a ver si esto te ayuda.
Debes pensar en la herramienta Línea de Photoshop como si se tratase de un rectángulo vectorial, un objeto al que puedes especificar una anchura, altura, relleno y trazo. Como sabes, todos estos controles se muestran en la barra de Opciones.
Precisamente el hecho de que se muestre esa doble línea punteada se debe a la representación del estilo de trazo a lo largo del borde de la línea-rectángulo.
Una forma de evitar el doble punteado es asignar como altura de la línea un valor igual o menor al especificado en el grosor de trazo y alinear el trazo hacia el interior del trazado.
Desde el botón "Más opciones" podrás configurar las características que necesites para el trazo.