El error del dentado blanco de los bordes podría producirse por problemas de rendimiento de la Unidad de Procesamiento Gráfico (GPU) de Illustrator.
Lo primero que aconseja Adobe es actualizar los controladores de software de la tarjeta GPU. En el siguiente enlace puedes consultar algunas soluciones propuestas por Adobe. https://helpx.adobe.com/es/illustrator/kb/illustrator-gpu-performance-driver-update.html
Ya nos dices si se solucionó el problema.