Так уж повелось, что WordPress автоматически преобразует обычные кавычки вида » » в такие « ».
При печати текста — это смотрится красиво, но когда пост усложняется и, например, используется какой-либо код, то это очень сильно портит внешний вид и читаемость.

---

Описание

Для решения этой проблемы, проще всего немного доработать вашу текущую тему оформления, добавив в конец файла functions.php следующие строки:

remove_filter('the_content', 'wptexturize');
remove_filter('the_title', 'wptexturize');
remove_filter('comment_text', 'wptexturize');

Как видно из названий самих фильтров:
1) Это отключение преобразования кавычек в тексте самого поста.
2) Это отключение преобразования кавычек в заголовке поста.
3) Это отключение преобразования кавычек в комментариях.

Можно самостоятельно определить, какие именно фильтры оставить, а какие убрать.