Какие преимущества создания сайта на самописном движке перед тем же Wordpress?
Преимущества могут быть только в случае, когда готовое решение вам не подходит, либо затраты на допил готового выше, чем сделать свое.
Выиграю я по оптимизации относительно того же Wordpress в техническом плане?
Зависит от задачи. Если WP уже ее решает - скорее всего нет.
С какими проблемами могу столкнуться или на что следует обратить внимание?
На этот вопрос можно ответить только на основании ТЗ, или продуктового брифа.
Что нужно сделать в самописном движке, чтобы он наверняка был круче CMS (быстрее, оптимизированне и т.д.)?
Если чисто в техническом плане - можете использовать следующие соглашения
https://github.com/index0h/php-conventions . Сразу гнаться за скоростью и оптимизированностью не рекомендую, потратите не порядок больше времени.
В продуктовом же плане, сделать ширпотребную cms с теми же задачами, что и у WP и таким же охватом аудитории - это практически не реально на данный момент.