Читай устройство сетей. Ты должен в мельчайших подробностях знать как всё работает. После этого уже имеет смысл смотреть конкретные эксплойты. Разбирать их и понимать, что там происходит и главное почему. Уже потом сможешь спокойно понимать, какую литературу искать.
Если будешь учиться по ютубу, то научишься эксплуатировать то, что уже давно закрыто и вряд ли сам когда-нибудь проверишь