Скорее всего дело в Rigidbody, он работает только с обьектами у которых есть Rigidbody. Если твой игрок без этого компонента, то добавь его. Если у игрока он есть то посмотри на слои, может в них дело.
Врятли это будет решением, но все же напишу.
Если у вас рейкасты проверяют через слои, тогда возможно дело в слоях. Попробуйте сменить такую проверку на проверку через тег или скрипт(через TryGetComponent)