1. Можно использовать.
2. Для большинства проектов EF будет более чем достаточно. Потеря производительности - преувеличена. Встроенные механизмы кэширования и оптимизации запросов работают.
3. В "узких" местах проекта всегда можно использовать "легкую" ORM или прямой вызов SQL-запроса/хранимой процедуры. Но только тогда, когда в этом есть реальная необходимость.
4. EF экономит время разработчика не только потому, что это ORM, но и потому, что это ORM от Microsoft и Visual Studio отлично с ней дружит.
P.S. Просто поверьте человеку с 12-летним опытом работы с .NET, который потратил много времени на то, чтобы понять, что EF - достаточно. Я читал кучу статей и бенчмарков. Я тестил сам. Плюсы EF с лихвой покрывают небольшую потерю скорости.