этот запрос вполне может использовать индекс по category для поиска category = 'new'
другой вопрос в том, что потом идет группировка при полном отсутствии аггрегатных функций.. зачем непонятно.
SELECT * FROM table t WHERE t.processed = false AND GET_LOCK(CONCAT('process_', t.id), 0) LIMIT 1;
UPDATE table t SET t.processed = true, operator_id = :current WHERE id = :id;
DO RELEASE_LOCK(CONCAT('process_', :id));
>в статьях про архитектуру высоконагруженных систем (например, таких как twitter)
пока у вас нет нагрузок как у Твиттера, не делайте так. только усложните себе жизнь, написанием своих собственных джойнов на php