Какие токены вы имеете в виду? ID сессии?
Клиент передает вам идентификатор сессии, вы по этому идентификатору вытаскиваете данные, в данных ID пользователя.
Собственно, если клиент передал вам ID сессии и вы у себя по нему нашли сессионные данные, означает, что пользователь залогинен (не будем вдаваться в подробности проверки валидности сессий по IP и.т.д.)
На разных компьютерах будут разные ID сессий, но к ним на стороне сервера будет привязан один и тот же ID пользователя.
Могу предположить, конечно, что вы, при логине пользователя, в таблицу "Пользователи" в колонку SESSION_ID записываете ID сессии только что залогинившегося пользователя - в этом случае все будет точно так, как вы описали. Но в этом случае вы сами себе злобный Буратино - пользователи отдельно, сессии отдельно.