Если я верно понимаю, incoming_msg_id это id пользователя, который отправил сообщение, а outgoing_msg_id это id пользователя, которому должно прийти сообщение.
Если моя догадка верна, тогда вам, в первую очередь, нужно сделать, что бы в таблице хранились пары id пользователей, при том, что outgoing_msg_id должен иметь возможность принимать значение null.
Далее всё просто, вам нужно всего лишь сделать выборку тех пользователей, id которых != null, т.е. это будет означать, что переписка с ними СУЩЕСТВУЕТ