Если комнат бесконечное количество)
Делим кол-во людей на вместительность самой большой комнаты.
Например 8 людей / 3 мест. = 2, остаток 2 чел
Остаток делим на 2 местные и повторяем пока не вселим всех.

На вскидку в псевдокоде

humans = 8
capacity = 3 #вместительность самой большой комнаты

while(humans>0){
ok = Math.trunc(humans/capacity) #вселили количество
humans -= ok * capacity #осталось вселить
capacity -= 1 #уменьшаем вместительность комнат и повторяем

if(ok==0){
humans = 0 #если все вошли в одну комнату без остатка например 2 в 3 мест.
}

}

function encode(text, openAlph, secureAlph) {
    let result = ""
    text = text.split("") //превращаем строку в массив
     text.forEach(char => { //бежим по массиву
        let upper = false
        if(char != char.toLowerCase()){ //превращаем в строчную и запоминаем
            upper = true
            char = char.toLowerCase()
        }
        
        if(char.match(/^[A-Za-z]$/)){ 
            let oIndex = openAlph.indexOf(char) //индекс в открытом алфавите алфавите
            if( oIndex == -1){ //если индекс не нашелся
                throw new Error('Не найден символ "'+char+'" в открытом алфавите'); 
            } 
            if( !secureAlph[oIndex] ){
                throw new Error('Не найден индекс "'+oIndex+'" в закрытом алфавите'); 
            }
            char = secureAlph[oIndex] //по индексу берем букву в закрытом алфавите 
        } 
        if(upper){
            char = char.toUpperCase()
        }
        result += char
     }); 
  return result;
}