Я бы на флексах в css сделал свой клас.
Например:

<div class='btn-wrapper-end'>
  <button>Ваша кнопка</button>
</div>

.btn-wrapper-end {
  display: flex;
  justify-content: flex-end;
}

Либо если хотите чисто через bootstrap классы, можно контейнеру вашей кнопки добавить свойства d-flex justify-content-end:

<div class='d-flex justify-content-end'>
  <button>Ваша кнопка</button>
</div>

export default function App() {
    const [operationsLoan, setOperationsLoan] = useState([] );
    const [loading, setLoading] = useState(false);

    useEffect(() => {
         setLoading(true);
            apiGetOperationsLoan()
                .then((response) => {
                    setOperationsLoan(response.data);
                    setLoading(false);
                });
    }, []);

// можно еще так сделать, зависит от обстоятельств
//   if (loading) {
 //    return <p> Идет загрузка данных </p>
 //  } 

    return (
        <>
            <div className="cabinet__history-title">
                <h1>
                    История операций
                </h1>
            </div>
            <TabBar>
                <TabBarItem label="Операции по займам">
                    <div className="loans-history">
                        {loading ? <p>Идет загрузка данных</p>
                                :   { operationsLoan.map((loan, index) => {
                                return <Loan loan={loan} key={index}/>;
                            })}
                          }
         
                    </div>
                </TabBarItem>
            </TabBar>

Я создал внетренний див header-inner и задал ему:

display: flex;
align-items: center;
justify-content: space-between;

После чего все его дети будут выровняны по вертикали(align-items: center) и раскиданы по углам(justify-content: space-between).

Всё, они выровнены по вертикали. у себя там уберите позишены абсолюты ибо оно выбивает елементы из потока данных, инлайн блоки вам там не нужны и маргины некоторые.

.right-f {
  
/*   margin-bottom: 19px;
margin-left: 764px;  это вам не надо*/ 
}

Почитайте про флексы. вот как можно переделать это:
https://jsfiddle.net/qp5fe61u/