Способов много, выбирайте любой:
$(this).toggleClass('active');
// ...
if ($(this).hasClass('active'))
$(this).removeClass('active');
else
$(this).addClass('active');
// ...
element.classList.toggle('active');
// ...
if (element.classList.contains('active'))
element.classList.remove('active');
else
element.classList.add('active');
В вашем случае вероятно:
$(document).ready(function () {
var loginBtn = $('#login-trigger');
var signupBtn = $('#signup-trigger');
loginBtn.click(function () {
if (signupBtn.hasClass('active')) signupBtn.trigger('click');
$(this).next('#login-content').slideToggle();
$(this).toggleClass('active');
if ($(this).hasClass('active')) $(this).find('span').html('▲')
else $(this).find('span').html('▼');
});
signupBtn.click(function () {
if (loginBtn.hasClass('active')) loginBtn.trigger('click');
$(this).next('#signup-content').slideToggle();
$(this).toggleClass('active');
if ($(this).hasClass('active')) $(this).find('span').html('▲')
else $(this).find('span').html('▼');
})
});