Преобразовал Color в str и всё записалось:
screen = pyautogui.screenshot().getpixel((coords[0], coords[1]))
color = str(screen)
print(color)
self.cur.execute(
'UPDATE settings_autoswap SET color = ? WHERE login = ?',
(color, self.login))
self.conn.commit()