на asm, что библиотечные, что системные вызовы - всегда см доки на функцию. без вариантов
в отличии ЯП более высокого уровня, тут ни чего не спрятано "под капот" - простые величины, чаще всего возвращаются прямо в регистрах (в некоторых контекстах есть соглашения о назначении регистров, более или менее строгое), сложные структуры - иногда могу действительно возвращаться через стек. но чаще всего это будет указатель на область памяти
опять же надо смотреть доки - кто должен резервировать область памяти? вызывающий? или вызываемые код? где указатель? каков размер области памяти? и кто несет ответственность за освобождение данной области памяти, по окончанию обработки
все это может быть в одном стиле, а может быть в очень разных. зависит от контекста. добро пожаловать в мир asm (ну или как сказано выше - может одумаетесь?... пока не поздно ;)))