Есть непубличное API которое используется в веб-версии мессенджера и в моб приложении.
Endpoint
https://api.messenger.yandex.ru/api/ , а запросы можно посмотреть в developers tools браузера.
Всё это естественно серая зона, и любые исследования на свой страх и риск.
Насчёт публичного api есть такая инфа
В разговоре с vc.ru глава «Мессенджера» Виктор Тарнавский рассказал:
Какие есть инструменты ведения каналов? Есть ли API для создания ботов?
Прямо сейчас таких API нет, то есть у нас нет публичного API для ботов и для ведения каналов. Но мы активно смотрим в эту сторону и понимаем, что авторам каналов было бы удобнее использовать стандартные для них удобные элементы размещения. Думаем в эту сторону, но пока что без конкретных планов.