Друзья, какой есть какой-нибудь фреймворк (желательно opensource) для вывода в прод моделей AI?

Question

[sha256]

Друзья, какой есть какой-нибудь фреймворк (желательно opensource) для вывода в прод моделей AI?
Например я в джупитере подготовил модель, выгрузил её и не хочу писать собственный веб-сервис. Есть какая-нибудь коробка, в которую можно помещать полученную модель и которая дальше может работать с внешней средой?

Answer 1

[ivodopyanov]

https://www.tensorflow.org/tfx/guide/serving

Comments

[sha256]

Спасибо! Примерно то что искал!

Answer 2

[Ренат Алимбеков]

Я бы рекомендовал развернуть REST API микросервис.

Микросервис — веб-сервис, который выполняет одну бизнес-потребность и может взаимодействовать с другими сервисами в IT инфраструктуре использую, например HTTP. Архитектура, состоящая из нескольких микросервисов называется микросервисной.

REST (Representational State Transfer) — принципы организации взаимодействия сервисов посредством протокола HTTP. Клиенты отправляют запросы, используя методы представленные протоколом HTTP, и выполняют операцию. Например: получение, добавление, модификация или удаление данных.

API (Application Programming Interface) — интерфейс для общения сервисов.

Тут я написал вполне подрообный пост об этом и выложил код - https://alimbekov.com/machine-learning-flask-rest-api/

Answer 3

[⚡ Kotobotov ⚡]

создать веб-сервис из наброска в "блокноте" -> этим и занимаются программисты.
никаких волшебных опен сорс коробочек, которые сделают это за тебя, нету.

Comments

[sha256]

По-моему скромному мнению, учитывая что в мире каждый день создаются десятки новых моделей, такая "Коробочка" напрашивается.