Как использовать нейросеть в приложении?

Question

[Enta]

Я, используя гайды, получил в PyTorch нейросеть которая меня устраивает.
Вопрос

как её использовать?

:
нужно что-то вроде функции java которая что-то дёргает и выдаёт результат
возможно есть пример или статья на эту тему, я просто корректный поисковый запрос не смог придумать
в идеале бы вообще без python обойтись

сама сеть очень простая:

class Net(nn.Module):
   def __init__(self):
       super(Net, self).__init__()
       self.fc1 = nn.Linear(276, 276)
       self.fc2 = nn.Linear(276, 276)
       self.fc3 = nn.Linear(276, 109)

   def forward(self, x):
        x = F.relu(self.fc1(x))
        x = F.relu(self.fc2(x))
        x = self.fc3(x)
        return F.log_softmax(x)

Answer 1

[Данил]

Существуют несколько подходов:

1. Вы создаете питоновский скрипт, который будет загружать сохраненную модель и делать предсказания. А из java запускаете этот питоновский скрипт.
   
   Из недостатков - работает медленно. Каждый раз происходит инициализация всех питоновских библиотек и загрузка самой модели. Подходит, когда делаете предсказания редко на каком-нибудь батче.
   
2. Используете, например, Flask и создаете REST API, которая, используя сохраненную модель, делает предсказания.
   Из недостатков, нужно хостить отдельный сервис.
   

Answer 2

[kova1ev]

Про pytorch не скажу, не использовал, но в других фреймворках можно сохранить обученную модель, уверен что в pytorch тоже можно.

То есть вам нужно сначала обучить свою сеть, сохранить, потом в своем приложении просто загружать эту модель и делать предикт по нужным данным, результат отдавать куда-то дальше в приложение.

upd вот погуглил

Comments

[Enta]

меня интересует как именно мне что-то получить из java
само взаимодействие между java и python или перенос нейросети в java

torch.save(net.state_dict(), PATH)
сохраняет состояние сети в своём нечитабельном формате, у меня были мысли загрузить слои в другую сеть в java, но torch.save мне в этом не поможет