Конференция завершена. Ждем вас на РИТ++ в следующий раз!

Как мы эффективно масштабируем нейронные сети в продакшнеЭлементы архитектуры

Программный комитет ещё не принял решения по этому докладу
Иван Голованов
Glidewell Dental

Руководит отделом разработки веб-сервисов для автоматизации производства зубных протезов. За несколько лет построили большую систему из множества сервисов с полноценным А|Б-тестированием каждой компоненты в продакшне, а также создали удобный сервис для запуска "в один клик" предобученных нейронных сетей на различных платформах и фреймворках.

igolovanov@adalisk.com
Тезисы

Нейронные сети всё больше и больше набирают обороты в самых разных областях. И это уже не тестовые проекты, а реально использование в продакшне с SLA и прочими радостями жизни. Как всего этого достичь, если уже имеется порядка 40 различных моделей на разных фреймворках? А если у вас ещё и несколько независимых команд машинного обучения?

В докладе я расскажу о нашем самописном сервисе DLFrame, который управляет нейронными сетями в продакшне, автоматически скалирует их, надёжно разделяет сети между командами.

Другие доклады секции Элементы архитектуры