Нужно развернуть модель
Bark (https://github.com/suno-ai/bark) в облаке и реализовать API для взаимодействия с моделью. API будет использоваться в мобильном приложении для генерации аудио. Задача включает в себя настройку модели, создание стабильного сервиса и консультацию по вопросам инфраструктуры и масштабируемости.
Основные задачи:
- Развертывание модели Bark в облаке:
- Помочь выбрать подходящую облачную платформу (например, AWS, GCP, Azure или другую).
- Настроить окружение для запуска модели (установить зависимости, настроить GPU).
- Убедиться, что модель работает стабильно, и проверить её производительность.
- Разработка API:
- Реализовать REST API для взаимодействия с моделью.
- Основные функции API:
- Приём запросов на генерацию аудио.
- Возврат сгенерированных треков.
- Учесть возможность ограничений по длине трека, количеству запросов и другим параметрам.
- Консультация и оптимизация:
- Дать рекомендации по инфраструктуре (какие ресурсы потребуются для стабильной работы).
- Рассказать о способах масштабирования сервиса при увеличении нагрузки.
- Обсудить бюджет на развертывание и поддержание сервиса.
Вопросы к исполнителю:
- Какой облачный провайдер вы бы посоветовали для реализации проекта?
- Какие ресурсы (GPU, RAM, хранилище) потребуются для стабильной работы модели?
- Какие сроки выполнения проекта вы можете предложить?
- Был ли у вас опыт работы с подобными задачами?
- Сколько одновременных запросов сможет обрабатывать API?
- Примерная стоимость выполнения задачи и поддержания сервиса?
