Запустить ИИ-фичу в мобильном приложении раньше означало одно: платить за сервисы каждый раз, когда пользователь нажимает кнопку. При миллионе активных пользователей это $80-100K в месяц. Большинство стартапов мирятся с этим как с ценой входа. Между тем чип Apple A18 в последнем iPhone обрабатывает нейросетевые операции быстрее многих облачных провайдеров образца 2020 года.
Mirai из Лондона привлёк $10M. SDK позволяет запускать языковые модели прямо на устройстве — без облака, без задержки сети, без платы за каждый запрос.
Как работает продукт
Восемь строк кода — и ваша модель работает локально. Движок написан на Rust и даёт до 37% прироста скорости по сравнению с Apple MLX при том же качестве ответа. За продуктом стоят Дима Швец (Reface, 300M скачиваний) и Алексей Моисеенков (Prisma, 100M MAU в первый месяц) — люди, которые лично платили безумные облачные счета и решили построить альтернативу.
Почему сейчас
Рынок миниатюрных AI по оценке Grand View Research достигнет $107 млрд к 2030 году. Плюс регуляторный давление: GDPR и его последователи требуют хранить данные локально.
Защитный ров строится через накопленные оптимизации: каждый новый разработчик даёт Mirai сигналы о поведении моделей на конкретном железе.
Практические идеи
Сотни компаний уже платят AWS за мобильный ИИ и не знают об альтернативе. Запустите консалтинг по переводу мобильных приложений на on-device: считаете экономию, проектируете архитектуру, внедряете. ROI очевиден — продаётся легко. Другой вариант — вертикальные решения: медицинская диагностика офлайн, юридический ассистент без интернета, финансовый советник без риска утечек.
Антитренд
Когда запуск ИИ на устройстве дешевеет, разработчики запускают больше моделей и сложнее — суммарная нагрузка на облако для обучения и обновления только растёт. Парадокс Джевонса: мини-ИИ-приложения не убивают и не угрожают большим облачным, а напротив, подстёгивают спрос.
Откройте студию по обучению и квантизации моделей под мини-устройства. Клиника хочет ИИ-диагностику без передачи снимков в облако? Вы обучаете, сжимаете, упаковываете. Сервис, не продукт — маржа 60%+, конкуренция минимальная.
Кто ещё делает похожее
- Apple MLX — фреймворк Apple для своего Silicon, только для их устройств
- llama.cpp — open source, без кросс-платформенных оптимизаций
- MLC LLM — компилятор от команды TVM, более низкоуровневый
- Google MediaPipe — сильная экосистема, Google-центричная
- Qualcomm AI Engine — только Snapdragon
