Приложение Ollama, позволяющее запускать модели искусственного интеллекта на компьютерах с Windows, macOS и Linux, обновилось до версии 0.19. Теперь оно поддерживает аппаратное ускорение на системах с процессорами Apple M5.
- Поддержка локального запуска моделей ИИ.
- Улучшена производительность на процессорах Apple M5.
- Модели можно свободно загружать с платформ сообществ.
- Требуется не менее 32 Гбайт унифицированной памяти.
Преимущества локального запуска
Ollama предоставляет возможность пользователям запускать модели ИИ без необходимости подключения к интернету, что отличает его от облачных решений, таких как ChatGPT. Это особенно важно для тех, кто хочет работать с ИИ в автономном режиме. Однако, запуск таких моделей требует значительных ресурсов, что и стало причиной обновления.
Технические улучшения
С выходом версии 0.19 разработчики интегрировали фреймворк машинного обучения MLX от Apple, что значительно улучшило производительность приложения на новых чипах M5, M5 Pro и M5 Max.
| Процессор | Поддержка Ollama | Требования |
|---|---|---|
| Apple M5 | Да | 32 Гбайт унифицированной памяти |
| Apple M5 Pro | Да | 32 Гбайт унифицированной памяти |
| Apple M5 Max | Да | 32 Гбайт унифицированной памяти |
Среди улучшений также отмечается сокращение времени до выдачи первого токена и увеличенная скорость генерации токенов. Это позволяет более эффективно работать как персональным ИИ-агентам, таким как OpenClaw, так и специализированным моделям, включая OpenCode и Anthropic Claude Code.