MNN-LLM

Architecture(arm64-v8a)

ВАМ НУЖНО 5-15 гигабайт свободное место на Телефоне

1)Как использовать DeepSeek, Qwen и другие LLM на Android бесплатно и без регистрации

Запустите приложение, найдите языковую модель deepseek-llm-7b-chat-MNN, нажмите на нее — запустится загрузка. Дождитесь ее завершения.

2) После завершения загрузки нажмите на языковую модель — откроется чат и начнется запуск LLM. На слабых телефонах запуск LLM может длиться довольно долго, но на мощных это не более минуты.

Важно: скачивание языковой модели требует много трафика — от одного до нескольких гигабайт, поэтому лучше делать это на Wi-Fi.

Инструкция Покажем работу приложения на примере языковой модели DeepSeek 7B.

3) По завершению запуска LLM можно начинать общение с нейросетью. Важно: скорость генерации текста напрямую зависит от мощности вашего смартфона.

Другие модели (Qwen, Llama) Также в MNN можно использовать различные другие языковые модели. Вот что мы можем порекомендовать:

4)Чтобы вернуться к истории общения с языковой моделью нужно нажать на бургер-меню слева сверху и выбрать чат. Тогда загрузится соответствующая языковая модель вместе с историей чата.

Qwen-Chat — хороший аналог Chat GPT и DeepSeek. Текстовый чат.

Qwen-VL — распознает содержимое изображений (на английском)

Llama 3 — мощная языковая модель от Meta. Текстовый чат.