MNN-LLM

108 downloads

Uploaded by

JOKER_ARMENIA777

Version

0.2 (build 2)  3 version(s)

MNN-LLM versions

0.3.0 (build 5)

69 downloads

0.2 (build 2)

108 downloads

0.1 (build 1)

163 downloads

Close

Size

13.7 MiB

Publish Date

2025-02-20

Category

AI

Package

com.alibaba.mnnllm.android

Minimum OS

Android 8.0

SHA1

d2e805aa144807db71c963611f365036790b3894

Description

Architecture(arm64-v8a) ВАМ НУЖНО 5-15 гигабайт свободное место на Телефоне 1)Как использовать DeepSeek, Qwen и другие LLM на Android бесплатно и без регистрации Запустите приложение, найдите языковую модель deepseek-llm-7b-chat-MNN, нажмите на нее — запустится загрузка. Дождитесь ее завершения. 2) После завершения загрузки нажмите на языковую модель — откроется чат и начнется запуск LLM. На слабых телефонах запуск LLM может длиться довольно долго, но на мощных это не более минуты. Важно: скачивание языковой модели требует много трафика — от одного до нескольких гигабайт, поэтому лучше делать это на Wi-Fi. Инструкция Покажем работу приложения на примере языковой модели DeepSeek 7B. 3) По завершению запуска LLM можно начинать общение с нейросетью. Важно: скорость генерации текста напрямую зависит от мощности вашего смартфона. Другие модели (Qwen, Llama) Также в MNN можно использовать различные другие языковые модели. Вот что мы можем порекомендовать: 4)Чтобы вернуться к истории общения с языковой моделью нужно нажать на бургер-меню слева сверху и выбрать чат. Тогда загрузится соответствующая языковая модель вместе с историей чата. Qwen-Chat — хороший аналог Chat GPT и DeepSeek. Текстовый чат. Qwen-VL — распознает содержимое изображений (на английском) Llama 3 — мощная языковая модель от Meta. Текстовый чат.