MNN-LLM

155 downloads

Uploaded by

JOKER_ARMENIA777

Version

0.1 (build 1)  2 version(s)

MNN-LLM versions

0.2 (build 2)

52 downloads

0.1 (build 1)

155 downloads

Close

Size

26.6 MiB

Publish Date

2025-01-29

Category

AI

Package

com.alibaba.mnnllm.android

Minimum OS

Android 8.0

SHA1

466ac7b6372213e110beac771526880bf0b4be1f

Description

1)Как использовать DeepSeek, Qwen и другие LLM на Android бесплатно и без регистрации Запустите приложение, найдите языковую модель deepseek-llm-7b-chat-MNN, нажмите на нее — запустится загрузка. Дождитесь ее завершения. 2) После завершения загрузки нажмите на языковую модель — откроется чат и начнется запуск LLM. На слабых телефонах запуск LLM может длиться довольно долго, но на мощных это не более минуты. Важно: скачивание языковой модели требует много трафика — от одного до нескольких гигабайт, поэтому лучше делать это на Wi-Fi. Инструкция Покажем работу приложения на примере языковой модели DeepSeek 7B. 3) По завершению запуска LLM можно начинать общение с нейросетью. Важно: скорость генерации текста напрямую зависит от мощности вашего смартфона. Другие модели (Qwen, Llama) Также в MNN можно использовать различные другие языковые модели. Вот что мы можем порекомендовать: 4)Чтобы вернуться к истории общения с языковой моделью нужно нажать на бургер-меню слева сверху и выбрать чат. Тогда загрузится соответствующая языковая модель вместе с историей чата. Qwen-Chat — хороший аналог Chat GPT и DeepSeek. Текстовый чат. Qwen-VL — распознает содержимое изображений (на английском) Llama 3 — мощная языковая модель от Meta. Текстовый чат. ВАМ НУЖНО 5-15 гигабайт свободное место на Телефоне