AI summary
Mobile LLM chat interface that runs models locally via llama.cpp or connects to remote APIs like OpenAI, Claude, and Ollama. Supports Character Card v2, multi-chat management, TTS integration, image input, and MathJax rendering. Recent update adds image support for compatible APIs, chat action panel for quick edit/copy/TTS, and code block renderer with one-click copy.
Generated by AI. May contain inaccuracies.
About this app
ChatterUI — это собственный мобильный интерфейс для LLM.
Запускайте LLM на устройстве или подключайтесь к различным коммерческим или открытым API. ChatterUI стремится предоставить удобный для мобильных устройств интерфейс с точным контролем структуры чата.
Если вам понравилось приложение, не стесняйтесь поддержать меня здесь:
Общайтесь с персонажами или помощниками. Используйте встроенные модели или API. Изменяйте и настраивайте. Персонализируйте себя.
Функции:
Запуск LLM на устройстве в локальном режиме Подключайтесь к различным API в удаленном режиме Общайтесь с персонажами. (Поддерживает спецификацию Character Card v2.) Создавайте и управляйте несколькими чатами для каждого персонажа. Настройте поля сэмплера и форматирование инструкций Интегрируется с механизмом преобразования текста в речь (TTS) вашего устройства
Локальный режим
ChatterUI использует llama.cpp для запуска файлов gguf на устройстве. Для интеграции с React-native используется специальный адаптер: cui-llama.rn.
Чтобы использовать вывод на устройстве, сначала включите локальный режим, затем перейдите в раздел «Модели» > «Импорт модели» / «Использовать внешнюю модель» и выберите модель GGUF, которая помещается в память вашего устройства. Функции импорта следующие:
Импорт модели: копирует файл модели в ChatterUI, что потенциально ускоряет время запуска. Использовать внешнюю модель: использует модель непосредственно из хранилища вашего устройства, устраняя необходимость копировать большие файлы в ChatterUI, но с небольшой задержкой во времени загрузки. После этого вы можете загрузить модель и начать общение!
Примечание: для устройств с процессорами Snapdragon 8 Gen 1 и выше или Exynos 2200+ рекомендуется использовать квантование Q4_0 для оптимизации производительности.
Удаленный режим
Удаленный режим позволяет подключаться к нескольким распространенным API как коммерческих, так и проектов с открытым исходным кодом.
Бэкэнды с открытым исходным кодом:
koboldcpp text-generation-webui Ollama
Выделенный API:
OpenAI Claude (with ability to use a proxy) Cohere Open Router Mancer AI Horde
Общие бэкэнды:
Общие текстовые дополнения
Общие завершения чата
Они должны быть совместимы с любыми бэкэндами текстового автодополнения/дополнения чата, такими как Groq или Infermatic.
https://github.com/Vali-98/ChatterUI
Android 7.0+
What's new
- Поддержка изображений и новый рендерер MathJax
- Функции
- Ввод изображения:
- Теперь вы можете прикреплять изображения к сообщениям для API, которые поддерживают ввод изображений (например, OpenAI, Google AI Studio, Open Router).
- Теперь вы можете загружать модели MMPROJ для локального ввода изображений. Примечание: в настоящее время они не оптимизированы и могут работать медленно.
- Добавлен шаблон API для завершения чата с поддержкой изображений.
- Действия в чате:
- Нажмите на пузырь чата, чтобы открыть новую панель действий, которая появится в нижней части пузыря.
- Панель действий позволяет быстро:
- Отредактируйте сообщение.
- Скопируйте сообщение.
- Использовать преобразование текста в речь (если включено в меню TTS).
- Быстрое удаление (если включено в настройках).
- Кнопка TTS вынесена за пределы рамки чата для более удобного доступа.
- Длительное нажатие на пузырь чата по-прежнему открывает редактор сообщений.
- Форматирование:
- Common Stop: автоматически добавляет общие последовательности остановок, используемые LLM (включено по умолчанию).
- Удалить теги Think: автоматически удаляет <think>...</think>теги при отправке в API (включено по умолчанию).
- Поддержка MathJax: добавлен парсер и рендерер MathJax для уравнений, упакованных в:
- $ ... $
- $$ ... $$
- \( ... \)
- \[ ... \]
- Добавлен пользовательский рендерер блоков кода с кнопкой копирования в один клик.
- Настройки и удобство использования:
- Скрытые теги: Теперь вы можете определить теги, которые нужно скрыть. Например, установка тега abcв этом фильтре скроет все карты с этим тегом abcв списке персонажей (включить в настройках).
- Сохранить прокрутку: если эта функция включена, приложение запоминает, где вы в последний раз остановились в чате, и автоматически прокручивает страницу к этой позиции.
- Автоматическое присвоение имен чатам: в удаленном режиме теперь можно автоматически генерировать имена чатов (эту функцию можно отключить в настройках).
- Переключатель смещения контекста (локальный режим): отключение этого параметра позволяет использовать SWA с некоторыми моделями и сокращает использование памяти, но отключает сохранение кэша KV.
- Кнопка быстрого создания нового чата добавлена в верхнюю часть экрана чата.
- Обновленный ввод чата: теперь он плавает над окном прокрутки.
- Экспорт карточек персонажей теперь доступен в редакторе персонажей.
- Окончания CJK теперь поддерживаются для распознавания преобразования текста в речь.
- Вставка необработанного JSON: теперь вы можете вставлять необработанный JSON для тем и шаблонов API.
- Добавлены ссылки на обсуждения GitHub для тем и шаблонов API.
- Добавлены макросы с одинарными скобками для тегов пользователей и персонажей.
- Миграция Edge-to-Edge для Android 10+ (могут возникнуть проблемы с макетом на более старых версиях — сообщите о них!).
About this version
- Version
- 0.8.7 (1)
- Size
- 33.4 MB
- Requires Android
- 7.0
- Target SDK
- 24
- Downloads
- 253
- Updated
- Jul 28, 2025
- Package
- com.Vali98.ChatterUI
Ratings & reviews
- 50
- 40
- 30
- 20
- 10