
Size
33.4 MB
Android
7.0+
Downloads
171
Security Scan
Verified Safe
✓ Scanned with ClamAV, APKiD, and Quark-Engine
What's New
Поддержка изображений и новый рендерер MathJax
Функции
Ввод изображения:
Теперь вы можете прикреплять изображения к сообщениям для API, которые поддерживают ввод изображений (например, OpenAI, Google AI Studio, Open Router).
Теперь вы можете загружать модели MMPROJ для локального ввода изображений. Примечание: в настоящее время они не оптимизированы и могут работать медленно.
Добавлен шаблон API для завершения чата с поддержкой изображений.
Действия в чате:
Нажмите на пузырь чата, чтобы открыть новую панель действий, которая появится в нижней части пузыря.
Панель действий позволяет быстро:
Отредактируйте сообщение.
Скопируйте сообщение.
Использовать преобразование текста в речь (если включено в меню TTS).
Быстрое удаление (если включено в настройках).
Кнопка TTS вынесена за пределы рамки чата для более удобного доступа.
Длительное нажатие на пузырь чата по-прежнему открывает редактор сообщений.
Форматирование:
Common Stop: автоматически добавляет общие последовательности остановок, используемые LLM (включено по умолчанию).
Удалить теги Think: автоматически удаляет <think>...</think>теги при отправке в API (включено по умолчанию).
Поддержка MathJax: добавлен парсер и рендерер MathJax для уравнений, упакованных в:
$ ... $
$$ ... $$
\( ... \)
\[ ... \]
Добавлен пользовательский рендерер блоков кода с кнопкой копирования в один клик.
Настройки и удобство использования:
Скрытые теги: Теперь вы можете определить теги, которые нужно скрыть. Например, установка тега abcв этом фильтре скроет все карты с этим тегом abcв списке персонажей (включить в настройках).
Сохранить прокрутку: если эта функция включена, приложение запоминает, где вы в последний раз остановились в чате, и автоматически прокручивает страницу к этой позиции.
Автоматическое присвоение имен чатам: в удаленном режиме теперь можно автоматически генерировать имена чатов (эту функцию можно отключить в настройках).
Переключатель смещения контекста (локальный режим): отключение этого параметра позволяет использовать SWA с некоторыми моделями и сокращает использование памяти, но отключает сохранение кэша KV.
Кнопка быстрого создания нового чата добавлена в верхнюю часть экрана чата.
Обновленный ввод чата: теперь он плавает над окном прокрутки.
Экспорт карточек персонажей теперь доступен в редакторе персонажей.
Окончания CJK теперь поддерживаются для распознавания преобразования текста в речь.
Вставка необработанного JSON: теперь вы можете вставлять необработанный JSON для тем и шаблонов API.
Добавлены ссылки на обсуждения GitHub для тем и шаблонов API.
Добавлены макросы с одинарными скобками для тегов пользователей и персонажей.
Миграция Edge-to-Edge для Android 10+ (могут возникнуть проблемы с макетом на более старых версиях — сообщите о них!).
Description
ChatterUI — это собственный мобильный интерфейс для LLM.
Запускайте LLM на устройстве или подключайтесь к различным коммерческим или открытым API. ChatterUI стремится предоставить удобный для мобильных устройств интерфейс с точным контролем структуры чата.
Если вам понравилось приложение, не стесняйтесь поддержать меня здесь:
Общайтесь с персонажами или помощниками. Используйте встроенные модели или API. Изменяйте и настраивайте. Персонализируйте себя.
Функции:
Запуск LLM на устройстве в локальном режиме
Подключайтесь к различным API в удаленном режиме
Общайтесь с персонажами. (Поддерживает спецификацию Character Card v2.)
Создавайте и управляйте несколькими чатами для каждого персонажа.
Настройте поля сэмплера и форматирование инструкций
Интегрируется с механизмом преобразования текста в речь (TTS) вашего устройства
Локальный режим
ChatterUI использует llama.cpp для запуска файлов gguf на устройстве. Для интеграции с React-native используется специальный адаптер: cui-llama.rn.
Чтобы использовать вывод на устройстве, сначала включите локальный режим, затем перейдите в раздел «Модели» > «Импорт модели» / «Использовать внешнюю модель» и выберите модель GGUF, которая помещается в память вашего устройства. Функции импорта следующие:
Импорт модели: копирует файл модели в ChatterUI, что потенциально ускоряет время запуска.
Использовать внешнюю модель: использует модель непосредственно из хранилища вашего устройства, устраняя необходимость копировать большие файлы в ChatterUI, но с небольшой задержкой во времени загрузки.
После этого вы можете загрузить модель и начать общение!
Примечание: для устройств с процессорами Snapdragon 8 Gen 1 и выше или Exynos 2200+ рекомендуется использовать квантование Q4_0 для оптимизации производительности.
Удаленный режим
Удаленный режим позволяет подключаться к нескольким распространенным API как коммерческих, так и проектов с открытым исходным кодом.
Бэкэнды с открытым исходным кодом:
koboldcpp
text-generation-webui
Ollama
Выделенный API:
OpenAI
Claude (with ability to use a proxy)
Cohere
Open Router
Mancer
AI Horde
Общие бэкэнды:
Общие текстовые дополнения
Общие завершения чата
Они должны быть совместимы с любыми бэкэндами текстового автодополнения/дополнения чата, такими как Groq или Infermatic.
https://github.com/Vali-98/ChatterUI
Android 7.0+
Rate this app
Ratings & Reviews
No reviews yet.