Группа разработчиков создала чат-бот MLC LLM, который не требует интернета и работает на любом устройстве.
Для установки чат-бота на iOS потребуется приложение TestFlight. Скачать MLC LLM можно по ссылке, но установить его смогут только 9 тысяч пользователей.
Разработчики заявляют, что приложение работает на любом iPhone, iPad и iPod touch с iOS 13 и выше. Но на практике, для запуска MLC LLM нужно мощное устройство с большим количеством оперативной памяти.
Приложение весит 3 ГБ и во время работы очень сильно нагружает даже iPhone 14 Pro Max с 6 ГБ ОЗУ.
Главная особенность MLC LLM заключается в том, что ему не нужен интернет. Вся языковая модель и информационная база уже добавлена в приложение, а запросы обрабатываются на устройстве.
Пользователи могут общаться с MLC LLM в режиме диалога. Чат-бот понимает английский язык, но зачастую выдает обобщенные ответы. По этому показателю он сильно отстает от конкурентов, в том числе от ChatGPT. [Tom’s Hardware]
2 комментария
Форум →Всякие продвинутые LLM-вариации лучше конечно на ARM-маках гонять с 32+ ГБ памяти, результаты вполне неплохие на фоне ChatGPT 3.5. Тут совсем обрезок, конечно
Юзал, не зашло.
Нашли орфографическую ошибку в новости?
Выделите ее мышью и нажмите Ctrl+Enter.Как на iPhone объединить разные облачные хранилища в одном приложении
Как понять, какой Apple Pencil выбрать для iPad
Как на iPhone быстро вводить редкие символы или эмодзи
Как на iPhone использовать менеджер паролей Яндекс вместо связки ключей
Не работает разблокировка при открытии Smart Cover на iPad
Как на Mac следить за свободным местом в разных облачных сервисах
Что делать, если пропал пункт «Сохранить как…» в стандартных приложениях macOS
Как на iPhone поделиться купленными приложениями с членами семьи