Nvidia выпустила бета-версию своего чат-бота Chat with RTX.
Его главное преимущество заключается в том, что он работает локально на компьютере. Но для его запуска понадобится любая видеокарта Nvidia RTX 30-й или 40-й серии с минимум 8 ГБ видеопамяти.
Chat with RTX может делать расшифровки видео с YouTube, анализировать документы и выдавать краткое содержание, а также отвечать на вопросы.
Главным недостатком Chat with RTX является тот факт, что приложение очень тяжелое. На компьютер с Intel Core i9-14900K, видеокартой Nvidia RTX 4090 и 64 ГБ ОЗУ, приложение устанавливалось 30 минут и заняло 40 ГБ на диске. Также вместе с чат-ботом устанавливается Python, который в фоне потребляет 3 ГБ оперативной памяти.
После установки Chat with RTX работает в браузере, но все запросы обрабатывает на компьютере. Параллельно открывается командная строка, которая показывает коды ошибок.
Ещё Chat with RTX не запоминает контекст, поэтому не может поддерживать диалог. Но, вероятно, это исправят в будущих обновлениях. [The Verge]
(9 голосов, общий рейтинг: 4.56 из 5)
Илья Сидоров
@ilyasidorovПишу новости, статьи про технологии и не только, а в свободное время увлекаюсь детейлингом.
9 комментариев
Форум →Нахера про это рассказывать тут? Для мака есть GPT4All, который так же использует Metal, и существует давным-давно.
@alexmaru, Так это разные нейронки. GPT4Al еще и на CPU работает.
@alexmaru, “тут”
где тут? а о чем можно рассказывать?
@alexmaru, то есть для вас не нормально то что «тут» рассказали о нейронке которая не имеет отношение к Apple устройствам а то что тут каждый раз публикуют хвастовство про жизнь в Канаде, Турции, США итд для вас нормально??? Это хотя бы около технологичная новость хоть и не про Apple. Ресурс давно скатился непонятно во что
Это нормальное время установки для нейросеток которые качают с гита нужные файлы и модели качают
@Dr.Plush, тсс.. чел пишет о том, о чем понятия не имеет))
Ну и нахрен он такой всрался?)
@Andrey-lights, локальный свой, без всяких утечек данных третьим лицам?
“Работает локально на компьютере” и зачем-то льет гигабайты трафика в сеть. Знаем-знаем.
Нашли орфографическую ошибку в новости?
Выделите ее мышью и нажмите Ctrl+Enter.Как полностью отключать Wi-Fi и Bluetooth в iOS 11
Можно ли заменить Lightning-гарнитуру iPhone 7 по гарантии?
Как использовать карту памяти с iPhone и что можно туда сохранить
Добавляем пустой виджет на экран блокировки iOS 16. Настройте локскрин по-своему
Как в macOS закрыть зависшее приложение, которого нет в Доке
Как на Mac изменить приложение по умолчанию для разных типов файлов
Как на iPhone или Mac отключить звук в Live-фото
Что делать, если Safari на iPhone не может подключиться к сети