Apple объявила, что совместно с Nvidia разрабатывает инструменты для ускорения работы больших языковых моделей (LLM), которые лежат в основе генеративных ИИ.
Инженеры компаний смогли ускорить обработку ответов от LLM на графических чипах Nvidia в 2,7 раза. Для этого Apple адаптировала свой алгоритм ReDrafter под чипы Nvidia.
ReDrafter также поддерживает процессоры Apple Silicon.
Ускорение обработки ответов LLM сокращает время отклика на запросы пользователей и снижает задержки, что делает использование чат-ботов более удобным.
Apple открыла исходный код ReDrafter, поэтому его могут использовать разработчики любых больших языковых моделей. [Apple]
4 комментария
Форум →Неужели Apple и nVidia снова подружились спустя столько лет
Те родные чипы эпл не такие уж и neuro, типа признали?
Камин-аут невольный
ты дурачек и не понимаешь чем отличаются модели(это данные) от нейропроцессоров(это железо)
А ви таки читайте внимательнее. Эппл разрабатывает инструменты для чипов Нвидиа. Зачем? (А! Они будут стрелять!) Да затем же, зачем для apple intelligence используются чипы Amazon (Annapurna).
Нашли орфографическую ошибку в новости?
Выделите ее мышью и нажмите Ctrl+Enter.Как изменить рингтон для разных контактов на Mac
Как включить автоматическое воспроизведение музыки в AirPods
Как на iPhone запретить приватный режим Safari
Как в MacBook с процессором M1/M2 переназначить кнопку F4 со Spotlight на LaunchPad
Как избавиться от ошибки Требуется подтверждение в App Store?
Пропала строка состояния на iPhone, как вернуть
Как добавлять и удалять пользователей в групповом чате iMessage
Как перезагрузить любые Apple Watch. Есть 2 рабочих способа