Крейг Федериги: Apple использует серверы без жёстких дисков для Apple Intelligence

А если чатгпт тоже не справился, то вопрос отправляется Крейгу Федериги

А можно глупый вопрос, как тогда AI обучается? Если они не запоминают и не обрабатывают полученную информацию?

alexmaru12 сентября в 17:34

4

@egorka13, никакой AI не обучается в реальном времени. Поэтому он не AI в общем понимании, а “большая языковая модель”, которую большинство людей использует неправильно. У него не вопросы надо задавать, и не текст генерировать, а сопоставлять полотна данных.

tamtam12 сентября в 17:59

2

@egorka13, так насколько я знаю, сам файл обученной системы маленький, именно для обучения нужны большие мощности и объемы.

mfvh7e5n7y15 сентября в 14:06

0

@egorka13, видимо эпл готовую модель использует а не свою обучает

Забавно персонаж думает, что данные на жестких дисках нельзя удалить, а на флеш-дисках можно! Похоже кто-то решил показать “интернет” =)

hotarm12 сентября в 16:49

6

@aequo, думаю, имеется ввиду, что все крутится только в оперативной памяти

Концентратор12 сентября в 17:02

1

@hotarm, без свопа?))

alexmaru12 сентября в 17:35

1

@Концентратор, да, именно так эти LLMки и работают. M1-M4 идеально подходят для ИИ, так как оперативка в общем доступе у процессора / аи / видеокарты

hotarm12 сентября в 17:52

1

@Концентратор, вопрос к Федериги)

Gatling Gun12 сентября в 19:44

1

@Концентратор, а на кой он если памяти там по 1-2ТБ

Концентратор13 сентября в 2:06

0

@Gatling Gun, а как же сохранение сессии ? Например в чат гпт ты можешь задать основной вопрос а потом докручивать его ответы, при этом логика не теряется. Сколько ОЗУ для этого нужно чтобы поддерживать всех юзеров?))

И мы конечно же поверим им на слово. Даже если бы из экономии допустить упрощение, звучит не очень убедительно. Особенно заморочка с ключом. Зачем он вообще нужен, если данные некуда записать? Ох врунишки…

Visual GameDev12 сентября в 17:25

2

@Konstantin, Они и не просят верить на слово. У них на сайте разработчиков есть независимый аудит софта для их PCC: Every production Private Cloud Compute software image will be published for independent binary inspection — including the OS, applications, and all relevant executables, which researchers can verify against the measurements in the transparency log

alexmaru12 сентября в 17:37

2

@Konstantin, потому что это встроенное поведение мака при установке системы, когда включен FileVault. Их перезапуск, когда крутится без диска, это как работа в линуксе в лайф-сд. Очевидно, что устанавливают операционку в tmpfs, а поведение по умолчанию – сгенерить новое шифрование.

mfvh7e5n7y15 сентября в 14:09

0

@Konstantin, они не хотят скандалов с конфиденциальностью, поэтому на уровне железа и ограничивают всё

сейчас серверы на жёстких дисках используют разве что видео стриминги и Россия))

collder12 сентября в 23:48

2

@fimoz, ага. Поэтому производители HDD продолжают выпускать диски со все большим объемом данных и развивают технологии в этом направлении.

Йода13 сентября в 9:36

2

@fimoz, Дисковый массив к блейдам считаем за HDD? Тогда только на них все и держится. Кроме того, посмотрите конфигурацию серверов Digital Ocean (одного из самых крупных хостеров в мире) – Вы удивитесь, там настоящие жесткие диски пластинами, причем, не серверные, а десктопные (и для этого есть обоснование).

Tilk13 сентября в 12:28

1

@fimoz, какое-то мнение дилетанта, у меня было впечатление разбирающегося в этих вопросах человека, относительно вас

mfvh7e5n7y15 сентября в 14:07

0

@fimoz, бред

Для комментаторов, цитата – “It’s hard to imagine a data center server without hard drives or SSDs for storing user data, but that’s exactly what Apple has created.” т.е. без дисков hdd и ssd, всё в ram (озу – оперативной памяти). В этом ничего нового нет, ещё > 20 лет тому назад существовали решения для баз данных без дисков, для ускоренной обработки данных.

> Это сделано для того, чтобы конфиденциальная информация физически не могла на них храниться.

Это предложение прямо говорит, что конфиденциальная информация будет передаваться на сервера Эпла.

> После перезагрузки сервера вся информация с него удаляется.
И как часто он будет перезагружаться? Раз в год?

> Apple использует серверы PCC, когда невозможно обработать данные для Apple Intelligence на устройстве. Если PCC тоже не могут справиться с задачей, то Apple запрашивает у пользователей разрешение на использование ChatGPT.

Т.е. передача данных с устройства на сервера Эпла — тема непрозрачная. Могут передаваться, а могут — нет. И только в случае с ChatGPT будет запрашиваться согласие пользователя, которое, как обычно, представляет собой соглашение на 1000 страниц, которое никто читать не будет (терпения не хватит) и «согласится» не глядя.

Ради такого залогинился.

А не будет хранится на жестких дисках, потому что они на ссд! Будум-тссс

А если серьезно, им и не надо. Они с кем надо договорились, что парни, такое дело, это дорого, давайте мы обрабатывать будем, а хранить это вы уж сами. И нам для имиджа хорошо и дешевле. Думаю как-то так будет. Никто в здравом уме не поверит в обратное. После их «неудаления» фото все уже понятно с облаком.

Йода13 сентября в 9:39

0

@Victor, Вы путаете облако для хранения данных и серверы для работы ИИ.

Так дальше он еще интереснее наговорил. Вы же только треть отрепостили.
Коли взялись перепечатывать статейки – делайте это хоть полностью, и с правильным переводом.

Йода13 сентября в 9:40

0

@Dire, Никому не интересен правильный перевод и полная информация. Реклама на хайповых темах не так работает ;)