Вчера Apple объявила, что в iOS 15 появится алгоритм NeuralHash для определения жестокого обращения с детьми на фото и видео (CSAM).
Исследователь в области безопасности Мэтью Грин из Университета Джона Хопкинса назвал CSAM «очень плохой идеей».
Он считает, что вскоре государства будут требовать от технологических компаний анализа всего контента на устройствах своих пользователей. Грин сравнил CSAM с «инструментами, применяемыми в авторитарных режимах».
Я не поддерживаю жестокое обращение с детьми или терроризм. Но считаю, что каждый пользователь должен быть уверен в том, что контент на его устройстве остаётся в безопасности и никуда не уходит.
Шифрование, которым так хвалится Apple, — это мощный инструмент, но он не может обеспечить по-настоящему надёжную конфиденциальность, когда параллельно на устройстве анализируется каждая фотография.
These are bad things. I don’t particularly want to be on the side of child porn and I’m not a terrorist. But the problem is that encryption is a powerful tool that provides privacy, and you can’t really have strong privacy while also surveilling every image anyone sends.
— Matthew Green (@matthew_d_green) August 5, 2021
Алек Баффет, тоже исследователь в области безопасности, ранее работавший в Facebook, считает внедрение CSAM и алгоритма сканирования изображений NeuralHash «огромным шагом назад в плане конфиденциальности».
Apple идёт по пути внедрения массовой слежки. Кажется, совсем скоро мир из книги Джорджа Оруэлла «1984» станет нашей реальностью.
And if you’re wondering whether Google scans images for child abuse imagery, I answered that in the story I wrote eight years ago: it’s been doing that **SINCE 2008**. Maybe all sit down and put your hats back on. pic.twitter.com/ruJ4Z8SceY
— Charles Arthur (@charlesarthur) August 5, 2021
Алек опасается ложных срабатываний, если хеши некоторых фотографий совпадут с теми, которые попадают под случаи CMSA.
Хотя на этот счёт Apple заявляет о высокой точности работы алгоритма и наличии ручной проверки.
Стоит отметить, что похожие алгоритмы для выявления CSAM используются Google, Twitter, Microsoft и Facebook. Однако они не выходят на уровень анализа снимков в персональной галерее. [MacRumors]
(16 голосов, общий рейтинг: 4.81 из 5)
Василий Шкодник
@podogreykinГлавный любитель технологий и Звёздных воин в галактике. До сих пор слушаю музыку с iPod. Есть вопрос или замечание: [email protected]
86 комментариев
Форум →Ага, сейчас анализ фотографий.
Потом прослушка со смартфона, потом слежка через фронтальную камеру.
Дальше что – подписывать при покупке iPhone соглашение о полной лояльности к ценностям Apple?
@dmitryermakov, удаленное включение микрофона телефона была еще при царе Горохе, никаких “потом”, это “уже” и давно.
@Йода, про удаленное включение микрофона это полный бред, зачем включать микрофон, когда весь звук легко через гироскоп слушают.
@dmitryermakov, не переживайте у гугла все это уже лет пять в ходу, так что попытка примазать эппал у них есть
Ручная проверка – это как? Просмотр фотографии, совпавшей хешем с незаконной, сотрудником Apple?
Всё лучше и лучше.
@Waka, Фотки зашифрованы.
@FiLunder_7, фотки никогда не были зашифрованы. Вообще всё содержимое iCloud у них не зашифровано.
@alexmaru, Всегда было зашифровано. На сайте Apple почитайте:
Data security
iCloud secures your information by encrypting it when it’s in transit, storing it in iCloud in an encrypted format, and using secure tokens for authentication. For certain sensitive information, Apple uses end-to-end encryption. This means that only you can access your information, and only on devices where you’re signed into iCloud. No one else, not even Apple, can access end-to-end encrypted information.
@FiLunder_7, А как тогда фотки звезд попадают в сеть?
@bono.denis, взламывают аккаунт, если не ошибаюсь
@bono.denis, Там тупо пароль подбирают или социальной узнают из других мест, типа записанного в заметках пароля и тд.
@FiLunder_7, ещё б ты сам читал, что копируешь. For certain sensitive information, apple uses end-to-end encryption. Это значит, что шифруется не вся информация, а лишь “некоторая”. И фотки в эту категорию легко могут не входить. Переходите на иные сервисы и всё будет ок.
@Pavel, А дальше посмотреть? Там есть таблица что зашифровано. И фотки и бэкапы все зашифровано и при передаче и на сервере.
@Pavel, Статья на сайте Apple: HT202303
@FiLunder_7, да, и её только что прочитал. И всё равно прав я по итогу. End-to-end на фотках отсутствует. Это значит, что ключи у Apple есть и они абсолютно легко смогут просканить все твои фотки при условии, что ты их льёшь в облако. Увы, просто “зашифровано” – никто кроме Apple и тебя не сможет прочитать. Оконечное шифрование – никто кроме тебя.
У Apple все конфиденциально – все хорошо…
Apple лишит пользователей конфиденциальности – ну так не только у Apple такое, значит все хорошо… =)))
@andrey-m86, отлично сказано! What happens on your iPhone, no more stays on your iPhone))
Nokia 3310 скоро снова в продаже
Черно белая Nokia 3310 скоро снова в продаже
@vladislavikii, такая бомбическая шутка, что стоит запостить дважды!
@John Travilta, это две разных бомбических шутки: одна просто про нокию, вторая про ч/б нокию
В чем проблема то? Переполошились те, у кого на телефоне фотки издевательств над детьми что ли? Никогда не понимал этой всей паранои. Есть законы – соблюдайте их. Жестить над детьми – это норма что ли? А ещё никогда не понимал, зачем люди снимают и выкладывают издевательства над теми же животными в сеть. Убивая фоткаешь – дважды дебил.
@serj.msk.ru, сейчас они капаются в ваших фотках и переписке. Завтра обяжут поставить ip камеры в каждую комнату. Или это другое? Вы же законопослушный гражданин? Чего вам беспокоится пусть смотрят.
@Нагнетатель, Ну пусть смотрят.
@Нагнетатель, «сегодня он играет джаз, а завтра родину продаст». Не выдумывайте некие причинно-следственные связи там, где их нет. Речь вообще не о слежке за вами, с о фильтрации контента, при чём автоматической. Если контент преступный, то придётся за это отвечать, да. Но лично к меня нет никакого желания переживать за права любителей детского порно и издевательств над детьми.
@serj.msk.ru, проблема в том, что многие не понимают, как алгоритм сработает во время анализа фотографии своих же детей. А еще интереснее звучит последующая ручная проверка, т.е семейные фотографии будет просматривать кто-то из компании?
@andrey315, Фотографии ваших детей есть в базе ФБР? Что они там делают?
@serj.msk.ru, послушайте ТЫ. Причем тут законы? Причем тут правила?
Я покупаю себе устройство. ДЛЯ СЕБЯ. ДА ДАЖЕ ЕСЛИ Я ЛЮДЕЙ БУДУ УБИВАТЬ И ФОТКАТЬ. Вас это не должно ..бать. Для этого уже придумано все. Милиция полиция и тд. Какого ху ты, производитель телефонов, лезешь туда куда тебя не просят.
@Andrey-lights, ну будешь убивать и фоткать – за тобой придут ) Это лучше, чем не найдут и будешь и дальше убивать и фоткать. Не убивай и все, делов то!
@serj.msk.ru, да тут вопрос именно в том что напрягает тот факт что телефон без твоего ведома сам в себе самодеятельностью занимается. Не так обидно было бы если бы мой iCloud взломали и спи..ли все мои нюдсы с моим болтом 20на6. Ради бога, есть че показать. Но не когда в крысу телефон что то там сам постоянно шакалит
@Andrey-lights, странная мысль у вас получается: людей не должно волновать то, что вы собираетесь их убивать. Что до «для этого давно было придумано всё», не забывайте, что и цензура тоже была давно изобретена. И в данном случае это не какая-то политическая цензура, а защита прав детей от желающих насиловать и убивать.
@Jan Rokas, послушайте. Мне вот нас рать например что там и ради кого делается. У меня нет детей. Я их даже не планирую. И я совершенно не хочу что бы телефон, МОЙ ТЕЛЕФОН что- то без моего ведома делал
@Andrey-lights, не поверите, но ваш телефон без вашего ведома и так уже давно много чего делает.
@Andrey-lights, все просто, берешь и не пользуешься телефоном, ищите радость в других местах. А нужна связь? Сейчас широкий ассортимент простых телефонов для связи.
Дойдет до абсурда и фото начнут анализировать на феминистические оттенки.
@serj.msk.ru, Когда рабов везли на галерах это тоже было законно и норма.
@serj.msk.ru, типичный овощ. ты законы российские видел? завтра выйдет закон в кандалах ходить, наденешь сразу или подождешь немного?
@Антон Грахольский, блядь фото расчлененных детей попутал с несуществующим законом про кандалы? Кто из нас овощ?
Вам есть что скрывать?
@Tim T, личная жизнь, не должна быть публичной, а тут эпл втюхивает «идеальных алгоритм» при том что каждая прошивка или ОС выходят с каждым годом все дырявей и дырявей, одни заплатки каждый месяц…при этом не только внутри системы но и в элементарных приложениях которым уже лет по 10, они и их умудряются ломать, по этому их алгоритм и идея, может обернуться провалом для всех.
@Slix77, если и так дырявая система как вы говорите то чего вы боитесь? Вы как я понимаю картами не пользуетесь и фотографируете только на плёнку. Ведь мир подтверждён опасности и роботы захватывают мир, и если робот узнаёт что вы педофил то может произойти конфуз.
Педофилы забили тревогу!
@Tim T, тут вопрос не в педофилах даже. Вопрос в том что твой телефон за твои кровные не малые, без твоего спросу будет делать все что захочет. И да, как заметили в тексте, власти начнут обязывать анализировать фото с флорой и фауной что бы вычислить тебя в поле мари Хуаны. Фото где ты с другом обнимаешься на предмет гомосятины и тд
@Andrey-lights, Вообще-то, телефон и так делает то, на что он запрограммирован. Просто Вы верите, что там все ок :) Доступ ко всему содержимому вашего телефона всегда был у Эппла и Гугла. Только теперь этот доступ частично может использоваться для сбора легальных доказательств, а не просто улик.
@Andrey-lights, так не пользуйтесь айфоном, есть огромное количество андроид смартов и кнопочных звонилок с камерами. При первом включении айфона вы соглашаетесь с лицензионным соглашением использования устройства и установленного на него ПО, где всё прописано.
А с учётом развития электроники, в итоге дойдёт до того, что всем чип в голову вставят и будут на инакомыслие сканировать.
А вообще государство и так знает все ваши маршруты, камеры дорожного движения, уличные камеры, камеры на турникетах и в самом метро. Оплата всего и вся банковской картой и т.д.
Если это будет помогать раскрывать преступления, в первую очередь направленные против детей, я только за.
@Tim T, а ты, я смотрю, эксбиционист и любитель выставлять на показ всю свою интимную жизнь
@dmitryermakov, да я доверяю роботам пусть подёргивают в своё удовольствие мне не жалко.
У меня сын родился. и я его фоткаю. Вот сейчас сочтут это детской порнографией. и сотрут к чертям все фотки рождения малыша.
@Алексей Волков, пора возвращаться на пленочный фотоаппарат.
@Алексей Волков, Внимательно читайте, фото сравнивают с архивом ФБР. Фото вашего ребенка есть в архиве ФБР?
@FiLunder_7, внимательно читай – совпадение начинается от нескольких пикселей.
@dmitryermakov, Наоборот, если несколько пикселей отличаются.
«Apple заявляет о высокой точности работы алгоритма и наличии РУЧНОЙ ПРОВЕРКИ»,, мд, офигенно
А если я прыщ на ЮУХ сфоткаю, весь Эпл увидит и посочувствует?
@Andrey-lights, Не увидит, фото зашифрованы. Контента они не видят, только хэш
@FiLunder_7, ты тупой? Написано же – ручная проверка сотрудниками Apple
@dmitryermakov, Ручная проверка хэша. А не фотки. И кто из нас тупой?
@FiLunder_7, так а смысл хеш-то перепроверять? Автоматизированная система не справится со сравнением двух строк?
@Waka, Тревога отсылается когда очень много совпадений и тогда уже сотрудник разбирается.
@FiLunder_7, так, погодите.
Много совпадений чего?
Есть фотка ЦП, известен её хеш.
Есть фотка звёздного неба над Москвой у человека на телефоне. Случается коллизия – у них совпадают хеши.
Что случается в таком случае?
Вы пишете, что все фотки шифруются, end-to-end шифрование, все дела. Это значит, что из-за коллизии хешей фоток человек будет иметь разговор с полицией? Или в таком случае яблоки каким-то образом (да хоть с обходом логики своего механизма загрузки фоток) вручную верифицируют, что фотки разные?
Тёмное пятно в логике, не находите?
@FiLunder_7, Осмыслите: Эппл не видит фотки, потому что Эппл утверждает, что Эппл не видит фотки. ;)
Эппл имеет возможность делать с содержимым телефона, что угодно.
@Йода, Эппл имеет возможность делать с содержимым телефона, что угодно.
Но это не так. Иначе бы они из судов не вылезали. Эппл к вашему контенту не имеет доступа.
@Andrey-lights, Apple последняя кто эту систему вводит, что вы молчали раньше когда эту систему вводил Google и Microsoft?
@Tim T, так всё просто, видимо человек пользуется исключительно айфоном и маком, “а что там видовозный и андроидный вводит, та насрать, меня же не касается”))) Вот у него и пригорает, а вообще судя по примерам которые он приводит, он из сжв комьюнити, а этим похрен на что и где орать, главное поорать)))
пожалуй останусь на айос 14))))
А вот теперь на арену во всей красе выходит техология Samsung KNOX!
Покупаем Самсунговские смарты и в шифрованном контейнере храним что хотим и никто там шариться не будет
@Vasya5125, Блажен кто верует. Где гарантия что самс не имеет доступ к KNOX контейнерам?
Любой режим прикрывается заботой о детях и безопасностью своих граждан.
@Вася, Да, поэтому можно не волноваться, это все равно будет.
Особенно умиляет – беспристрастная проверка сотрудниками.
Проходили уже в Твиттер, сотрудники которого сплошь сторонники демократов, которые банили все посты в поддержку Трампа и республиканцев.
А если учесть, что Apple будет нанимать теперь в основном гомиков и прочую шваль, представляю, какие из них будут проверяльщики.
После утечки развед. программы PRISM, глупо было верить в ту распиаренную конфиденциальность.
Пора на линукс уходить. Pinephone становится всё привлекательнее.
@dr.sebro, Вот кстати да, пора бы уже составить конкуренцию всему этому эпловско гугловскому хламу
Это все давно прекрасно работает со времён Сноудена. Эппл лишь заявила об этом в открытую.
@Fregat, согласен, только считаю, что это было всегда, а не с каких то там времен. Любое облако сгружается через майора куда то дальше. Всем все известно если надо будет. Только мое негодование в том, что при всех этих возможностях, преступлений меньше не становится и органы, как были хилыми, так и остаются хилыми и политизированными. Да и маньяков ловят совершенно по другим уликам и с трудом. А сгружаться в ФБР это вообще отлично. ))) Теперь появятся в газетах фото голого ВВП и тд.
Я не поддерживаю жестокое обращение с детьми или терроризм. Но на своём (последнем айфоне) посижу на iOS14 и собирался брать макбук, теперь буду смотреть только виндобуки с поддержкой линух. Родственникам и друзьям буду советовать не брать продукцию Apple.
@iphonechick, это из за телефона только? )))
@iphonechick, Надеюсь, так поступит большинство и наконец-то техника эппл подешевеет до разумных цифр. :)
@iphonechick, так гугл в этом тоже участвует. И даже Cloudflare в этом участвует. Там закон такой милый протащили.
@iphonechick, да вы эксперт. В облаке всё происходит в не на телефоне. А облако работает независимо от версии iOS.
И ко всему этому, ещё и жор батареи начнётся )))
@AlexTolstoy, так поэтому наверное эппл решила увеличить емкость аккума на айфон 13)))
Сравните: западная компания выпускает дичь, сообщество пользователей кричит и топает ножками, компания включает заднюю или урезает инициативу.
И исконно, скрепоносно, отечественно, родную инициативу.
Ваше мнение было зафиксировано, но не является определяющим.
Какой-нибудь шейх мусульманской страны попросит слить ему данные всех женщин которые фотались без тряпки на голове. И потом им палок на площади накидают.
Педофилы и насильники, которые зарабатывают на нелегальном видео:
– ОК, не будем снимать на айфон. Будем снимать на старый кенон.
.. вот и вся борьба
Интересно, а это действительно такая проблема? То есть существует массовая (это важно) проблема спроса и предложения на подобный контент?
Нашли орфографическую ошибку в новости?
Выделите ее мышью и нажмите Ctrl+Enter.Можно ли использовать Apple Pencil на iPhone?
Как удаленно отключить «Найти iPhone», если устройство не на руках
Как отключить светлую тему macOS Mojave для некоторых приложений
Удаляем своё местоположение в любой фотографии на Mac
Как установить бета-версию iOS 14.5 с разблокировкой iPhone через Apple Watch
Как на iPad Pro включить поддержку частоты кадров 120 Гц для Safari
Как экспортировать фотографии без приложения Фото?
Есть ли аналог кабеля MagSafe для iPhone?