Изследователският екип на Lumia установява, че съобщения, диктувани през Siri (включително в WhatsApp и iMessage), не се изпращат към Private Cloud Compute (PCC) на Apple, а липсва яснота какво всъщност прави Apple с тези съобщения. Освен това, Siri изпраща метаданни за инсталирани и активни приложения без възможност за контрол от страна на потребителя. Метаданни за аудио възпроизвеждане, като имена на записи, също се изпращат без съгласие и видимост. Apple използва две различни политики за поверителност – за Siri и за Apple Intelligence – така че сходни заявки могат да попаднат под различни правила за обработка на информация.
Какво установихме
Lumia разкри, че екосистемата на Apple AI изпраща съобщенията (WhatsApp, iMessage), диктувани през Siri, към Apple сървъри дори когато това не е необходимо, а потребителят няма никакъв контрол над това какво и кога се изпраща. Освен тази информация, Siri изпраща и още данни до сървърите на Apple.
Как работи Apple Intelligence и какви са рисковете
Apple Intelligence използва хибридна архитектура, която комбинира обработка на данни на устройството с облачни AI сървъри на Apple (Private Cloud Compute). Въпреки това, Siri продължава да комуникира и със сървърни инфраструктури извън PCC.
AI услугите на Apple могат да се групират в четири части:
- Private Cloud Compute (PCC): Сигурна AI облачна обработка, разширяваща възможностите извън локалното устройство.
- Siri сървъри за диктовка: Обработват гласови задачи.
- Сървъри за търсене: Извличат релевантни резултати за Spotlight, Safari, News и др.
- Разширения на Apple Intelligence (напр. ChatGPT): Комуникация чрез apple-relay.apple.com.
Как бе проведено изследването
Чрез инструментите mitmproxy и Frida бе прихванат и анализиран трафикът на Siri. При задаване на сложни заявки, например „Какво е времето днес“, устройството изпраща заявки към различни сървъри. Една от тях отразява списък с приложения, свързани с темата (напр. Weather), дори и от виртуални машини. Други заявки включват координати с точна локация и дори заглавия на поверителни документи.
Става ясно, че Siri автоматично сканира инсталираните и активните приложения и изпраща списък с тях към Apple. При използване на диктовка, координати на местоположението също се изпращат заедно със заявката.
Проблеми, свързани с WhatsApp, iMessage и криптиране
При тестове за изпращане на съобщения с WhatsApp чрез Siri, изследователите установяват, че съдържанието на съобщението, телефонният номер на получателя и други идентификатори се изпращат директно към сървърите на Apple, въпреки че съобщението е пращано на самото устройство и се предполага пълно криптиране. Дори когато потребителят изключи опциите за учене от дадено приложение, информацията пак се изпраща.
Различни политики за поверителност
Когато се използва Siri, има два възможни потока на обработка – през сървърите на Siri или през Apple Intelligence (PCC). За сходни заявки са в сила различни политики за поверителност, без потребителя да може да проследи това.
Препоръки към организации
- Блокирайте трафика към домейни на Siri на ниво мрежа/файъруол.
- Забранете „Learn from this app“ за чувствителни приложения.
- Анализирайте AI трафика в организацията и създайте политика за използването му.
Защо това има значение
Поверителна информация може да напуска устройството на потребителя без негов контрол. За частни и бизнес потребители това представлява сериозен риск за сигурността и съвместимостта с нормативни изисквания. Казусът с Apple показва по-широк проблем – днес множество приложения използват AI и само технически анализ може да разкрие докъде стигат данните. Това често е извън възможностите на типичния потребител.
Този преглед подчертава необходимостта от информираност и контрол върху данните, които устройствата и изкуственият интелект могат да събират и изпращат без знанието на потребителя.
Оригинална статия: http://lumia.security/blog/applestorm
No Comment! Be the first one.