El sistema de IA en la nube de Apple hace grandes promesas de privacidad, pero ¿puede cumplirlas?

El fabricante del iPhone lanzará un impresionante sistema de seguridad en la nube para Apple Intelligence que algunos se preguntan si realmente mantendrá los datos de los usuarios. seguro.

Lo nuevo de Apple Inteligencia de Apple El sistema está diseñado para infundir IA generativa en el núcleo de iOS. El sistema ofrece a los usuarios una serie de nuevos servicios, incluyendo la generación de texto e imágenes, así como características organizativas y de programación. Sin embargo, aunque el sistema proporciona nuevas e impresionantes capacidades, también aporta complicaciones. Por un lado, el sistema de inteligencia artificial depende de una enorme cantidad de datos de los usuarios de iPhone, lo que presenta riesgos potenciales para la privacidad. Con el tiempo, la necesidad sustancial del sistema de IA de una mayor potencia computacional significa que Apple tendrá que depender cada vez más de su sistema en la nube para satisfacer sus necesidades. solicitudes de los usuarios.

Históricamente, Apple ha ofrecido a los clientes de iPhone una privacidad sin igual; gran parte de la marca de la empresa. Parte de esas garantías de privacidad ha sido la opción de elegir cuándo los datos móviles se almacenan localmente y cuándo se almacenan en la nube. Si bien una mayor dependencia de la nube podría hacer sonar algunas alarmas de privacidad, Apple se anticipó a estas preocupaciones y creó un nuevo y sorprendente sistema. que llama su Computación en la nube privada o PCC. Este es realmente un sistema de seguridad en la nube diseñado para mantener los datos de los usuarios alejados de miradas indiscretas mientras se utiliza para ayudar a cumplir con la IA. -solicitudes relacionadas.

Cómo se supone que funciona la computación en la nube privada de Apple

En muchos sentidos, los sistemas en la nube son simplemente bases de datos gigantes. Si un mal actor entra en ese sistema/base de datos, puede mirar los datos contenido dentro. Sin embargo, Apple Computación en la nube privada (PCC) ofrece una serie de salvaguardias únicas que están diseñadas para prevenir ese tipo de acceso.

Apple ha instituido una serie de otras protecciones de seguridad y privacidad sobre las que se puede leer con más detalle en el blog de la empresa. Estas defensas, aunque diversas, todas parecen diseñadas para hacer una sola cosa: prevenir cualquier violación del nuevo sistema de nube de la empresa.

Pero, ¿es esto realmente legítimo?

Las empresas hacen grandes promesas de ciberseguridad todo el tiempo y generalmente es imposible verificar si están diciendo la verdad o no. FTX, el fallido intercambio de criptomonedas, una vez afirmó que mantenía los activos digitales de los usuarios en servidores aislados. Una investigación posterior demostró que era pura mierda. Pero Apple es diferente, por supuesto. Para demostrar a los observadores externos que realmente está asegurando su nube, la compañía dice que lanzará algo llamado “registro de transparencia» que implica la producción completa imágenes de software (básicamente copias del código utilizado por el sistema). Planea publicar estos registros regularmente para que investigadores externos puedan verificar que la nube está operando tal como dice Apple.

Lo que la gente dice sobre el PCC

El nuevo sistema de privacidad de Apple ha polarizado notablemente a la comunidad tecnológica. Si bien el considerable esfuerzo y la transparencia incomparable que caracterizan al proyecto han impresionado a muchos, algunos desconfían de los impactos más amplios que puede tener en la privacidad móvil en general. Más notablemente, también conocido como Elon Musk inmediatamente comenzó a proclamar que Apple había traicionado a sus clientes.

Simon Willison, un desarrollador y programador web, le dijo a Gizmodo que la “escala de ambición” del nuevo sistema en la nube lo impresionó.

“Están abordando múltiples problemas extremadamente difíciles en el campo de la ingeniería de privacidad, todos a la vez”, dijo. “La parte más impresionante Creo que es la auditabilidad, la parte en la que publicarán imágenes para su revisión en un registro de transparencia que los dispositivos pueden usar para garantizar que solo están hablando con un servidor que ejecuta software que se ha hecho público. Apple emplea a algunos de los mejores ingenieros de privacidad del negocio, pero, incluso para sus estándares, este es un trabajo formidable”.

Pero no todo el mundo está tan entusiasmado.

Matthew Green, profesor de criptografía en la Universidad Johns Hopkins, expresó escepticismo sobre el nuevo sistema de Apple y sus promesas. eso vino junto.

“No me encanta”, dijo Green con un suspiro. “Mi gran preocupación es que va a centralizar muchos más usuarios. datos en un centro de datos, mientras que en este momento la mayor parte está en los teléfonos reales de las personas”.

Históricamente, Apple ha hecho del almacenamiento de datos local un pilar de su diseño móvil, porque los sistemas de nube son conocidos por sus deficiencias de privacidad.

“Los servidores en la nube no son seguros, por lo que Apple siempre ha tenido este enfoque”, dijo Green. “El problema es que, con todo esto, Las cosas de IA que están sucediendo, los chips internos de Apple no son lo suficientemente potentes para hacer las cosas que ellos quieren que haga. “Necesitamos enviar los datos a los servidores y están intentando construir estos servidores súper protegidos en los que nadie puede piratear”.

Él entiende por qué Apple está dando este paso, pero no necesariamente está de acuerdo con él, ya que significa una mayor dependencia de la nube.