No estoy seguro de confiar tanto en la IA de Apple en mi vida digital

Conclusiones clave

El nuevo sistema de inteligencia artificial de Apple, Apple Intelligence, monitoreará datos personales para una amplia variedad de tareas generativas y de asistencia.
Siri aprovechará los datos personales en tiempo real como contexto para funciones de asistencia únicas, como resumir alertas de texto.
Aunque Apple ha demostrado su confiabilidad en la protección de la información de los usuarios, la profundidad del acceso a los datos requerido me da motivos para hacer una pausa, particularmente en un mundo donde muchos sistemas de inteligencia artificial han experimentado ataques y fugas de datos.

La impresionante variedad de características y funciones mejoradas por IA de Apple llegará a iOS 18, pero la tecnología depende del acceso sin obstáculos a una gran cantidad de datos personales. En un mundo de violaciones de seguridad y recopilación de datos, esto me preocupa.

La promesa de la inteligencia de Apple

"La inteligencia de Apple transformará gran parte de lo que haces con tu iPhone", dijo Craig Federighi, vicepresidente senior de ingeniería de software, durante el evento Apple Glowtime en septiembre de 2024. El sistema está diseñado para servir como un "sistema de inteligencia personal" para Dispositivos iPhone, iPad y Mac, que utilizan un modelo de lenguaje grande propietario que aprovecha mis datos personales para funcionar.

"Podrás reescribir notas escritas apresuradamente en una elegante invitación a una cena, ajustar el tono de ese mensaje de Slack a tu jefe para que suene un poco más profesional o revisar tu última reseña en Goodreads antes de publicarla para tus compañeros ratones de biblioteca. " dijo Federighi.

El agente de IA podrá interactuar con mis datos tanto en el sistema como en aplicaciones de terceros, incluidos Mail, Notes, Safari y Pages, así como generar imágenes basadas en indicaciones de texto en lenguaje natural. Apple Intelligence está "basada en su información y contexto personal, con la capacidad de recuperar y analizar los datos más relevantes de todas sus aplicaciones, así como hacer referencia al contenido en su pantalla", dijo Federighi durante la WWDC en junio.

Puede generar imágenes y emoji personalizados, buscar imágenes y archivos usando indicaciones en lenguaje natural, resumir notificaciones y correos electrónicos, y una gran cantidad de otras tareas que, según Apple, agilizarán mis tareas digitales diarias.

Quiero decir, sí, esto es genial y probablemente sea el futuro, pero no estoy seguro de que haya demostrado ser lo suficientemente confiable como para garantizar que Apple tenga este grado de acceso a mis datos. Mientras que Apple solía alojar mis datos en el dispositivo y en iCloud, ahora quiere hacer cosas con ellos, y eso me pone nervioso.

La inteligencia de Apple quiere saber todo sobre mí

Apple está presentando a Intelligence como un agente global para iOS 18, capaz de trabajar en todas las aplicaciones para optimizar mi vida digital. Siri se está reinventando como un asistente más capaz e inteligente gracias a Apple Intelligence. "Siri podrá acceder a tu contexto personal para ayudarte de maneras que sean exclusivas para ti, como obtener la recomendación para el programa de televisión que tu hermano te envió el mes pasado", dijo Federighi.

Estoy totalmente a favor de las automatizaciones que pueden ahorrarme tiempo y esfuerzo, pero no me siento particularmente cómodo con herramientas que pueden alucinar no solo monitoreando mis datos en tiempo real sino actuando de forma independiente sobre esos datos.

No me preocupa que Apple despierte a Skynet o dé a luz a H.A.L. Eso sí, no estamos lo suficientemente cerca de AGI como para preocuparnos por cosas de esa naturaleza. Sin embargo, desconfío de la amplitud y profundidad de los datos personales necesarios para habilitar estas funciones, así como de cómo se transmiten y manejan esos datos.

La industria de la IA generativa no tiene lo que se llamaría una excelente reputación cuando se trata de proteger los datos de los usuarios. OpenAI, que se ha asociado con Apple para incorporar ChatGPT en la funcionalidad de Siri, ha sido pirateado varias veces desde el lanzamiento de su chatbot en noviembre de 2022, lo que ha provocado filtraciones de datos.

También lo ha hecho NVIDIA, que fabrica las GPU más buscadas en la industria de la IA. Es más, un estudio reciente de HiddenLayer encontró que el 77 por ciento de las empresas encuestadas informaron violaciones a sus sistemas de inteligencia artificial durante el último año.

Mi número de seguridad social ya está flotando en la brisa, no tengo prisa por que el resto de mis datos personales se unan a él.

Cómo Apple protege los datos de los usuarios en la nube

Hay que reconocer que la reputación de Apple en materia de seguridad de datos está bien ganada. Las violaciones de datos son extremadamente raras y, cuando ocurren, como el hackeo de iCloud de 2014, Apple se apresuró a apuntalar sus vulnerabilidades. Para Apple Intelligence, las consultas se manejan principalmente en el dispositivo. Hacerlo limita drásticamente las formas y medios en que mis datos personales pueden filtrarse.

Si no se transmite a ninguna parte, hay muy pocas formas en que partes no autorizadas puedan acceder a él, aparte de acceder físicamente a mi teléfono, instalar malware o realizar ataques de canal lateral.

La compañía también ha desarrollado una enorme infraestructura de datos personalizada, denominada Private Cloud Compute (PCC), para manejar y proteger los datos cargados del usuario para consultas que no se pueden resolver en el dispositivo. Como explica una publicación del blog de Apple de junio, Apple Intelligence evaluará si una consulta de usuario determinada se puede manejar en el dispositivo y, si no puede, la IA "puede recurrir a Private Cloud Compute, que enviará solo los datos que es relevante para la tarea que se procesará en los servidores Apple Silicon". Los datos enviados a PCC no se almacenan ni Apple ni, por extensión, las fuerzas del orden, los piratas informáticos u otros actores maliciosos pueden acceder a ellos.

"Estos datos nunca deben estar disponibles para nadie más que el usuario, ni siquiera para el personal de Apple, ni siquiera durante el procesamiento activo", escribieron investigadores de Apple en un estudio publicado en junio. Los datos no se pueden conservar una vez completada la consulta. "En otras palabras, queremos una forma fuerte de procesamiento de datos sin estado, donde los datos personales no dejen rastro en el sistema PCC".

Los investigadores señalan que, si bien aplicaciones como iMessage pueden ofrecer cifrado de extremo a extremo, PCC no puede, "ya que Private Cloud Compute necesita poder acceder a los datos en la solicitud del usuario para permitir que un modelo básico grande lo cumpla". En cambio, diseñaron el sistema para que fuera incapaz de retener los datos del usuario una vez completada la consulta, utilizando "una garantía ejecutable de que el volumen de datos se borra criptográficamente cada vez que se reinicia el procesador Secure Enclave del nodo PCC".

"Desde el principio partimos con el objetivo de cómo podemos extender los tipos de garantías de privacidad que hemos establecido con el procesamiento en el dispositivo con iPhone a la nube; esa fue la declaración de la misión", dijo Federighi a Wired. "Ha habido avances en todos los niveles para lograr esto, pero lo que hemos hecho es lograr nuestro objetivo. Creo que esto establece un nuevo estándar para el procesamiento en la nube en la industria".

Ningún sistema es perfecto

Ese nivel de confianza es difícil de ignorar, especialmente cuando el cumplimiento del sistema se impone técnicamente, en lugar de mediante políticas fácilmente eludidas. Sin embargo, ninguna empresa es infalible, ni tampoco ningún modelo de IA creado hasta la fecha.

Incluso con las garantías de privacidad de datos de Apple, sigo siendo escéptico de que poder generar emoji y recordar los nombres de mis conocidos (a la Bella Ramsey) proporcione suficiente valor como para justificarme actualizar al nuevo sistema operativo compatible con Ai o incluso comprar un nuevo iPhone. pero ese soy solo yo.