Qué supone para nuestros datos la llegada de teléfonos y ordenadores equipados con inteligencia artificial

Apple, Microsoft y Google están anunciando una nueva era de lo que describen como teléfonos inteligentes y computadoras con inteligencia artificial. Los dispositivos, dicen, automatizarán tareas como editar fotografías y desearle un feliz cumpleaños a un amigo.

Pero para que esto funcione, estas empresas necesitan algo de usted: más datos.

En este nuevo paradigma, su computadora con Windows tomará una captura de pantalla de todo lo que haga cada pocos segundos. Un iPhone combinará información de muchas aplicaciones que utilices. Y un teléfono Android puede escuchar una llamada en tiempo real para alertarlo sobre una estafa.

¿Está dispuesto a compartir esta información?

Este cambio tiene implicaciones importantes para nuestra privacidad. Para brindar nuevos servicios personalizados, las empresas y sus dispositivos necesitan un acceso más persistente e íntimo a nuestros datos que antes. En el pasado, la forma en que usábamos aplicaciones y recuperamos archivos y fotografías en teléfonos y computadoras era relativamente aislada. La IA necesita una visión general para conectar los puntos entre lo que hacemos en aplicaciones, sitios web y comunicaciones, dicen los expertos en seguridad.

«¿Me siento seguro al proporcionar esta información a esta empresa?» Cliff Steinhauer, director de la Alianza Nacional de Ciberseguridad, una organización sin fines de lucro centrada en la ciberseguridad, habló sobre las estrategias de IA de las empresas.

Todo esto sucede porque ChatGPT de OpenAI irrumpió en la industria tecnológica hace casi dos años. Desde entonces, Apple, Google, Microsoft y otros han revisado sus estrategias de productos, invirtiendo miles de millones en nuevos servicios bajo el término general de inteligencia artificial. Están convencidos de que este nuevo tipo de interfaz informática, que estudia constantemente lo que estás haciendo para ofrecerte asistencia, será indispensable.

El mayor riesgo potencial de seguridad con este cambio proviene de un cambio sutil en la forma en que funcionan nuestros nuevos dispositivos, dicen los expertos. Debido a que la IA puede automatizar acciones complejas, como eliminar objetos no deseados de una fotografía, a veces requiere más potencia informática de la que nuestros teléfonos pueden manejar. Esto significa que es posible que una mayor parte de nuestros datos personales tengan que salir de nuestros teléfonos para ser manejados en otros lugares.

La información se transmite a la llamada nube, una red de servidores que procesa las solicitudes. Una vez que la información llega a la nube, otras personas pueden verla, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y si bien algunos de nuestros datos siempre se han almacenado en la nube, nuestros datos más personales e íntimos que alguna vez estuvieron solo para nuestros ojos (fotos, mensajes y correos electrónicos) ahora pueden ser vinculados y analizados por una empresa en sus servidores.

Las empresas de tecnología dicen que han hecho todo lo posible para proteger los datos de las personas.

Por ahora, es importante comprender qué sucederá con nuestra información cuando usemos herramientas de inteligencia artificial, por eso obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Planeo esperar y ver si las tecnologías funcionan lo suficientemente bien antes de decidir si vale la pena compartir mis datos.

Esto es lo que debe saber.

Apple anunció recientemente Apple Intelligence, un conjunto de servicios de inteligencia artificial y su primera entrada importante en la carrera de la IA.

Los nuevos servicios de IA se integrarán en sus iPhones, iPads y Macs más rápidos a partir de este otoño. Las personas podrán usarlo para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos web y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está renovando su asistente de voz, Siri, para hacerlo más conversacional y darle acceso a datos en todas las aplicaciones.

Durante la conferencia de este mes en la que Apple presentó Apple Intelligence, el vicepresidente senior de ingeniería de software de la compañía, Craig Federighi, explicó cómo podría funcionar: Federighi recibió un correo electrónico de un colega pidiéndole que pospusiera una reunión, pero se suponía que debía ver una espectáculo esa noche protagonizado por su hija. Luego, su teléfono abrió su calendario, un documento que contenía detalles sobre el programa y una aplicación de mapas para predecir si llegaría tarde al programa si aceptaba reunirse más tarde.

Apple ha dicho que está intentando procesar la mayoría de sus datos de IA directamente en sus teléfonos y computadoras, lo que impediría que otros, incluido Apple, tuvieran acceso a la información. Pero para las tareas que deben enviarse a servidores, dijo Apple, ha desarrollado medidas de seguridad, incluida la codificación de los datos mediante cifrado y su eliminación inmediata.

Apple también ha tomado medidas para garantizar que sus empleados no tengan acceso a los datos, dijo la compañía. Apple también dijo que permitirá a los investigadores de seguridad probar su tecnología para asegurarse de que cumple sus promesas.

El compromiso de Apple de eliminar los datos de los usuarios de sus servidores la diferencia de otras empresas que retienen datos. Pero Apple no tenía claro qué nuevas solicitudes de Siri podrían enviarse a los servidores de la compañía, dijo Matthew Green, investigador de seguridad y profesor asociado de ciencias de la computación en la Universidad Johns Hopkins, quien fue informado por Apple sobre su nueva tecnología. Todo lo que sale de tu dispositivo es inherentemente menos seguro, afirmó.

Apple dijo que cuando se lance Apple Intelligence, los usuarios podrán ver un informe de qué solicitudes salen del dispositivo para ser procesadas en la nube.

Microsoft está llevando la inteligencia artificial a las computadoras portátiles anticuadas.

La semana pasada comenzó a lanzar computadoras con Windows llamadas Copilot+ PC, que comienzan en $1,000. Las computadoras contienen un nuevo tipo de chip y otros dispositivos que, según Microsoft, mantendrán sus datos privados y seguros. Las PC pueden generar imágenes y reescribir documentos, entre otras nuevas funciones impulsadas por IA.

La compañía también presentó Recall, un nuevo sistema para ayudar a los usuarios a encontrar rápidamente documentos y archivos en los que trabajaron, correos electrónicos que leyeron o sitios web que navegaron. Microsoft compara Recall con tener memoria fotográfica integrada en su PC.

Para usarlo, puedes escribir frases aleatorias, como «Estoy pensando en una videollamada que tuve con Joe recientemente mientras sostenía una taza de café que decía «Amo Nueva York». Luego, la computadora recuperará la grabación de la videollamada que contenga esos detalles.

Para lograr esto, Recall toma capturas de pantalla cada cinco segundos de lo que el usuario está haciendo en la máquina y compila esas imágenes en una base de datos con capacidad de búsqueda. Las instantáneas se almacenan y analizan directamente en la PC, por lo que Microsoft no examina los datos ni los utiliza para mejorar su inteligencia artificial, dijo la compañía.

Sin embargo, los investigadores de seguridad han advertido sobre los riesgos potenciales, explicando que los datos podrían exponer fácilmente todo lo que usted escribió o vio si fuera pirateado. En respuesta, Microsoft, que tenía intención de lanzar Recall la semana pasada, pospuso su lanzamiento indefinidamente.

Las PC están equipadas con el nuevo sistema operativo Windows 11 de Microsoft. Tiene múltiples capas de seguridad, dijo David Weston, un ejecutivo de la empresa que supervisa la seguridad.

El mes pasado, Google también anunció un conjunto de servicios de inteligencia artificial.

Una de sus mayores revelaciones fue un nuevo detector de estafas para llamadas telefónicas basado en inteligencia artificial. La herramienta escucha las llamadas telefónicas en tiempo real y, si la persona que llama parece un estafador potencial (por ejemplo, si solicita un PIN bancario), la empresa le avisa. Google dijo que la gente debería activar el detector de estafas, que se gestiona completamente desde el teléfono. Esto significa que Google no escuchará las llamadas.

Google anunció otra función, Ask Photos, que requiere enviar información a los servidores de la empresa. Los usuarios pueden hacer preguntas como «¿Cuándo aprendió mi hija a nadar?» para sacar a relucir las primeras imágenes de su bebé nadando.

Google dijo que sus empleados podrían, en casos excepcionales, revisar las conversaciones de Ask Photos y los datos de las fotografías para abordar abusos o daños, y que la información también podría usarse para ayudar a mejorar su aplicación de fotografías. Para decirlo de otra manera, su pregunta y la foto de su hijo nadando podrían usarse para ayudar a otros padres a encontrar fotografías de sus hijos nadando.

Google dijo que su nube estaba bloqueada con tecnologías de seguridad como cifrado y protocolos para limitar el acceso de los empleados a los datos.

«Nuestro enfoque para proteger la privacidad se aplica a nuestras funciones de inteligencia artificial, ya sea que estén instaladas en su dispositivo o en la nube», dijo en un comunicado Suzanne Frey, ejecutiva de Google que supervisa la confianza y la privacidad.

Pero Green, el investigador de seguridad, dijo que el enfoque de Google hacia la privacidad de la IA parece relativamente opaco.

«No me gusta la idea de que mis fotografías e investigaciones muy personales terminen en una nube que no está bajo mi control», dijo.