Cuando se le pidió que explorara los problemas de privacidad de datos que surgen de Microsoft Recall, una herramienta de autocontrol que no fue recibida por el fabricante de Windows, Jaime Teevan, científico jefe y miembro técnico de Microsoft Research, restó importancia a las preocupaciones.
Tevan habló el miércoles con Erik Brynjolfsson, director del Laboratorio de Economía Digital de la Universidad de Stanford, en la conferencia del quinto aniversario del Instituto de Inteligencia Artificial Centrada en las Personas de la Universidad Americana.
Brynjolfsson dijo que cuando se anunció Recall, hubo «una especie de reacción contra todos los desafíos de privacidad que rodean eso. Por lo tanto, hablemos sobre los pros y los contras de usar todos esos datos y algunos de los riesgos que crea, así como algunas de las oportunidades». «
Claramente este era un tema popular.
Por supuesto, estamos repensando qué significan los datos, cómo los usamos, cómo los evaluamos y cómo se usan.
«Sí, y esa es una gran pregunta, Eric», dijo Tevan. «Esto también se ha planteado toda la mañana: la importancia de los datos. Y la revolución de la IA que estamos viendo ahora realmente está cambiando la forma en que entendemos los datos».
Continuó: “Microsoft generalmente ayuda a las grandes organizaciones a administrar sus datos, crearlos y compartirlos, y esos datos son realmente algo que hace que las empresas funcionen de manera diferente en el contexto de la IA generativa.
“Como individuos también tenemos datos importantes, datos con los que interactuamos todo el tiempo, y existe la oportunidad de empezar a pensar en cómo lo hacemos y en lo que significa poder capturarlos y utilizarlos. Pero, por supuesto, estamos reconsiderando qué significan los datos y cómo los utilizamos, cómo los evaluamos y cómo se utilizan”.
Registro Cuando se presentó Recall en Microsoft Build el mes pasado, noté que el software, que crea un archivo de capturas de pantalla tomadas cada pocos segundos y registra las actividades del usuario, para que se puedan recordar las acciones anteriores, representa un riesgo significativo para la privacidad. Como recientemente descrito Creado por el autor Charlie Strouse, es «el producto que nadie quiere» y «una muestra de absoluta privacidad».
Sin dejarse intimidar por la falta de voluntad de Tevan para admitir por qué Recall estaba causando tensión, Brynjolfsson investigó más a fondo.
«¿Está almacenado localmente?» Preguntó. «Entonces digamos que activo Recall, y no sé si podría, pero cuando tienes algo así, me preocuparía que todos mis archivos personales vayan a la nube, o a Microsoft, o algo así. ¿Tienes ¿Eso? ¿Permanecer local?»
Tevan respondió: «Sí, sí, lo principal que nos importa mucho como empresa es la protección de datos. Entonces, Recall es una característica que captura información. Es una función local de Windows, nada va a la nube, todo se almacena». en la zona.»
Y era como si registrar constantemente las actividades informáticas de una persona en una serie de capturas de pantalla y registros de actividad no tuviera implicaciones de seguridad o privacidad si los datos eran locales y estaban protegidos por las credenciales de la cuenta de Microsoft; no había mucha tranquilidad a la luz de la publicación del informe del investigador de seguridad Alex Hagenah. herramienta Retiro total. Este código puede extraer y mostrar datos de la base de datos SQLite no cifrada de Recall, donde la «función» del sistema operativo almacena instantáneas de la actividad del usuario.
Mientras tanto, investigadores y analistas de seguridad continúan pidiendo que se olvide el retiro del mercado, cuyo lanzamiento está previsto para finales de este mes.
Como sostiene Stross, las computadoras con Windows equipadas con citaciones serán el objetivo de los abogados durante los procedimientos de descubrimiento porque brindarán acceso no solo a correos electrónicos sino también a conversaciones en cualquier aplicación de mensajería o colaboración, y potencialmente a conversaciones habladas si se capturan datos de transferencia de voz a mensajes de texto. por el registrador de actividad de Redmond. También es fácil para un hacker espiar lo que su víctima ha estado haciendo recientemente, personalmente y en el trabajo.
“Es absurdo para cualquier organización que maneje registros médicos o tenga un deber legal de confidencialidad; de hecho, para cualquier empresa que tenga que cumplir con GDPR (¿cómo maneja Recall el derecho al olvido? En resumen: mal), o HIPAA”. En Estados Unidos”, escribió en su publicación.
«Esta falla va en contra de la ley de privacidad en toda la UE (y en el Reino Unido), y en las organizaciones de atención médica de todas partes que tienen un derecho médico a la privacidad».
Refiriéndose a la capacidad de Recall para evitar capturar contenido DRM, el escritor de ciencia ficción continuó: «Las únicas personas cuya privacidad no es violada son los estudios de Hollywood y Netflix, lo que te dice algo sobre el estado de las cosas». ®
También en la Universidad de Stanford: Para resolver la crisis energética de la IA, “hay que repensar todo el espectro, desde los electrones hasta los algoritmos”, afirma el profesor de física.
Javier Marías es colaborador en El Demócrata, donde cubre temas de actualidad, política, negocios, tecnología, deportes, entretenimiento y estilo de vida. Su trabajo se centra en ofrecer información clara, útil y bien contextualizada, acercando a los lectores noticias, tendencias y acontecimientos relevantes para comprender mejor el mundo que los rodea.