El principal regulador de datos de Amazon en Europa, la Comisión Nacional de Protección de Datos de Luxemburgo, ha planteado preocupaciones de privacidad sobre el uso de revisiones humanas manuales de las grabaciones de asistente de voz de Alexa AI.
Un portavoz del regulador confirmó en un correo electrónico a TechCrunch que está discutiendo el asunto con Amazon, y agregó: "En esta etapa, no podemos comentar más sobre este caso ya que estamos obligados por la obligación de secreto profesional". El desarrollo se informó anteriormente. por Reuters .
Nos hemos comunicado con Amazon para hacer comentarios.
La voz AI de Alexa de Amazon, que está integrada en una amplia gama de hardware, de la marca Echo de la compañía. línea de altavoz inteligente para una variedad de dispositivos de terceros (como este refrigerador hablador o esta lámpara de mesa extraña ): escucha de forma generalizada una palabra activadora que activa una función de grabación, lo que le permite transmitir datos de audio a la nube para su procesamiento y almacenamiento.
Sin embargo, se ha demostrado que las IA de voz activadas por palabra activa son propensas a la activación accidental. Se puede utilizar un dispositivo en un hogar con varias personas, por lo que siempre existe el riesgo de que estos dispositivos graben cualquier audio en su vecindad, no solo consultas de voz intencionales ...
Un Google Home Mini en mal estado grabó a un reportero técnico 24/7
En pocas palabras, la incapacidad de la IA para distinguir entre interacciones intencionales y cosas que escuchan significa que son propensas a escuchar a escondidas, de ahí las principales preocupaciones de privacidad.
Estas preocupaciones han sido marcadas por recientes revelaciones de que los gigantes de la tecnología, incluidos Amazon, Apple y Google - utilice trabajadores humanos para revisar manualmente una proporción de fragmentos de audio capturados por sus AI de voz, generalmente con fines de calidad, como para tratar de mejorar el rendimiento del reconocimiento de voz en diferentes acentos o entornos. Pero eso significa que los humanos reales están escuchando lo que podrían ser datos personales altamente sensibles.
A principios de esta semana, Amazon agregó silenciosamente una opción a la configuración de la aplicación de teléfono inteligente Alexa para permitir a los usuarios optar por que sus fragmentos de audio no se agreguen a un grupo que puede ser revisado manualmente por personas que realizan trabajos de control de calidad para Amazon, sin haber informado previamente a Alexa usuarios de su programa de revisión humana.
El cambio de política siguió a la creciente atención sobre la privacidad de los usuarios de AI de voz, especialmente en Europa.
El mes pasado, miles de grabaciones de usuarios del asistente de inteligencia artificial de Google se filtraron a los medios belgas, que pudieron identificar a algunas de las personas en los clips.
Posteriormente, un organismo de control de protección de datos en Alemania ordenó a Google que suspendiera las revisiones manuales de fragmentos de audio .
Google respondió suspendiendo las revisiones humanas en Europa, mientras que su principal organismo de control de datos en Europa, el DPC irlandés, nos dijo que estaba "examinando" el problema.
Por separado, en los últimos días , Apple también ha suspendido las revisiones humanas de fragmentos de Siri, en su caso a nivel mundial, después de que un contratista planteó preocupaciones de privacidad en la prensa del Reino Unido sobre lo que los contratistas de Apple conocen cuando revisan Siri audio.
La agencia de protección de datos de Hamburgo, que intervino para detener las revisiones humanas de fragmentos de Google Assistant, instó a sus compañeros de vigilancia de la privacidad de la UE a priorizar las verificaciones en otros proveedores de sistemas de asistencia lingüística e "implementar medidas apropiadas", nombrando a Apple y Amazon .
En el caso de Amazon, el escrutinio de los perros guardianes europeos parece ser rápido.
En el momento de escribir este artículo, es el único de los tres gigantes tecnológicos que no ha suspendido las revisiones humanas de fragmentos de AI de voz, ya sea regional o globalmente.
En una declaración proporcionada a la prensa en el momento en que cambió la configuración de Alexa para ofrecer a los usuarios una opción de exclusión de la posibilidad de que su audio sea revisado manualmente, Amazon dijo:
Nos tomamos en serio la privacidad del cliente y revisamos continuamente nuestras prácticas y procedimientos. Para Alexa, ya ofrecemos a los clientes la posibilidad de optar por que sus grabaciones de voz no se usen para ayudar a desarrollar nuevas funciones de Alexa. Las grabaciones de voz de los clientes que usan esta opción de exclusión también están excluidas de nuestros flujos de trabajo de aprendizaje supervisado que implican la revisión manual de una muestra extremadamente pequeña de solicitudes de Alexa. También actualizaremos la información que proporcionamos a los clientes para que nuestras prácticas sean más claras.
No hay comentarios:
Publicar un comentario