La noticia principal es que Apple está haciendo cambios en la forma en que Siri la revisión de audio, o "calificación", funciona en todos sus dispositivos. Primero, está haciendo que la revisión de audio sea un proceso explícitamente opcional en una próxima actualización de software. Esto será aplicable para todos los usuarios actuales y futuros de Siri.
En segundo lugar, solo los empleados de Apple, no los contratistas, revisarán cualquiera de este audio opcional en un esfuerzo por acercar a los procesos centrales de la compañía cualquier proceso que use datos privados.
Apple ha publicado una publicación en el blog que describe algunos detalles de privacidad de Siri que pueden no haber sido de conocimiento común, como se describió anteriormente en los documentos técnicos de seguridad.
Apple se disculpa por el problema.
“Como resultado de nuestra revisión, nos damos cuenta de que no hemos estado cumpliendo plenamente con nuestros altos ideales, y por eso nos disculpamos. Como anunciamos anteriormente, detuvimos el programa de calificación de Siri. Planeamos reanudar más tarde este otoño cuando se publiquen actualizaciones de software para nuestros usuarios, pero solo después de hacer los siguientes cambios ... "
Luego describe tres cambios que se están realizando en la forma en que funciona la calificación de Siri:
- Primero, por defecto, ya no conservaremos grabaciones de audio de las interacciones de Siri. Continuaremos usando transcripciones generadas por computadora para ayudar a Siri a mejorar.
- En segundo lugar, los usuarios podrán optar por ayudar a Siri a mejorar aprendiendo de las muestras de audio de sus solicitudes. Esperamos que muchas personas elijan ayudar a Siri a mejorar, sabiendo que Apple respeta sus datos y tiene fuertes controles de privacidad. Aquellos que elijan participar podrán optar por no participar en cualquier momento.
- Tercero, cuando los clientes opten por participar, solo los empleados de Apple podrán escuchar muestras de audio de las interacciones de Siri. Nuestro equipo trabajará para eliminar cualquier grabación que se determine que es un desencadenante involuntario de Siri.
Apple no está implementando ninguno de estos cambios, ni está levantando la suspensión del proceso de calificación de Siri que se detuvo, hasta que la actualización de software esté disponible para sus sistemas operativos que permitirán a los usuarios optar. Una vez que las personas actualicen las nuevas versiones de su sistema operativo, tendrán la oportunidad de decir sí al proceso de calificación que utiliza grabaciones de audio para ayudar a verificar las solicitudes que los usuarios hacen de Siri. Esto significa efectivamente que cada usuario de Siri será excluido de este proceso una vez que la actualización se active y se instale.
Apple dice que continuará usando transcripciones escritas anónimas generadas por computadora de su solicitud para alimentar sus motores de aprendizaje automático con datos, de manera similar a otros asistentes de voz. Estas transcripciones pueden estar sujetas a la revisión de los empleados de Apple.
Amazonas y Google tenían revelaciones previas de que sus asistentes estaban siendo ayudados por la revisión humana del audio, y también han comenzado a optar.
Apple también está haciendo cambios en el proceso de calificación en sí mismo, señalando que, por ejemplo, "los nombres de los dispositivos y las habitaciones que configure en la aplicación Home solo serán accesibles para el revisor si la solicitud que se califica involucra el control de dispositivos en el hogar . "
Una historia en The Guardian a principios de agosto describió cómo se enviaron muestras de audio de Siri a los contratistas que Apple había contratado para evaluar la calidad de las respuestas y la transcripción que Siri produjo para que sus motores de aprendizaje automático funcionaran. La práctica no tiene precedentes, pero ciertamente no se dejó tan claro como debería haber estado en las políticas de privacidad de Apple que los humanos estuvieron involucrados en el proceso. También estaba la cuestión de que los contratistas, en lugar de los empleados, estaban siendo utilizados para evaluar estas muestras. Un contratista describió el audio como que contiene información confidencial y privada que, en algunos casos, puede haber sido vinculada a un usuario, incluso con los procesos de anonimato de Apple.
En respuesta, Apple detuvo el proceso de calificación en todo el mundo mientras revisaba el proceso. Esta publicación y las actualizaciones de su proceso son el resultado de esa revisión.
Apple dice que alrededor del 0.2% de todas las solicitudes de Siri obtuvieron este tratamiento de audio en primer lugar, pero dado que hay 15 mil millones de solicitudes por mes, las matemáticas rápidas nos dicen que aunque es estadísticamente insignificante, los números en bruto podrían ser bastante altos.
La retirada de los contratistas fue señalada por Apple despidiendo empleados en Europa, como señaló Alex Hearn el miércoles.
Apple también está publicando un FAQ sobre cómo los controles de privacidad de Siri encajan con su proceso de calificación; puedes leer eso completo aquí .
La publicación de blog de Apple y las Preguntas frecuentes proporcionan algunos detalles a los consumidores sobre cómo Apple maneja el proceso de calificación, cómo minimiza los datos proporcionados a los revisores de datos en el proceso de calificación y cómo se preserva la privacidad de Siri.
El trabajo de Apple con Siri desde el principio se ha centrado enormemente en el procesamiento en el dispositivo siempre que sea posible. Esto ha llevado a muchos expertos a decir que Apple estaba intercambiando capacidad bruta por la privacidad al evitar los procesos pesados de asistentes de empresas como Amazon o Google en el centro de datos a favor de mantener una "nube personal" de datos en el dispositivo. Lamentablemente, la falta de transparencia en los procesos de revisión humana y el uso de contratistas socava todo este trabajo fundamental que Apple ha estado haciendo desde el principio. Por lo tanto, es bueno que Apple esté regresando al estándar pasado de la industria en sus políticas de privacidad con respecto a la calificación y la mejora. Ahí es donde debe estar.
El hecho es que ningún otro producto asistente está tan centrado en la privacidad como Siri; como dije anteriormente, algunos dirían que obstaculizan su capacidad de avanzar tan rápido. Esperemos que este episodio conduzca a una mejor transparencia por parte de Apple cuando los humanos se involucren en procesos que se supone que están completamente automatizados.
La mayoría de las personas asume que "AI" o "aprendizaje automático" solo significan computadoras, pero el triste hecho es que la mayoría de esos procesos están intensamente impulsados por el ser humano porque la IA (que realmente no existe) y el ML siguen siendo una mierda. Los humanos estarán involucrados en hacer que parezcan más inteligentes durante mucho tiempo todavía.
Me encanta ver a la gente darse cuenta de que "AI" es realmente un rey de ratas del tamaño de una persona. https://t.co/Zfx7NzYAO3
- Matthew Panzarino (@panzer) 13 de agosto de 2019
No hay comentarios:
Publicar un comentario