El medio VTR reveló en exclusiva que empleados contratados por medio de Google escuchan lo que (al menos) dos de sus productos de inteligencia artificial (AI, por sus siglas en inglés), Google Home y Google Assistant, captan y graban en todo momento.
Esos audios/sonidos se registran sin siquiera decir el famoso comando “Ok, Google” con el cual se debería activar el funcionamiento de ellos.
David Monsees, gerente de producto de búsqueda de Google, publicó una entrada en el blog de su empresa explicando y justificando las escuchas.
Con respecto a ello, el ejecutivo indica lo siguiente:
Ésta es una parte crítica del proceso de creación de tecnología del habla, y es necesaria para crear productos como Google Assistant. Acabamos de enterarnos de que uno de estos revisores de idiomas ha violado nuestras políticas de seguridad de datos al filtrar datos de audio holandeses confidenciales. Nuestros equipos de Seguridad y Respuesta de Privacidad han sido activados en este tema, están investigando y tomaremos medidas. Estamos llevando a cabo una revisión completa de nuestros dispositivos de seguridad en este espacio para evitar que vuelva a ocurrir una conducta indebida como ésta.
También señala que solamente el 0,2 por ciento de los fragmentos capturados de audio son revisados y transcritos. “Los fragmentos de audio no se asocian con las cuentas de usuario como parte del proceso de revisión, y los revisores están dirigidos a no transcribir conversaciones de fondo u otros ruidos, y sólo a transcribir fragmentos de código destinados a Google”, aclara Monsees.
Lo que Google realiza es sustituir los nombres de los dispositivos de las personas por números de identificación antes de enviar lo grabado a los subcontratistas, cosa de así hacer anónimos esos audios.
Asimismo, agrega que la revisión de las grabaciones se da para ayudar a que su software funcione en varios idiomas.
Monsees termina su publicación señalando la posibilidad de revisar y hasta eliminar los datos recabados:
Puedes desactivar por completo el almacenamiento de datos de audio en tu cuenta de Google, o elegir eliminar automáticamente los datos cada 3 meses o 18 meses. Siempre estamos trabajando para mejorar la forma en que explicamos nuestra configuración y prácticas de privacidad a las personas, y revisaremos las oportunidades para aclarar cómo se utilizan los datos para mejorar la tecnología del habla. Visita tu cuenta para revisar o cambiar tu configuración, y mira (y, si eliges, elimina) toda la actividad que está almacenada en tu cuenta.
Por otro lado, es cuanto menos llamativo que un empleado haya sido quien filtró cierta cantidad de audios a VTR cuando Google intenta relucir desde hace tiempo su compromiso con la privacidad y los datos de las personas.
En teoría, identificaron cerca de 150 grabaciones de Google Assistant de un total de 1.000 fragmentos proporcionados.
Este trabajador comentó que fue capaz de reconstruir acontecimientos sensibles dentro de las casas de las familias, como una posible amenaza de violencia física capturada por una aceptación falsa cuando el usuario escuchó una voz femenina que sonaba como si estuviera en peligro.
Fuente: The Verge
