Decideo: Noticias sobre Inteligencia de Negocios, Big Data, Data Science, Data Mining


Opiniones de expertos

Asistentes personales: de la denuncia a la omisión de denuncia de crímenes


, el 18 Marzo 2019 | Leído 323 veces

En un tweet destacado de esta semana, Michel Levy Provençal se planteaba la cuestión de la « denuncia de crímenes potenciales » por parte de asistentes personales que instalamos en nuestra sala, nuestro cuarto, o que llevamos en nuestro teléfono.



Asistentes personales: de la denuncia a la omisión de denuncia de crímenes
Al escoger instalar uno de estos asistentes en nuestra casa o en nuestra oficina, aceptamos que un micrófono escuche en permanencia lo que pasa en la habitación y que haya datos que sean recolectados. Es el principio de funcionamiento del asistente, el cual debe escuchar para comprender cuando le hablamos y ejecutar los comandos que recibe.
Estos asistentes, Google Home, Amazon Alexa, Apple iHome, pero también los Siri y Google Assistant de nuestros teléfonos, escuchan permanentemente. ¿Qué oyen? ¿Qué buscan comprender?
Por supuesto, buscan prioritariamente comprender si nos dirigimos a ellos. Pero «escuchan» muchas otras cosas. ¿Son capaces de comprender? ¡Sin lugar a duda! Ya que en los ejemplos citados por Michel Levy Provençal, las palabras, ruidos, o de manera más general, las curvas sonoras, pueden ser muy características.

Tomemos algunos ejemplos: casos de accidentes domésticos para comenzar, detección de caída, silbido anormal y riesgo de explosión de una olla a presión, ruido producido por fuego (sí, el fuego produce un ruido perfectamente detectable), etc. Son numerosos los casos en los que la escucha del asistente personal, luego el análisis de los ruidos captados, permitiría comprender una situación, poner en marcha una acción, prevenir a un vecino o al vigilante del edificio. ¡Sólo vemos beneficios!
Otro ejemplo, una llamada de auxilio. Vengo de tener una caída en mi apartamento, no puedo alcanzar mi teléfono, pero puedo hablarle a mi asistente y pedirle llamar a los bomberos. El asistente puede incluso, en caso de que yo no tenga la mente clara, interpretar unas pocas palabras para poner en marcha a los servicios de socorro. Por ejemplo, si no tengo el reflejo de comenzar por la frase mágica «OK Google», Google Home podría de todas formas brindarme asistencia.

Abordemos ahora el caso en el que el asistente personal escucha y entiende algo que no le está destinado… y Michel Levy Provençal cita los casos de violencia conyugal, consumo de drogas, comportamientos adictivos, adulterio… ¿En cuáles casos aceptaríamos que el asistente personal tome alguna iniciativa?
Violencia conyugal: ¿quién osaría a decir que un asistente personal que comprenda que ocurre algo anormal no debería prevenir a la policía? Todo el mundo estará de acuerdo en validar este escenario. ¡Agreguemos a este escenario la agresión, el incesto o la pedofilia!
Consumo de drogas: si se trata del caso de un consumo o tráfico de sustancias prohibidas por la ley ¿en ese caso también debería el asistente personal participar en la aplicación de la ley?
Adulterio… ¡Ya no es ilegal en la mayoría de los países! Pero… ¿podría programar mi asistente personal para que vigile eventualmente este tipo de comportamiento durante mi ausencia?

Qué hay de la vida privada, qué hay de la protección del domicilio, domicilio que sin embargo también es el mío… tema complicado.
Pero si yo puedo programarlo, ¿podemos entonces imaginar que sea programable desde el exterior?
¿Un gobierno podría programar la vigilancia de los planes de ciertos opositores? Por supuesto que no queremos esto, simplemente estamos considerando esta opción.

¿Cómo proceder? ¿Quién decidera?
¿Debemos aceptar no detectar la violencia conyugal, o la sobredosis en un adolescente, para preservar nuestra libertad de pensamiento? ¿El deceso de una mujer, de un hombre o de un niño vale menos que la libertad de pensar de manera contraria al gobierno?
La pregunta debe entonces formularse: ¿el asistente personal puede o debe denunciar ciertos comportamientos? Si la respuesta es sí, ¿quién elabora la lista de cuáles son estos comportamientos?

De la denuncia a la omisión de denuncia
Y si vamos más lejos, imaginemos que se presenta la prueba de que su asistente personal es capaz de escuchar y comprender una situación. Imaginemos que el asistente no haya reaccionado, que no haya alertado a los servicios de socorro o denunciado esta situación de violencia conyugal o de agresión, por ejemplo. Imaginemos que, desafortunadamente, una persona haya fallecido o haya sido herida. ¿No podemos imaginar que se culpabilice al asistente personal, o más bien a sus desarrolladores (Amazon, Google, Apple…) por la omisión de denuncia del crimen o por la omisión en la asistencia a personas en peligro?

¿En cuál dirección piensa usted que deberíamos ir? ¿Y con cuáles límites?




Nuevo comentario:
Twitter

Usted puede comentar o proporcionar más información a todos los artículos de este sitio. Los comentarios son libres y abiertos a todos. Sin embargo, nos reservamos el derecho a eliminar, sin previo aviso ni explicación, todo comentario que no cumpla con nuestras normas internas de funcionamiento, es decir, cualquier comentario difamatorio o sin relación con el tema del artículo. Así mismo, los comentarios anónimos son eliminados sistemáticamente si son demasiado negativos o muy positivos. Exprese sus opiniones, compártalas con los demás y asúmalas. Gracias de antemano. Igualmente, agradecemos tener en cuenta que los comentarios no sean enviados automáticamente a los redactores de cada artículo. Si usted desea realizar una pregunta al autor de un artículo, contáctelo directamente, no utilice los comentarios.


Twitter
Rss
LinkedIn
Google+
Facebook