Noticias

Microsoft lanza una herramienta de reconocimiento facial de inteligencia artificial que reconoce las emociones

Microsoft Corp anunció El martes, planea eliminar la llamada herramienta de «reconocimiento de emociones» basada en inteligencia artificial de sus servicios de reconocimiento facial Azure Face citando preocupaciones de privacidad.

Estas herramientas de «reconocimiento de emociones» han sido muy criticadas por los expertos, ya que las expresiones faciales y las emociones varían según el país y la raza, por lo que no es apropiado equiparar las manifestaciones externas de emoción con los sentimientos internos. .

Según los informes, el gigante de Redmond está revisando los sistemas de reconocimiento de emociones del año pasado para verificar si tienen raíces científicas. Con ese fin, colaboró ​​con investigadores internos y externos para comprender las limitaciones y los beneficios potenciales de esta tecnología y hacer las compensaciones.

«Específicamente en el caso de la clasificación de emociones, estos esfuerzos han planteado preguntas importantes con respecto a la privacidad, la falta de acuerdo sobre la definición de ‘emoción’ y la incapacidad de generalizar el vínculo entre la expresión facial y el estado emocional en los casos de uso, las regiones y demografía ”, Sarah Bird, Gerente de Producto Principal del Grupo en la unidad Azure AI de Microsoft, dijo en una entrada de blog.

«El acceso de API a capacidades que predicen características sensibles abre una amplia gama de formas en que pueden ser objeto de abuso, incluido someter a las personas a estereotipos, discriminación o denegación injusta de servicios».

Para mitigar estos riesgos, Microsoft ha decidido no admitir un sistema multipropósito en Face API que pretende extraer el estado emocional, el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje.

A partir del 21 de junio de 2022, la detección de esos atributos ya no está disponible para nuevos clientes. Tendrán que solicitar acceso para usar operaciones de reconocimiento facial en Azure Face API, Computer Vision y Video Indexer.

Por otro lado, los clientes actuales tienen hasta el 30 de junio de 2023 para dejar de utilizar las herramientas de reconocimiento emocional antes de jubilarse. Además, tienen un año para solicitar y recibir aprobación para el acceso continuo a los servicios de reconocimiento facial en función de los casos de uso proporcionados.

Sin embargo, las capacidades de detección de rostros (que incluyen detección de desenfoque, exposición, anteojos, posición de la cabeza, puntos de referencia, ruido, desenfoque y cuadro delimitador de rostros) generalmente permanecerán disponibles y no requerirán una función.

Al presentar el acceso limitado, la compañía agrega una capa adicional de escrutinio al uso y la implementación del reconocimiento facial para garantizar que el uso de estos servicios esté en línea con el «Estándar de inteligencia artificial responsable de Microsoft», un documento de 27 páginas producido por Microsoft que establece las pautas. para que los sistemas de IA garanticen que no tienen un impacto perjudicial en la sociedad.

Los requisitos incluyen garantizar que los sistemas brinden «soluciones válidas a los problemas que pretenden resolver» y «una calidad de servicio similar para grupos demográficos identificados, incluidos los grupos marginados».

Hasta ahora, Microsoft solo ha pedido a sus clientes que eviten «escenarios que violen la privacidad o donde la tecnología pueda tener problemas», como la identificación de menores, pero no ha prohibido su uso de forma expresa.

La compañía también ha impuesto algunas restricciones a la función ‘Voz neuronal personalizada’, que requerirá que los usuarios presenten una solicitud y expliquen cómo utilizarán esta función.

HackNarrow

Informático de profesión, me dedico a probar nuevas versiones de hardware y verificar la seguridad e integridad de servidores y firewalls. Escribo un poco sobre novedades en la rama de la seguridad informática en general.

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba
error: Content is protected !!