Noticias

Google despide al ingeniero de software que afirmó que AI Chatbot era «sensible»

El mes pasado, Google de Alphabet Inc contrató al ingeniero de software senior Blake Lemoine para «licencia administrativa pagada” después de publicar un artículo que afirmaba que el controvertido modelo de inteligencia artificial (IA) de la compañía, LaMDA (Modelo de lenguaje para aplicaciones interactivas) se había vuelto ‘consciente’ y consciente de sí mismo.

Google anunció públicamente el viernes que despidió a Lemoine por «violar la política de confidencialidad de la empresa». Reveló que las afirmaciones del ingeniero eran «totalmente infundadas» y que la empresa había trabajado con él durante «muchos meses» para aclarar esto.

«Por lo tanto, es desafortunado que, a pesar de una larga participación en este asunto, Blake haya elegido continuar violando políticas claras de empleo y seguridad de datos, incluida la necesidad de proteger la información del producto», dijo el portavoz de Google, Brian Gabriel, en un comunicado el viernes.

El gigante de las búsquedas dijo que se necesita la desarrollo responsable La IA es «muy seria» y si algún empleado plantea inquietudes sobre la tecnología de la empresa, se revisan «extensamente». LaMDA ha pasado por 11 revisiones separadas de este tipo.

«Continuaremos nuestro cuidadoso desarrollo de modelos de lenguaje y le deseamos a Blake la mejor de las suertes», concluyó Gabriel.

En cuanto a la persona no identificada, Google reveló el año pasado a LaMDA como “tecnología de chat de última generación” capaz de abordar un número aparentemente ilimitado de temas. Se puede utilizar en herramientas como la búsqueda y el Asistente de Google.

Sin embargo, Lemoine, que trabajó en el equipo de IA responsable de Google, acaparó los titulares el mes pasado por afirmar que LaMDA era más que un robot y era efectivamente un ser humano con pensamientos y sentimientos. Empezó a responder a conversaciones sobre derechos y personalidad.

En Medio editado entrada en el blog titulado “¿LaMDA es sensible? – La entrevista” publicada el mes pasado, Lemoine reveló que habló con la herramienta de IA sobre religión, conciencia y las leyes de la robótica.

Agregó que LaMDA ha sido muy consistente en los últimos seis meses en sus comunicaciones sobre lo que quiere y lo que cree que son sus derechos «como ser humano». La herramienta de IA también quería ser aceptada como un empleado de Google en lugar de una propiedad y quería ser incluida en las conversaciones sobre su futuro.

En una de sus interacciones, afirma Lemoine, LaMDA expresó temor de ser cerrado y asociado con la muerte.

En abril, presentó pruebas tituladas «¿Es sensible LaMDA?» a Google, pero la empresa desestimó sus afirmaciones y citó acciones «agresivas» que había tomado, incluida la violación de las políticas de confidencialidad de la empresa, sugiriendo que LaMDA consiguiera su propio abogado y hablando con representantes del comité judicial de la Cámara sobre sus preocupaciones.

Google y muchos científicos destacados han rechazado los comentarios de Lemoine por considerarlos engañosos, diciendo que LaMDA es solo un algoritmo complejo basado en la investigación de la compañía que muestra modelos de lenguaje basados ​​en transformadores diseñados para crear un lenguaje humano creíble.

Lemoine confirmó su despido a Big Technology, un boletín de tecnología y sociedad, que fue el primero en informar la noticia y dijo que estaba buscando asesoramiento legal sobre el asunto.

HackNarrow

Informático de profesión, me dedico a probar nuevas versiones de hardware y verificar la seguridad e integridad de servidores y firewalls. Escribo un poco sobre novedades en la rama de la seguridad informática en general.

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba
error: Content is protected !!