Se dice que la IA de Google con «conciencia» es racista

Chatbot LaMDA

01 de agosto de 2022 18:01 Roberto Klatt

Se dice que el chatbot de Google, LaMDA, ha hecho declaraciones racistas y tiene prejuicios contra las religiones y las minorías.

Mountain View (Estados Unidos). En junio de 2022, el desarrollador de Google Blake Lemoine, quien desde entonces fue despedido, informó que el chatbot LaMDA había desarrollado su propia conciencia y alma. Poco después, la controvertida inteligencia artificial (IA) contrató a un abogado para hacer valer sus derechos e intereses frente a Google. Lemoine ahora también explica a la revista Business Insider que el chatbot LaMDA hace declaraciones racistas y tiene prejuicios contra las minorías.

En el departamento de IA responsable de su exempleado Google, Lemoine era responsable, entre otras cosas, de examinar la IA en busca de posibles prejuicios y discriminación. Para ello, el desarrollador realizó largos diálogos con el chatbot, lo que lo convenció de que la IA estaba consciente.

Chatbot LaMDA hace comentarios racistas

Lemoine solo anunció después de su liberación que el chatbot LaMDA también hizo declaraciones racistas. Como ejemplo del sesgo de la IA, Lemoine cita una conversación sobre religión en la que el chatbot LaMDA explicó que los musulmanes son más violentos que los cristianos.

Además, se dice que la IA imitó a un hombre negro del estado estadounidense de Georgia. Según Lemoine, el chatbot dijo: «Vamos a comprar pollo frito y waffles».

Aspectos éticos en el desarrollo

Como explica Lemoine, las consideraciones éticas casi no han jugado ningún papel en el desarrollo de los sistemas de IA en Google. «Solo son ingenieros que construyen sistemas mejores y más grandes para aumentar los ingresos de Google sin pensar en la ética», explica el ex empleado. Describió el trabajo de Google en el campo de la ética de la IA como una «hoja de parra».