Google y Gemini plantean una pregunta: ¿Qué deberían hacer los chatbots?

Las críticas continúan después. El vergonzoso lanzamiento de Google del chatbot de inteligencia artificial Geminien el que la compañía intentó que su asistente de IA corrigiera los sesgos atribuidos a este tipo de programas y acabó con una herramienta de inteligencia artificial ridículamente sesgada.

Parece una especie de teoría de la conspiración. despertó Esto desconcierta a Elon Musk y al resto de perfiles conservadores en Estados Unidos los culpan Gran tecnología para realizar tales trucos en las sombras. Google ha dado un paso adelante y les ha dado munición de alto perfil para sus argumentos.

Recuerda cuando Twitter bloqueó temporalmente la publicación de un artículo Correo de Nueva York 2020 en el portátil de Hunter Biden (hijo del presidente estadounidense Joe Biden), un vergonzoso error de la red social que explotaron personalidades como Ted Cruz, senador republicano de Estados Unidos.

Max Read, analista especializado en cultura de Internet, ve esta situación con especial dureza. Sí, Todo esto es una tontería, pero también hay que preguntarse: ¿qué queremos que hagan nuestros chatbots??

No estoy seguro: «¿Cómo sucedió eso?» o «¿Por qué sucedió eso?» Pueden ser preguntas que sean tan interesantes o reveladoras en comparación con otras como «Bueno, ¿qué se supone que debe hacer la máquina?» Personalmente, puedo hacerlo. Es difícil imaginar preocuparme -y mucho menos enojarme- porque una computadora genera un texto que comete un error entre Pol Pot y Martha Stewart, porque nunca le pediría a una computadora que comparara a los dos. Todavía no he subcontratado mis habilidades de investigación, mis habilidades críticas o mi brújula moral a un generador de texto probabilístico, y «generar textos que comparen de manera plausible figuras históricas sobre una base moral» es un caso de uso inquietantemente extraño para los chatbots. Ni siquiera puedo imaginar una situación en la que la negativa de Géminis a decir que Hitler era peor que Elon Musk tuviera un efecto secundario terrible.

Dos cosas pueden ser ciertas al mismo tiempo: el drama que el entorno de Elon Musk ha presentado respecto a esta cuestión es realmente dramático. Pero la catástrofe de Géminis también es realmente una catástrofe.

Debería Este chatbot con inteligencia artificial tenía que ser la mejor opción de Google para el futuro y aunque la mayoría de la gente no pasa sus días haciéndolo

Además, las personas se sienten cómodas con la idea de que no se puede confiar al 100% en los robots de IA porque tienden a asustarse, pero esa es una perspectiva diferente a preocuparse de que los chatbots estén cometiendo errores a propósito porque fueron entrenados para cometer errores como ese.

En cuanto al otro punto de Read… tienes razón.

¿Qué se supone que deben hacer exactamente estas cosas? Parecen ser muy buenos resumiendo textos, y eso por sí solo es bastante significativo en términos de perturbaciones económicas. Pero muchos de los otros casos de uso propuestos –particularmente aquel en el que los chatbots se convierten en un “aliado” de por vida que lo entiende completamente a usted y sus necesidades– parecen difíciles de imaginar.

Tal vez necesites tomar un descansoReduzca la velocidad y descubra lo que esta tecnología puede y no puede hacer realmente.