Ex empleado de OpenAI admite por qué lo despidieron: 'Tengo algunas ampollas'

William Saunders, ex empleado de OpenAI que dimitió el pasado mes de febrero, ofreció su versión Business Insider sobre lo que le llevó a dimitir y posteriormente a firmar una carta abierta pidiendo un cambio de mentalidad en las empresas de inteligencia artificial.

Saunders Las preocupaciones que planteó mientras trabajaba en OpenAI «no fueron abordadas adecuadamente». Ahora pide cambios que permitan a los trabajadores abordar estos problemas dentro de sus organizaciones sin temor a represalias.

Saunders cree que los modelos de IA que están desarrollando empresas como OpenAI podrían tener consecuencias catastróficas en el futuro: «Probablemente estoy más preocupado por cosas que podrían conducir a una catástrofe a gran escala o que algo salga realmente mal», señalan. .”Madre, como la posible extinción de la humanidad”.

En su opinión, Cuando los sistemas de inteligencia artificial se vuelven más inteligentes que los humanos, surgen muchas preguntas. sobre el posible impacto que tendrá esta tecnología en la sociedad.

Especialmente si «estos sistemas pueden mejorarse y crear una nueva generación aún más inteligente», afirmó el ex empleado de OpenAI. «Existe la posibilidad de que los sistemas puedan usarse como asistentes muy inteligentes que conducirían a la construcción de cosas como armas nucleares, biológicas o químicas si se hace eso». Escapar de la prisión«.

Saunders ha argumentado que si las empresas intentan, lenta y cuidadosamente, predecir los peligros y abordarlos antes y después del despliegue, existe una “buena posibilidad” de mitigar el riesgo.

Sin embargo, en este contexto agregó: «No considero responsable el comportamiento de OpenAI». a la hora de abordar esos conflictos».

Saunders, que trabajó en OpenAI durante unos tres años, es uno de los 13 firmantes de una carta publicada este martes en la que se piden medidas para responsabilizar a las empresas del sector de la IA.

Este ex empleado desarrollador de ChatGPT ha explicado que se produjo un incidente que implicó el despido de un empleado que planteaba preocupaciones sobre la seguridad, sumado al hecho de que OpenAI exigía acuerdos «extraordinarios» a los empleados que abandonaban la startup («Acuerdos de No Divulgación» (NDA)) . han dado lugar a la creación de los cuatro puntos establecidos en la carta.

Leopold Aschenbrenner, que trabajó en el equipo Gran alineación El jefe de la empresa de IA explicó los motivos de su despido en una entrevista para el podcast de Dwarkesh Patel esta semana. Esta información vino después. La información publicó en abril que Aschenbrenner había sido despedido por filtración de información.

“Terriblemente inadecuado”

Según este ex empleado, el desarrollador de ChatGPT les dijo a sus empleados que fue despedido por compartir un documento que contenía ideas sobre seguridad con investigadores externos, pero Aschenbrenner asegura que Su despido también estuvo relacionado con el hecho de que había informado a la junta directiva de OpenAI. que había recibido una advertencia de recursos humanos después de compartir una declaración de seguridad con sus superiores.

Esta declaración se refería a la seguridad de la tecnología de la empresa, que según Aschenbrenner era «sorprendentemente inadecuada».

Por su parte, Saunders ha explicado a este medio que él también ha expresado su preocupación por esto, pero que La respuesta de OpenAI fue “no apropiada”.

Este investigador e ingeniero dirigió un equipo de cuatro personas que trabajaban en interpretabilidad y modelos de lenguaje. Después de su renuncia, dijo que le dieron siete días para firmar un acuerdo de confidencialidad y le disuadieron de querer hablar primero con un abogado.

“Minimizar y restar importancia”

Según un informe publicado en vozSam Altman, director ejecutivo de OpenAI, argumentó que su empresa no privaría a los empleados que renunciaron de sus derechos adquiridos sobre las acciones del desarrollador ChatGPT si no firmaban estos acuerdos (como había sucedido antes).

Saunders señaló que la respuesta de Altman representó un «microcosmos» de la forma en que el CEO y la gerencia de OpenAI hablan en público para «restar importancia y restar importancia a la gravedad de lo que está sucediendo».

Este ex trabajador lo afirma OpenAI aún no ha aclarado si impedirá que los ex empleados que han criticado a la empresa vendan sus acciones..

Después de que surgieron informes sobre acuerdos de confidencialidad y varios de los empleados de la startup renunciaron por cuestiones relacionadas con su enfoque de la seguridad de la IA, la compañía anunció la semana pasada que había formado un nuevo comité de seguridad y protección.

Business Insider Intenté contactar con OpenAI pero aún no he recibido respuesta.