By 
Así lo anunció el cofundador de OpenAI, John Schulman la era de la inteligencia artificial generalla IA, que tendrá una capacidad intelectual similar, si no superior, a la de un humano, Caídas. De hecho, la AGI, como se conoce a esta tecnología por sus siglas, podría estar a sólo unos años de distancia.
En una entrevista para el podcast de Dwarkesh Patel, Schulman predijo esto La inteligencia artificial general podría llegar en “dos o tres años”. Y añadió que si esto sucede, las empresas tecnológicas deben estar dispuestas a cooperar para garantizar que esta tecnología se desarrolle de forma segura.
“Para que esto funcione, En eso todos tienen que estar de acuerdo [establecer] límites razonables para un mayor desarrollo o formación continua. De lo contrario, se crea una dinámica competitiva en la que todos intentan salir adelante… y eso puede llevar a que la seguridad se vea comprometida”, dijo el cofundador de OpenAI.
Respecto al proceso de recopilación de grandes cantidades de información que emprenden los desarrolladores de IA para entrenar sus grandes modelos de lenguaje (LLM), Schulman también señaló que tiene que haber «cierta coordinación entre las personas más grandes que desarrollan este tipo». de entrenamiento.
La inteligencia artificial general es un término algo controvertido, pero generalmente se entiende como sistemas de IA capaces de desarrollar habilidades humanas complejas como el sentido común o el pensamiento lógico.
Los expertos llevan tiempo advirtiendo sobre esto Esta inteligencia artificial avanzada podría facilitar la aparición de varias amenazas existenciales para la humanidad, incluido el riesgo de que la IA tome el control o de que los humanos queden obsoletos en su profesión.
Mientras tanto, las principales empresas tecnológicas se apresuran a desarrollar esta tecnología futurista. OpenAI, donde todavía trabaja Schulman, es una de las empresas que lidera la carrera para desarrollar un modelo general de inteligencia artificial.
El cofundador del desarrollador ChatGPT comentó en el podcast de Patel:Si AGI llegara mucho antes de lo esperado, seguramente querríamos manejarlo con cautela.«Quizás querríamos ralentizar un poco el entrenamiento y el despliegue hasta que estemos bastante seguros de que podemos manejarlo de forma segura», aclaró.
Schulman añadió que las empresas deberían estar preparadas para «interrumpir la formación o los despliegues o evitar ciertos tipos de formación que consideramos más riesgosos». «Sólo hay que establecer algunas reglas sensatas sobre lo que todos deben hacer para que todos limiten un poco estas cosas», dijo.
Algunos expertos de la industria ya han pedido una moratoria sobre el desarrollo de la IA después de que OpenAI lanzara GPT-4, su anterior modelo de inteligencia artificial.
En marzo del año pasado Líderes tecnológicos como Elon Musk se unieron a un grupo de expertos que firmaron una carta abierta en el que expresaron su preocupación por el desarrollo de la IA. Los firmantes de la carta pidieron una pausa de seis meses en el entrenamiento de sistemas de inteligencia artificial más potentes que GPT-4.
OpenAI no respondió a una solicitud de comentarios Business Insiderrealizados fuera del horario normal de trabajo.
La semana pasada, un portavoz del desarrollador de ChatGPT, Kayla Wood, dijo al El Correo de Washington El Schulman ha tomado la iniciativa en los esfuerzos de investigación de seguridad de OpenAI. Un cambio que se produjo después de que Jan Leike, líder del equipo de Gran alineación El fundador de la startup renunció la semana pasada y luego acusó a la compañía de priorizar los «productos brillantes» sobre la seguridad.
Desde entonces, El equipo de seguridad de OpenAI se disolvió tras varias salidas de sus miembros, incluido el científico jefe desarrollador de ChatGPT, Ilya Sutskever. Un portavoz de la empresa dijo esto la semana pasada. La información que el resto del departamento ahora formaba parte del equipo central de investigación de OpenAI.
Las declaraciones del cofundador de OpenAI se producen en medio de movimientos de protesta que piden una pausa en el entrenamiento de modelos de IA. Colectivos como Pause AI temen que el desarrollo de modelos de inteligencia artificial superinteligentes por parte de empresas como OpenAI pueda plantear riesgos existenciales para la humanidad.
Algunos miembros del colectivo Pause AI se manifestaron frente a la sede de OpenAI la semana pasada cuando la startup anunció su nuevo modelo de IA GPT-4o.
Comments