Los investigadores advierten sobre la “extinción de la humanidad” a través de la IA

Ciberataques y demás.

23 de mayo de 2024 15:11 Robert Klatt

Los científicos advierten de una inminente pérdida de control sobre la inteligencia artificial (IA), que en el peor de los casos podría acabar con la humanidad.

Seúl (Corea del Sur). Un estudio, en el que también participaron científicos de alto nivel de Google Deepmind, concluyó en 2022 que es probable que la inteligencia artificial (IA) acabe con la humanidad. A una conclusión similar llegaron los principales científicos y representantes empresariales que firmaron una declaración del Centro para la Seguridad de la IA (CAIS) en 2023. Ahora, los principales científicos, incluidos Google, Meta y Microsoft, han vuelto a advertir sobre los peligros de la IA en la IA. ​​Cumbre en Seúl.

«Sin suficiente precaución, podríamos perder irreversiblemente el control de los sistemas autónomos de IA».

Según su publicación en la revista Science, los riesgos de la IA autónoma incluyen la manipulación socialpor ejemplo, a través de información errónea dirigida, la permanente vigilancia de todas las personas, Ataques ciberneticos en infraestructura crítica (CRÍTICA) e incluso el completo Extinción de todas las personas.

Peligro de la IA autónoma

Los científicos, entre ellos Geoffrey Hinton, Andrew Yao y Dawn Song, consideran que los sistemas autónomos de IA son particularmente peligrosos. Según ellos, podría suceder que estos sistemas informáticos los utilicen para lograr sus objetivos individuales y actuar en contra de los intereses de las personas.

«Una vez que los sistemas autónomos de IA persigan objetivos indeseables, es posible que ya no podamos mantenerlos bajo control».

Según los autores, incluso las IA desarrolladas con buenas intenciones pueden tener efectos secundarios tan indeseables. Esto lo confirmó recientemente un estudio del Instituto Tecnológico de Massachusetts (MIT), que encontró que las IA existentes pueden engañar y estafar a las personas.

Yann LeCun, jefe de investigación de IA en el grupo Meta de Facebook, todavía no ve ningún peligro real de la IA. Según él, pasarán muchos años antes de que las IA tengan suficiente inteligencia para representar una amenaza para los humanos. Sam Altman, director de la empresa OpenAI, explica que ante la situación, la empresa apuesta por invertir más en la seguridad de sus productos.

Ciencia, doi: 10.1126/science.adn0117