Investigadores de inteligencia artificial y robótica preocupados por los sistemas de armas autónomos

03 de noviembre de 2021 15:21 Robert Klatt

En una carta abierta al nuevo gobierno federal, un grupo de científicos alemanes pide la creación de reglas internacionales legalmente vinculantes para el uso de la “autonomía en los sistemas de armas”.

Berlín, Alemania). Según un informe de las Naciones Unidas (ONU), un avión no tripulado militar atacó a personas de forma autónoma por primera vez en 2020. El desarrollo de nuevos sistemas de armas autónomos podría llevar a que tales incidentes ocurran regularmente en el futuro. Los científicos de los campos de la inteligencia artificial (IA) y la robótica ahora han escrito una carta abierta al próximo gobierno federal sobre sus preocupaciones sobre los sistemas de armas autónomos. La carta fue firmada por el presidente de la Sociedad de Ciencias de la Computación, Prof. Dr. Hannes Federrath.

En su carta, los científicos exigen, entre otras cosas, la creación de reglas internacionales legalmente vinculantes para el uso de la “autonomía en los sistemas de armas”. En otros países, incluidos Australia, Bélgica, Canadá, Noruega, los Países Bajos y los EE. UU., Las iniciativas de los directores ejecutivos y miles de académicos ya han presentado demandas similares.

Pérdida del control humano

"Las personas no deben ser atacadas por sistemas autónomos, en particular, la decisión de utilizar armas de destrucción masiva no debe tomarse únicamente mediante algoritmos sin la posibilidad de intervención humana", dice el documento. Si bien los signatarios generalmente creen que la inteligencia artificial y la robótica son buenas para la humanidad, también afirman que la tecnología podría ser mal utilizada. Consideran particularmente problemático que los sistemas de armas autónomos carecen de control humano sobre el uso de la fuerza.

Carrera armamentista en armas autónomas

A los científicos también les preocupa que una próxima carrera armamentista con sistemas de armas autónomos pueda conducir a un ostracismo social de la IA y la robótica. “Así como la mayoría de los químicos y biólogos no están interesados ​​en construir armas químicas o biológicas, nosotros tampoco somos investigadores en los campos de la IA y la robótica interesados ​​en desarrollar armas de alta tecnología. No queremos que nuestro tema caiga en descrédito ”, explican en su carta abierta.

Prohibición de armas autónomas

En su carta abierta, los firmantes exigen que el próximo gobierno asuma una posición de liderazgo en la redacción de un tratado jurídicamente vinculante para la regulación de los sistemas autónomos de armas. En enero de 2020, sin embargo, el Bundestag votó en contra de una moción de la izquierda y los verdes, en la que los partidos exigían que Alemania abogara por una prohibición de la tecnología a nivel de la ONU.