Tecnología

La inteligencia artificial combate el discurso de odio en Internet

0


Incitación & Co.

Robert Klatt

Una nueva inteligencia artificial (IA) detectará y denunciará automáticamente los comentarios de odio en Internet, incluidos los insultos y las incitaciones. Esto hará que la lucha contra el cibercrimen sea mucho más eficaz.


Berlín (Alemania). Según un estudio de la Autoridad Estatal de Medios de Comunicación de Renania del Norte-Westfalia, un gran porcentaje de los usuarios de Internet alemanes (76 %) ya ha sido víctima de comentarios de odio, incluidos insultos e incitaciones, en Internet. Aunque muchos de los comentarios, imágenes y vídeos tienen relevancia penal, solo unos pocos comentarios de odio se denuncian ante la policía. Por ello, los investigadores de la Universidad Técnica de Berlín (TU Berlin) están trabajando en una inteligencia artificial (IA) que encuentre automáticamente el contenido correspondiente en Internet.


Los científicos, dirigidos por el criminólogo Robert Pelzer, han entrenado un modelo de IA utilizando conjuntos de datos policiales. El contenido de entrenamiento incluye tanto comentarios legales como insultos e incitaciones prohibidos, de modo que la IA pueda aprender a distinguir entre contenido relevante desde el punto de vista criminal y contenido inofensivo.


Lucha contra el cibercrimen

Según los desarrolladores, la IA puede leer y analizar en cuestión de segundos miles de mensajes de los canales de Telegram del espectro extremista de derecha. Si estos mensajes pudieran tener relevancia criminal, el sistema informa el contenido a la policía para que un humano pueda comprobarlo manualmente.

«Con la ayuda de la herramienta de IA, pudieron hacer una preselección rápida entre decenas de miles de publicaciones y comentarios. Esto permite a los empleados invertir mucho más rápido en la revisión caso por caso de los delitos y en otras medidas para identificar a los sospechosos».


La IA facilita enormemente la lucha contra los delitos informáticos, ya que los agentes de policía solo tienen que comprobar los contenidos preseleccionados que tienen una alta probabilidad de ser relevantes desde el punto de vista delictivo. La revisión penal final sigue siendo realizada exclusivamente por un humano.




Los madrileños confiaron en la Fundación Jiménez Díaz con 70.000 solicitudes de elección libre

Previous article

Vecinos de Usera y Villaverde se manifiestan contra el crematorio de la M-40

Next article

You may also like

Comments

Leave a reply

More in Tecnología