Incitación & Co.
Robert Klatt
Una nueva inteligencia artificial (IA) detectará y denunciará automáticamente los comentarios de odio en Internet, incluidos los insultos y las incitaciones. Esto hará que la lucha contra el cibercrimen sea mucho más eficaz.
Berlín (Alemania). Según un estudio de la Autoridad Estatal de Medios de Comunicación de Renania del Norte-Westfalia, un gran porcentaje de los usuarios de Internet alemanes (76 %) ya ha sido víctima de comentarios de odio, incluidos insultos e incitaciones, en Internet. Aunque muchos de los comentarios, imágenes y vídeos tienen relevancia penal, solo unos pocos comentarios de odio se denuncian ante la policía. Por ello, los investigadores de la Universidad Técnica de Berlín (TU Berlin) están trabajando en una inteligencia artificial (IA) que encuentre automáticamente el contenido correspondiente en Internet.
Los científicos, dirigidos por el criminólogo Robert Pelzer, han entrenado un modelo de IA utilizando conjuntos de datos policiales. El contenido de entrenamiento incluye tanto comentarios legales como insultos e incitaciones prohibidos, de modo que la IA pueda aprender a distinguir entre contenido relevante desde el punto de vista criminal y contenido inofensivo.
Lucha contra el cibercrimen
Según los desarrolladores, la IA puede leer y analizar en cuestión de segundos miles de mensajes de los canales de Telegram del espectro extremista de derecha. Si estos mensajes pudieran tener relevancia criminal, el sistema informa el contenido a la policía para que un humano pueda comprobarlo manualmente.
«Con la ayuda de la herramienta de IA, pudieron hacer una preselección rápida entre decenas de miles de publicaciones y comentarios. Esto permite a los empleados invertir mucho más rápido en la revisión caso por caso de los delitos y en otras medidas para identificar a los sospechosos».
La IA facilita enormemente la lucha contra los delitos informáticos, ya que los agentes de policía solo tienen que comprobar los contenidos preseleccionados que tienen una alta probabilidad de ser relevantes desde el punto de vista delictivo. La revisión penal final sigue siendo realizada exclusivamente por un humano.
Comments