Reddit, una de las plataformas de redes sociales más populares, ha dado un paso adelante en la lucha contra el acoso en línea al introducir un filtro de seguridad impulsado por inteligencia artificial. Esta herramienta, recientemente añadida silenciosamente a la página de soporte de la plataforma, tiene como objetivo detectar publicaciones que contengan acoso u otro contenido objetable.
Utilizando un modelo de lenguaje grande (LLM) entrenado en las acciones de los moderadores y el contenido eliminado por las herramientas internas y los equipos de aplicación de Reddit, la herramienta tiene la intención de apoyar el trabajo de los moderadores de Reddit, quienes son responsables de supervisar las comunidades en línea.
Cuando una comunidad y sus moderadores activan el filtro, aparecerá una nueva bandera en la cola de modificaciones del sitio indicando el contenido (publicaciones y comentarios) marcado como «acoso potencial». Los moderadores pueden luego aprobar o eliminar el contenido e informar a Reddit si se detectó con precisión.
Reddit ha proporcionado instrucciones claras sobre cómo configurar el filtro de acoso:
- Para escritorio, vaya a la pestaña Acerca de la comunidad en la barra lateral derecha y seleccione Herramientas de modificación. Para iOS y Android, haga clic en el botón Mod Tools debajo del banner de su comunidad.
- Vaya a Moderación y haga clic en Seguridad.
- Seleccione la opción de filtro Acoso y actívela.
- Elija entre las opciones de filtro Bajo o Alto. Reddit recomienda utilizar la opción Alta si su comunidad encuentra una «cantidad significativa de contenido acosador».
Aunque Reddit afirma que los administradores seguirán eliminando automáticamente publicaciones que violen directamente la Política de contenido de Reddit, el filtro de acoso brinda a las comunidades supervisión sobre contenido objetable que aún «cumple con la política» y que podría pasar desapercibido.
Este movimiento refleja el compromiso de Reddit con garantizar un entorno en línea más seguro y acogedor para todos sus usuarios, y demuestra el poder de la inteligencia artificial en la detección y mitigación del acoso en internet.
Comentarios