Investigadores de EE. UU. utilizan IA para combatir imágenes de abuso infantil generadas por IA

Las autoridades estadounidenses están utilizando inteligencia artificial (IA) para identificar imágenes de abuso infantil generadas por IA. En los últimos años, la proliferación de IA generativa ha provocado un aumento significativo en la creación de imágenes de abuso sexual infantil. Según un nuevo documento gubernamental, el principal investigador de explotación infantil en EE. UU. está experimentando con herramientas de IA capaces de diferenciar entre imágenes generadas artificialmente y material que representa a víctimas reales.

El Centro de Crímenes Cibernéticos del Departamento de Seguridad Nacional, que investiga la explotación infantil a nivel internacional, ha adjudicado un contrato de 150,000 dólares a Hive AI, con sede en San Francisco, para utilizar su software que puede determinar si un contenido fue generado por IA.

El documento, publicado el 19 de septiembre, está fuertemente redactado. Kevin Guo, cofundador y CEO de Hive AI, declaró a MIT Technology Review que no podía discutir los detalles del contrato, pero confirmó que este involucra el uso de los algoritmos de detección de IA de la empresa para material de abuso sexual infantil (CSAM).