Pangram amplía sus herramientas de detección de IA a imágenes y vídeo

Pangram anunció el 4 de noviembre que sus herramientas de detección de IA abarcan ahora imágenes y vídeo. El lanzamiento gira en torno a Pangram Image 1.0, un modelo que hasta ahora se ofrecía como versión de investigación, y a un modelo complementario más ligero pensado para vídeo.

Dos modelos y varias vías de acceso

Según el anuncio de Pangram, Image 1.0 es su detector de imágenes principal. Además de un veredicto, genera un mapa de calor que señala dónde aparece contenido creado por IA dentro de la imagen. Pangram Image Flash 1.0, más pequeño y rápido, se usa para vídeo: analiza cada clip fotograma a fotograma y, según Engadget, puede diferenciar un vídeo retocado en parte con IA de otro generado por completo.

La detección de imágenes ya está integrada en la extensión de Chrome de Pangram, que examina automáticamente las imágenes mientras se navega por redes sociales, tiendas en línea o anuncios de alquiler. Los suscriptores también pueden subir imágenes y vídeos a la aplicación web, y la API se ha actualizado para admitir ambos formatos. Engadget indica que las cuentas gratuitas pueden comprobar unas pocas imágenes. En la página de precios, el plan Individual cuesta 20 dólares al mes e incluye 100 análisis de imágenes; el vídeo no aparece mencionado.

Qué dicen las cifras

Todos los resultados proceden de Pangram. Para las imágenes, la empresa creó 1.200 réplicas sintéticas de 100 fotos reales con 12 generadores punteros que no identifica, y afirma haber logrado un 99,96 % de precisión en ese conjunto. Engadget recoge pruebas internas en las que el modelo detectó más del 99 % de las imágenes generadas con un 0,27 % de falsos positivos. En vídeo, Pangram asegura que Flash obtuvo un 98,7 % en la prueba DF26, 29 puntos por encima del mejor detector de su comparación. Los resultados en otras pruebas académicas solo se muestran en gráficos.

Límites conocidos

La propia Pangram reconoce algunos puntos débiles. Las imágenes deben medir al menos 256 por 256 píxeles, y por debajo de 512 el resultado incluye un aviso de confianza reducida. En una demostración en Pinterest, Engadget vio cómo dos imágenes claramente sintéticas recibían un resultado de "inseguro". La empresa también contó al medio que las primeras versiones confundían fotos de iPhone con creaciones de IA, porque las cámaras de los móviles aplican su propio procesado. Su consejero delegado, Max Spero, explicó que tuvieron que hacer el modelo resistente a ese posprocesado, y el lanzamiento se retrasó para probarlo en iPhone recientes. Engadget advierte que, como ocurre con otros detectores de imágenes de IA, los resultados tienen salvedades.