Pangram étend ses outils de détection de l'IA aux images et à la vidéo

Pangram a annoncé le 4 novembre que ses outils de détection de l'IA couvrent désormais les images et la vidéo. Le lancement s'articule autour de Pangram Image 1.0, un modèle jusqu'ici proposé en version de recherche, et d'un modèle complémentaire plus léger destiné à la vidéo.

Deux modèles, plusieurs points d'accès

Selon l'annonce de Pangram, Image 1.0 est son détecteur d'images principal. En plus d'un verdict, il produit une carte de chaleur indiquant où se trouve le contenu généré par IA dans l'image. Pangram Image Flash 1.0, plus petit et plus rapide, sert à la vidéo : il passe un clip en revue image par image et, d'après Engadget, sait distinguer une vidéo en partie retouchée par IA d'une vidéo entièrement générée.

La détection d'images est maintenant intégrée à l'extension Chrome de Pangram, qui analyse automatiquement les visuels pendant que l'on parcourt réseaux sociaux, boutiques en ligne ou annonces de location. Les abonnés peuvent aussi importer images et vidéos dans l'application web, et l'API a été mise à jour pour accepter les deux. Engadget précise que les comptes gratuits peuvent vérifier une poignée d'images. Sur la page des tarifs, l'offre Individual coûte 20 dollars par mois et comprend 100 analyses d'images ; la vidéo n'y est pas mentionnée.

Que valent les chiffres ?

Tous les résultats viennent de Pangram. Pour les images, l'entreprise a produit 1 200 imitations synthétiques de 100 photos réelles à l'aide de 12 générateurs de pointe qu'elle ne nomme pas, et annonce 99,96 % de précision sur cet ensemble. Engadget relaie des tests internes où le modèle a repéré plus de 99 % des images générées, avec un taux de faux positifs de 0,27 %. Pour la vidéo, Pangram affirme que Flash atteint 98,7 % sur le banc d'essai DF26, soit 29 points de plus que le meilleur concurrent de sa comparaison. Les résultats sur d'autres bancs d'essai universitaires ne figurent que sous forme de graphiques.

Des limites connues

Pangram signale elle-même certains points faibles. Les images doivent mesurer au moins 256 pixels de côté, et en dessous de 512 pixels, le résultat s'accompagne d'un avertissement de confiance réduite. Lors d'une démonstration sur Pinterest, Engadget a vu deux images manifestement artificielles obtenir un verdict « incertain ». L'entreprise a aussi expliqué au site que les premières versions prenaient des photos d'iPhone pour des créations d'IA, car les appareils photo des téléphones appliquent leur propre traitement. Selon son PDG, Max Spero, il a fallu rendre le modèle robuste à ce post-traitement, et la sortie a été repoussée pour le tester sur des iPhone récents. Engadget rappelle que, comme pour les autres détecteurs d'images générées par IA, ces résultats sont à prendre avec des réserves.