Dans la startup basée en Chine, Sand AI, a publié une génération de sexe vidéo ouvertement licence qui a suscité des éloges d’entrepreneurs comme le directeur fondateur de Microsoft Research Asia, Kai-Fu Lee. Mais Sand Ai semble censurer des images qui pourraient augmenter la colère des régulateurs chinois de la version hébergée du modèle, selon les tests de TechCrunch.
Plus tôt cette semaine, Sand AI a annoncé Magi-1, un modèle qui génère des vidéos par «autorégressivement» prédisant les séquences de cadres. La société affirme que le modèle peut générer des images contrôlées et contrôlables qui capturent la physique plus accidentellement que les modèles ouverts rivaux.
👀 Vous ne croirez pas que c’est généré par l’AI
🧠 Vous ne croirez pas que c’est open-source
🎬 Vous ne croirez pas que c’est gratuitMAGI-1 Modèle vidéo Just Humiliated Commercial Video Tools
Détails et exemples ci-dessous: 👇 pic.twitter.com/zlxrecweqh
– Farhan (@mhdfaran) 21 avril 2025
MAGI-1 est trop impitable pour s’exécuter sur la plupart des matériels. Il mesure 24 milliards de paramètres de taille et nécessite entre quatre et huit GPU NVIDIA H100 pour fonctionner. (Les paramètres sont les modèles de variables internes utilisés pour faire des prédictions.) Pour de nombreux utilisateurs, ce journaliste inclus la plate-forme de SAND AI est le seul endroit où ils peuvent tester MAGI-1.
La plate-forme Besoin a une image «invite» pour lancer la génération de vidéos. Toutes les tout sont permises, a rapidement découvert TechCrunch. Le sable AI bloque les téléchargements d’images de Xi Jinping, Tiananmen Square et Tank Man, le drapeau taïwanais et Insignias soutenant la libération de Hong Kong. Le filtrage semble se produire au niveau de l’image; Le renommer des fichiers d’image n’a pas jumis le blocage.
Sand AI n’est pas la seule startup chinoise empêchant des téléchargements d’images politiquement sensibles à son outil de génération de vidéos. Hailuo AI, la plate-forme médiatique générative de Minimax basée à Shanghai, bloque également les photos de Xi Jinping. Mais le filtrage de Sand Ai semble particulièrement agressif; Hauiluo permet des images de Tiananmen Square.
Comme l’a expliqué Wired dans un article de janvier, les modèles en Chine sont tenus de suivre les contrôles de l’information Stringer. Une loi de 2023 interdit aux modèles de générer du contenu qui «endommage l’unité du pays et l’harmonie sociale» – c’est-à-dire le récit historique et politique du gouvernement. Pour se conformer, les startups chinoises censurent souvent leurs modèles, soit des filtres de niveau rapide ou des réglages fins.
Fait intéressant, alors que les modèles chinois ont tendance à bloquer le discours politique, ils ont souvent des filtres que leurs homologues américains pour le contenu pornographique. 404 a récemment rapporté qu’un certain nombre de générateurs de vidéos publiés par des entreprises chinoises manquent de garde-corps de base qui empêchent les gens de générer une nudité non consensuelle.
