Aller au contenu
Retour aux docs

Vision IA pas à pas

Capturer des images, les annoter, entraîner un modèle de détection (Colab ou sur ton PC) puis le tester en direct, depuis l'écran Vision IA.

Dernière relecture 2 novembre 2026

À la fin de cette page, tu auras entraîné un premier modèle qui reconnaît un objet de ton choix sur l'écran de ton téléphone, et tu l'auras vu à l'œuvre en direct. ⏱ 30 minutes de manipulation, plus le temps d'entraînement (de quelques minutes à plus d'une heure selon la machine).

Avant de commencer

  • Une licence qui inclut Vision IA : c'est à partir de la formule Pro (voir Licence, offres et compte). Sans elle, les boutons de la page sont grisés.
  • Un appareil branché et affiché Libre dans le Tableau de bord.
  • Savoir quel objet tu veux faire reconnaître (un bouton, une icône, un personnage...).
Vision IA : de la capture au test0:50

C'est quoi un modèle de détection ?

Un modèle de détection est un petit programme qui regarde une image et répond : « il y a un bouton jouer ici, un monstre là ». Il n'est pas programmé à la main : il apprend par l'exemple.

Tu lui montres des dizaines d'images où tu as entouré toi-même l'objet avec un rectangle et un nom (la classe). L'entraînement consiste à laisser l'ordinateur chercher ce que ces exemples ont en commun. Ensuite, face à une image nouvelle, le modèle entoure ce qu'il reconnaît et donne un pourcentage de confiance.

AppsMobs utilise des modèles de la famille YOLO. Tu n'as pas besoin de les connaître : l'appli te guide en 5 étapes, affichées en haut de l'écran Vision IA.

Ce que Vision IA ne fait pas encore dans tes scripts

Les fonctions YOLO utilisables dans les scripts sont en cours de refonte : ne bâtis pas encore un script important dessus. Les étapes ci-dessous (capturer, annoter, entraîner, tester) fonctionnent dans l'écran Vision IA ; pour agir sur une image dans un script, utilise les fonctions d'images (find_image, tap_image).

Combien d'images faut-il ?

C'est la première question que tout le monde se pose. Réponse honnête : ça dépend, et les chiffres ci-dessous sont indicatifs.

  • L'appli te conseille de viser 50 à 100 exemples par classe pour un premier essai.
  • La variété compte plus que le nombre : des cartes, des heures, des niveaux de zoom différents. Dix images quasi identiques n'en valent qu'une.
  • Garde quelques images sans rien à détecter, pour que le modèle apprenne à ne pas voir l'objet partout.
  • Si le test (étape 5) rate des cas, ajoute des images de ces cas précis et réentraîne. On itère : on ne devine pas le bon nombre du premier coup.

Les 5 étapes, pas à pas

  1. 1

    Ouvre Vision IA et choisis ton appareil

    Clique sur Vision IA dans la barre latérale. Tu es sur l'étape 1 Capturer, vue Écran en direct.

    Dans le panneau de droite, ouvre la section Système et choisis ton téléphone dans la liste des appareils. Si la liste est vide, clique sur le bouton d'actualisation à côté.

    1Étape 1 Capturer2Choix de l'appareil (section Système)3Démarrer l'aperçu4Étape 3 Images5Étape 4 Entraîner6Étape 5 Tester

    Tu as réussi quand ton téléphone apparaît dans la liste.

  2. 2

    Nomme ton projet et démarre l'aperçu

    Dans Projet Actuel, donne un nom au projet (par exemple mon-jeu). Un projet = un jeu ou un objectif. Tout est rangé dans Documents\AppsMobs\VisionProjects.

    Clique sur Démarrer l'aperçu (repère 3 de la capture ci-dessus). L'écran du téléphone s'affiche à gauche, en direct. Tu peux aussi appuyer sur Alt + Shift + S pour revenir à cette vue Écran en direct.

  3. 3

    Capture des images variées

    Joue normalement sur le téléphone, ou mets l'écran sur la situation voulue. À chaque situation, clique sur le bouton 📷 de la barre d'outils (« Capturer l'écran pour annoter plus tard »). Le bouton ⭐ à côté lance des captures automatiques : tu règles la fréquence et la durée.

    Change de situation entre deux captures : autre carte, autre moment, autre zoom. Le compteur de l'onglet 3 Images monte à chaque image gardée.

  4. 4

    Annote : entoure l'objet (étape 2)

    Clique sur 2 Annoter. Crée une classe avec + Nouvelle Classe et donne-lui un nom court et clair (bouton_jouer, monstre). Sélectionne l'outil rectangle (la première icône de la barre d'outils de l'image), puis dessine un rectangle serré autour de l'objet.

    • Un objet à moitié caché se box quand même, sur la partie visible.
    • Plusieurs objets sur la même image : un rectangle chacun.
    • Une boîte trop large apprend au modèle que le fond fait partie de l'objet.

    Enregistre avec Ctrl + S et passe à l'image suivante. Le chiffre à côté de 2 Annoter compte tes annotations.

  5. 5

    Vérifie et trie tes images (étape 3)

    Clique sur 3 Images (ou Voir mes images). Filtre par classe, ou n'affiche que les images sans cadre. Ouvre une image pour corriger ses cadres, et passe de l'une à l'autre avec les flèches ← →.

    Supprime les images floues, les doublons et les mauvaises captures : un dataset propre vaut mieux qu'un gros.

  6. 6

    Prépare le dataset et entraîne (étape 4)

    Clique sur 4 Entraîner. Le panneau propose d'abord Générer Dataset :

    1. Images Source : garde Tout le projet, ou choisis seulement les images validées.
    2. Répartition : trois cases Train / Valid / Test. Laisse 70 / 20 / 10 (le total doit faire 100 %).
    3. Facultatif : les options de Pré-traitement et d'Augmentation (miroir, rotation, bruit, flou) créent des variantes de tes images.
    4. Clique sur Générer Version. L'appli indique l'Estimation du nombre d'images obtenues.

    Ensuite, choisis où entraîner (section suivante) et clique sur Entraîner. Une barre de progression suit l'avancement. À la fin, le modèle est un fichier .pt.

  7. 7

    Teste ton modèle en direct (étape 5)

    Clique sur 5 Tester. Dans Modèles Entraînés, choisis ton modèle (ou Parcourir pour un fichier .pt de ton disque, par exemple celui rapporté de Colab), puis Charger.

    Règle le Seuil de Confiance : plus il est haut, moins il y a de fausses détections, mais plus le modèle laisse passer d'objets. Lance l'aperçu : des cadres avec un pourcentage apparaissent sur l'écran en direct.

    Tu as réussi quand ton objet est entouré à l'écran. Sinon, retourne aux étapes 1 et 2 pour ajouter des images des cas ratés, puis réentraîne.

Colab ou sur ton PC ?

Dans l'étape 4 Entraîner, la section Entraîner YOLO propose deux chemins.

Titre dans l'appli : Cloud GPU (gratuit). C'est Google Colab, avec une carte graphique T4 : l'appli annonce environ 15 à 60 minutes, sans coût pour toi.

  1. Clique sur Colab. AppsMobs exporte ton dataset dans un fichier ZIP et affiche une fenêtre d'instructions avec son emplacement (bouton « Ouvrir le dossier d'export »).
  2. Clique sur Ouvrir Google Colab : la page de Colab s'ouvre dans ton navigateur. Il te faut un compte Google.
  3. Dans Colab, envoie ton ZIP, puis lance Runtime → Run all.
  4. Quand c'est fini, télécharge le fichier .pt et charge-le à l'étape 5 Tester avec Parcourir.

Avantage : aucune carte graphique à avoir, rien à installer. Contrainte : un compte Google et un aller-retour de fichiers.

Module manquant

Si l'entraînement local a besoin d'une bibliothèque Python absente, un message Module manquant apparaît avec un bouton Installer. Clique dessus et attends Installé !. Voir aussi Dépannage.

Et le renforcement ?

À côté des 5 étapes, la zone Avancé contient Renforcement et Réglages de l'agent. C'est de l'apprentissage par renforcement : un agent apprend en essayant des actions. C'est lent (souvent des heures) et réservé à la formule Ultimate. Commence toujours par un modèle de détection.

Ce qui est limité

À savoir

  • Export COCO / Pascal VOC : les boutons existent mais sont marqués « Bientôt ». Aujourd'hui, le format utilisé est celui de YOLO.
  • Modal (autre service d'entraînement en ligne) est grisé : « Bientôt ».
  • Les fonctions YOLO dans les scripts sont en refonte (voir plus haut).
  • L'entraînement ne remplace pas un script bien écrit : si une image fixe suffit à reconnaître ton bouton, tap_image est plus simple.

Ça ne marche pas ?

Message ou symptômeCauseSolution
Boutons grisésLa licence n'inclut pas Vision IAPasse à une formule Pro ou supérieure (offres)
« Pas encore d'écran en direct »L'aperçu n'est pas démarréChoisis l'appareil, puis Démarrer l'aperçu
« Définissez un nom de projet »Le nom du projet est videRemplis le nom dans Projet Actuel
« Total != 100% »La répartition Train / Valid / Test ne fait pas 100Ajuste les trois cases
« Module manquant »Une bibliothèque Python manque en localClique Installer, ou utilise Colab
Le modèle rate des objetsPas assez de variétéAjoute des images de ces cas et réentraîne
Le modèle voit des objets partoutTrop peu d'images sans objet, ou seuil trop basAjoute des images vides, monte le Seuil de Confiance

Tous les messages d'erreur sont regroupés dans Dépannage.

Et ensuite

Bloqué sur une étape ? Demande sur Discord, quelqu'un l'a sûrement déjà croisée.Demander sur Discord