Google intègre la vue à son assistant IA&nbsp: Gemini Live devient capable d’analyser l’écran et la caméra

C’était annoncé depuis le Mobile World Congress de début mars, c’est maintenant sorti. Gemini Live propose deux nouvelles fonctionnalités pour encore plus faciliter les échanges entre l’assistant IA et ses utilisateurs. L’IA de Google peut maintenant “voir” pour donner ses conseils, en accédant à l’écran et à l’appareil photo des smartphones.

Gemini Live se transforme en conseiller en image…

Grâce à la fonctionnalité de partage d’écran, les utilisateurs peuvent maintenant poser des questions à Gemini Live sur ce qui s’affiche sur leur écran. L’une des deux vidéos dévoilant ces dernières fonctionnalités met en scène une femme en train de faire shopping en ligne se demandant avec quoi elle pourrait porter le pantalon qu’elle s’apprête à ajouter à son panier.

« Ce jean a une coupe cool et décontractée. Pour un look décontracté, tu peux l’associer à un simple tee-shirt blanc ou à un col roulé noir », propose Gemini Live. Alors que l’utilisatrice lui indique aimer le col roulé, elle poursuit avec une autre demande. Cette fois-ci, elle voudrait savoir quelle veste porter sachant que la forme du pantalon est “baggy”. L’IA garde le fil et répond&nbsp: « Comme le jean est plutôt baggy, une veste en jean ou un bombers pourrait être cool et décontracté ». Cristina Córdula a peut-être du souci à se faire…

… et peut aider à choisir une couleur de vernis

Dans la vidéo de présentation de la fonctionnalité de vue par la caméra, Google passe de la mode à la décoration d’intérieur. Une utilisatrice filme le dernier vase qu’elle s’est offert, ainsi que deux pots, avant de demander à l’IA quelle couleur de vernis serait la plus adaptée pour donner un style “moderne du milieu du siècle”. « Par rapport aux couleurs de la photo, je pense que le vert olive ou le bleu mat correspondent le mieux au style moderne du milieu du siècle. »

Toujours indécise, la personne montre à nouveau à la caméra les deux pots qui sont déjà vernis pour demander laquelle des deux couleurs proposée se marie le mieux. L’IA opte pour le vert olive, précisant où se trouve la couleur dans la palette montrée par l’utilisatrice.

Cette annonce intervient un an après la démonstration du projet Astra par Google. Celui-ci mettait en scène une IA agissant comme un assistant, dialoguant vocalement avec les utilisateurs et en réagissant aux images et aux vidéos. Les nouvelles fonctionnalités sont actuellement disponibles uniquement via l’abonnement Google AI One Premium qui offre une intégration renforcée des outils IA dans les applications Google.

SOURCE