Smart Hand Computer

Technologie

Application musicale gestuelle algorithmique pour smartphone

Le smartphone contient un programme qui permet de générer des sons à partir du geste de l’interprète. Ce programme est constitué d’états sonores différents, reliés entre eux pour former un algorithme global.

L’interprète peut changer d’état à partir d’un geste particulié prédéfini.

Les structures algorithmiques et les contenus sonores sont déclinables à l’infinis. Le smartphone doit pouvoir supporter la puissance de calcul nécessaire à un état à la fois. Il doit également intégrer 9 axes de capteurs: 3 accéléromètres, 3 gyroscopes, 3 magnétomètres.

L’amplification du smartphone en concert doit se faire via un système UHF standard ou filaire, afin de transmettre l’intégrité de la bande passante audio au système de diffusion et ce, sans latence perceptible.

    Interface hybride

    Combinaison d’une interface tactile et gestuelle :

    -Tactile -> l’écran du smartphone est constitué de 2 zones:

    • La première permet de moduler des paramètres de position du doigt sur l’écran en x et y.
    • la deuxième permet d’éditer des réglages de volume d’états afin de s’adapter aux nouveaux contextes de diffusion. Cet accès doit être masqué en cours de jeu.

    Une coque SHC est conseillé afin de limiter l’accès à l’interface en cours de jeu et sécuriser la connection du mini-jack. Un modèle d’impression 3D est disponible ci-dessous dans la rubrique « Download ». Il a été conçu pour iPhone type 5s ou SE avec une connectique mini-jack 4 points de chez HICON.

    -Gestuelle -> les 9 axes des capteurs intégrés au smartphone permettent de discriminer les gestes suivants:

    • shock : accélération rapide selon un axe particulier du smartphone
    • gyrospeed : vitesse de rotation du smartphone
    • projection XY : projection bi-dimensionnelle de l’orientation du smartphone par rapport à son orientation 3D
      Diffusion Sonore

      • le smartphone est relié via sa sortie stéréo à 2 émetteurs UHF. Ceci permet de diffuser le son sans latence vers n’importe quel type de dispositif de diffusion sonore. On peut remplacer les systèmes sans fils par une connexion filaire.
      • Il est nécessaire de réaliser un cable spécifique pour se connecter aux émetteurs UHF selon la marque des système utilisés.
      • Il est conseillé de réaliser une coque pour le smartphone afin de sécuriser la connection mini-jack en cours de jeu et réduire l’accès de l’écran tactile au strict minimum.
      • En répétition il suffit de brancher un casque. En cas d’utilisation de 2 Smartphones simultanément l’utilisation d’une petite mixette sera nécessaire (  type DJ pour smartphone )
        Logiciel

        Application compatible iOS :

        • une application SHC une fois téléchargée et installée sur le smartphone ne nécessite aucune connection wifi pour fonctionner. elle est complètement autonome.
        • Pour certaines réalisations, on peut utiliser une transmission de messages type OSC (Open Sound Control ) des gestes pour piloter de la video ou tout autre dispositif.
          Etat sonore
          • un état ou situation sonore est un programme réalisé à partir du langage Open Source FAUST (GRAME). Celui-ci contient les sons et la description des interactions. Les sons peuvent être de la synthèse ou des fichiers audio sur lesquels on peut appliquer des traitements en temps réel.
          • Les variations des paramètres peuvent être soit liées à l’interface gestuelle et/ou pré-programmées.
          • Un changement d’état sonore, passe par un fade-out très court de l’état en cours, son mute, puis l’activation de l’état suivant et son fade-in. Ceci permet de limiter la surcharge CPU entre deux états.
            Création d’une application Smart Hand Computer

            LiSiLoG utilise le langage FAUST dans un projet Xcode spécifique et l’adapte en fonction des projets afin d’assembler tous les composants nécessaires.

            Cette technologie est utilisée afin de créer un instrument stable pour l’interprète. Actuellement ces applications sont uniquement développées pour iOS en raison des performances inégalées de ce système d’exploitation pour des applications temps réelles embarquées.

            La communication entre les capteurs et les traitements audio est optimal en raison de leurs intégrations dans une même unité ( pas de transmission sans fil avec des risques de pertes d’informations et de latences ).

            Ce dernier point est très important pour un musicien qui doit pouvoir développer sont jeu avec un instrument réactif et stable.

            Par exemple pour jouer « Virtual Rhizome » de Vincent Carinola deux iPhones SE voir 5s sont suffisants et facile a trouver d’occasion.

            Pourquoi l’application est payante ?
            L’application « Virtual Rhizome » est payante pour partiellement supporter les coups de sa publication sur Apple Store qui prend un très gros pourcentage de commission, et nécessite de payer chaque année une licence de développeur.

            Sur le principe, cette application est un matériel lié à l’oeuvre musicale, et comme le pratique tout éditeur ce matériel à un coup.

            Ici, il ne sagit pas d’une location mais d’une acquisition, et l’intérêt de passer par l’AppleStore fait que l’application est directement téléchargeable et exploitable, sans passer par une demande auprès de son éditeur.

            Christophe Lebreton

            Download

            fichier .STL coque pour iPhone SE ou 5+ avec mini-jack 4 pts HICON : 3D printer iPhone SE SHC VR04

            Cable schematics iPhone to UHF : Cable iPhone to UHF

            Virtual Rhizome 

            Pièce de Vincent Raphaël Carinola pour un musicien et deux SHC

            Première réalisation qui s’appuis sur le concept « Smart Hand Computer ». ( Commande d’état faite à Vincent Raphaël CARINOLA, création de la pièce lors de la Biennale Musique en scène 2018 à Lyon avec le GRAME, interprété par Jean GEOFFROY ). Développement : Christophe LEBRETON

            Virtual Rhizome est pour un performer tenant dans chaque mains un SHC contenant la même application « VRhizome ». ( disponible sur AppleStore – compatible iOS version 10 ou plus avec les modèles iPhone 5s ou plus récents )

            L’algorithme est constitué de 23 états ( situations ) reliés entre eux pour former une cercle ( voir schéma ci-dessous )

            le contenu de chaque état est décris dans le tableur fournit avec la partition.

            En règle générale on retrouve la plupart du temps:

            • un son fixe en boucle sans interaction choisi au hazard dans une liste prédéfinie
            • un son bref lors du changement d’état choisi au hazard dans une liste prédéfinie
            • un son contrôlable:
              • en volume via l’interface tactile Y.
              • Si on ne touche pas l’écran le son est off.
              • variation du son en temps réel via la projection XY et Gyrospeed selon les cas.

            Note du compositeur Vincent Raphaël CARINOLA :

            Virtual Rhizome s’apparente à une œuvre ouverte, c’est à dire une œuvre dont la partition serait plus proche d’une carte de navigation que du déroulé temporel fixe propre à la portée musicale traditionnelle.

            L’interprète parcourt toutes les situations et explore les possibilités de combinaisons entre elles offertes par l’utilisation des deux smartphones. Si bien le choix du matériau sonore, des types de traitement et leur succession, répondent à un souci clair d’écriture, une partie importante du résultat dépend de l’acuité de l’interprète et de sa capacité à dévoiler un monde qu’il se doit d’explorer.

            La partition graphique décrit un modèle de conduite, parmi d’autres possibles, parcourant les 23 situations, en indiquant leur succession pour chaque smartphone. Elle est issue de l’interprétation de Jean GEOFFROY, dédicataire et créateur de l’œuvre. Il s’agit de suggestions d’agencements de situations, dont l’interprète peut s’éloigner selon les choix d’expression issus de l’exploration personnelle de l’architecture de l’œuvre.

            Plusieurs autres lectures restent ouvertes à l’exploration et ce sont ces lectures qui constituent une part essentielle de l’interprétation de Virtual Rhizome. Il est ainsi tout à fait possible de jouer plusieurs cycles (un cycle est un parcours de 1 à 23) en privilégiant, dans chaque cycle, l’exploration de certaines situations (comme une forme en rondeau). Ou bien, de parcourir les situations en commencent par la 23 pour finir à la 1. Ou bien encore, combiner une lecture de 1 à 23 avec une main et une lecture de 23 à 1 avec l’autre, en explorant des situations très éloignées les unes des autres, dans un parcours qui produire une forme symétrique (comme un canon « à l’écrevisse »).

            download

            Partition « Virtual Rhizome » : Download

            Fiche Technique  » Virtual Rhizome » : Download

            Site du compositeur Vincent Raphaël Carinola : Link

            Application iOS pour jouer « Virtual Rhizome » : « VRhizome »

            Nota : Dans la partition le vocabulaire utilisé pour décrire les mouvements à réaliser sont dépendant d’une position d’initialisation

              Transmission

              Texte de Jean Geoffroy

              Sur scène, il s’agit de vivre un moment et non pas de le jouer, c’est là toute la différence entre un interprète, fut-il virtuose, et un musicien. C’est la différence entre penser la scène comme espace de représentation, ou la scène comme espace de rencontres. Rencontres entre musiciens ou artistes de toutes disciplines, mais également rencontres avec le (les) publics.

              En tant qu’interprète il est toujours possible de nous « cacher » derrière notre savoir-faire, notre virtuosité… Ici, que ce soit avec le LWS ou l’utilisation des SHC, savoir-faire et virtuosité se transforment en écoute, présence, conviction, incarnation, précisément parce qu’il n’y a pas de technique, de tradition, d’école, ou de méthode. Celles-ci sont à inventer, à ré-inventer en permanence, comme à chaque fois que nous jouons ou rejouons une œuvre. Repenser notre rapport au corps, au mouvement, porter et se laisser porter par le son que l’on produit, se surprendre soi-même de cette écoute renouvelée.

                Embedded Studies (2019), pour Smart Hand Computer

                durée : indéterminée

                Création le 11 avril 2019 à l’Atheneum (Dijon) par les étudiants de l’ESM-BFC en collaboration avec Vincent Raphaël CARINOLA, Jean GEOFFROY et Christophe LEBRETON

                Les Embedded Studies sont un ensemble de pièces issues du processus de composition élaboré pour Virtual Rhizome (2018).

                Lors du concert Smartgestes  du 11 avril 2019 à l’Atheneum (Dijon) par les étudiants de l’ESM-BFC, avaient été utilisés trois applications différentes sur trois SHC (smartphones), pour une version des Embedded Studies en duo de smartphones et une version en duo SHC et basse électrique.

                  WorkShop

                  Publics :

                  Tout public intéressé par les nouvelles lutheries et approches musicales à travers le geste

                  Élèves de classes d’enseignement primaire et secondaire / Étudiants des Écoles de musique et de danse, Conservatoires, CRR, CRD, CNSM / Étudiants d’écoles d’arts, Centre chorégraphiques, Chorégraphes, Plasticiens, Scénographes…

                  Programme : Embedded Studies

                  L’objectif de ces pièces est d’explorer toutes les questions ouvertes par les lutheries numériques, questions qui concernent à la fois la composition, l’interprétation.

                  Le processus à l’œuvre pour les Embedded Studies est le suivant :

                  • Présentation du Smart Hand Computer développé par Christophe Lebreton et de son utilisation dans Virtual Rhizome.
                  • Fabrication de l’instrument, partant d’ateliers autour de la prise de son, qui sont essentiellement des ateliers autour du geste instrumental. L’objectif est de préparer un réservoir d’échantillons issus de l’univers sonore propre à chaque participant.
                  • Réalisation des applications destinées aux smartphones. Celles-ci sont basés sur l’architecture formelle de Virtual Rhizome
                  • Ateliers d’interprétation/improvisation/composition. Il s’agit de l’étape la plus importante, par laquelle les participants vont s’approprier des interfaces afin d’élaborer une forme musicale qui, peut, selon le cas, intégrer d’autres instruments et s’articuler en plusieurs mouvements.

                  Pour plus d’information, merci de contacter : contact@lisilog.com

                  Archives Projets

                  12-2020_ Concours International de musicologie - Moscou

                  Conférence le 12 décembre : 

                  • Conservatoire National Tchaïkovski de Moscou

                  • Union des compositeurs russes

                  • Revue Scientifique Music Academy

                  • Communication pour la conférence du Premier Concours International de musicologie « Music Academy »; édition d’un article dans le revue scientifique

                  Vera Geslin

                  11-2020_ Mondes Spatialisés - St Etienne

                  le 4 novembre :

                  • présentation de « Virtual Rhizome » par Vincent Raphaël CARINOLA (Compositeur – CIEREC/Université Saint-Étienne)

                   

                  03-2020_ Forum IRCAM - Paris

                  le 4 mars Conférence Salle Stravinsky :

                  • présentation de Smart Hand Computer par Chrsitophe Lebreton et Jean Geoffroy
                  • interprétation de « Virtual Rhizome » de Vincent Raphaël Carinola par Jean Geoffroy

                   

                  10-2019_ Transfigured Energy#3 / LiSiLoG Lebreton-Geoffroy / Taipei-Research-Lab

                  Transfigured Energy – performances autour de 6 projets d’installations interactives et performatives coordonnées par Jean Geoffroy.

                  Installations crées par le TRL et regroupant plus de 50 étudiants de différents dpt de l’université :

                  New Media dpt – Design dpt – Dance dpt – Music and Composition dpt…

                  Au final 3 jours de représentations avec performances / improvisations / danse jeux avec le public…

                    05-2019_ Transfigured Energy #2 / LiSiLoG Lebreton-Geoffroy / Taipei-Research-Lab

                    Résidence et concert avec le collectif Taipei-Research-Lab

                    Le TRL est un ensemble à géométrie variable de plus de 50 compositeurs, danseurs, interprètes designers, concepteurs etc. Suite à la résidence de février avec Christophe Lebreton autour de l’écriture pour SHC et le langage de programmation Faust, première réalisations d’installations interactives avec la collaboration de Shih-San Wu (prof de percussion) Mei- Fang Lin (professeur de composition) Mr Wang (directeur du dpt New Media).

                    Première restitution des 6 projets portés par les étudiants en vue de l’exposition interactive de Septembre 2019

                      04-2019_ Taipei Concert d’ouverture de l’exposition au Taipei Fine Arts Muséum / LiSiLoG Lebreton-Geoffroy / « Musica Mobile »

                      Concert en ouverture de l’exposition Musica Mobile, exposition réalisée et conçue par James Giroudon et Christophe Lebreton

                      Au programme : Improvisation collective avec le public autour d’une application SHC « Tesknockout« ,

                      « Virtual Rizhomes » et « Toucher » de Vincent Carinola interprétées par Jean Geoffroy

                        04-2019_ Festival Why Note Dijon / LiSiLoG Lebreton-Geoffroy / Ecole Supérieur de Musique de Dijon

                        Nouvelles technologies et interprétation

                        Débuté en décembre 2018 avec une première journée de rencontre, encadrés par Jean Geoffroy, les étudiants de l’ESM de Dijon proposent des pièces avec le LWS et le SHC (Embedded studies de Vincent Carinola)

                        Concert donné dans le cadre du festival Why Note de Dijon à l’Atheneum

                        Au programme :

                        Six créations d’étudiants (4 autour du LWS et 2 avec les nouvelles applications SHC) Squash de Bertrand Dubedout, Virtual Rizhomes de Vincent Carinola, Toucher de Vincent Carinola interprétées par Jean Geoffroy

                          03-2019_ Concert et journée d’étude à la HEAR Strasbourg / LiSiLoG Lebreton-Geoffroy /

                          Concert à la HEAR de Strasbourg Musique de Table de Thierry de Mey / Percussions de Strasbourg / Atau 1 Le Loup de et avec Atau Tanaka / Tippeke de Thierry de Mey avec David Poro (violoncelle) / Atau 2 Lifting de et avec Atau Tanaka / Silence must be de Thierry de Mey / Percussions de Strasbourg / Atau 3 Myogram de et avec Atau Tanaka / Virtual Rizhomes de Vicent Raphaël Carinola avec Jean Geoffroy pour deux SHC

                          Cette résidence s’est terminée par une journée d’étude autour des nouvelles approches de la scène, de la place de l’interprète face aux nouvelles opportunités que propose les nouvelles lutheries.

                          Avec la participation de Atau Tanaka – Georges Gagneré (metteur en scène et chercheur scènes virtuelles et motion capture) – Marie Lancelin (artiste performeur) – Jean Geoffroy – Christophe Lebreton – Thierry de Mey