Smart Hand Computer

TECHNOLOGIE

Concept : application musicale gestuelle algorithmique pour smartphone

Le smartphone contient un programme qui permet de générer des sons à partir du geste de l’interprète. Ce programme est constitué d’états sonores différents, reliés entre eux pour former un algorithme global.

L’interprète peut changer d’état à partir d’un geste particulié prédéfini.

Les structures algorithmiques et les contenus sonores sont déclinables à l’infinis. Le smartphone doit pouvoir supporter la puissance de calcul nécessaire à un état à la fois. Il doit également intégrer 9 axes de capteurs: 3 accéléromètres, 3 gyroscopes, 3 magnétomètres.

L’amplification du smartphone en concert doit se faire via un système UHF standard ou filaire, afin de transmettre l’intégrité de la bande passante audio au système de diffusion et ce, sans latence perceptible.

Interface hybride : combinaison d’une interface tactile et gestuelle.

-Tactile -> l’écran du smartphone est constitué de 2 zones:

  • La première permet de moduler des paramètres de position du doigt sur l’écran en x et y.
  • la deuxième permet d’éditer des réglages de volume d’états afin de s’adapter aux nouveaux contextes de diffusion. Cet accès doit être masqué en cours de jeu.

Une coque SHC est conseillé afin de limiter l’accès à l’interface en cours de jeu et sécuriser la connection du mini-jack. Un modèle d’impression 3D est disponible ci-dessous dans la rubrique « Download ». Il a été conçu pour iPhone type 5s ou SE avec une connectique mini-jack 4 points de chez HICON.

-Gestuelle -> les 9 axes des capteurs intégrés au smartphone permettent de discriminer les gestes suivants:

  • shock : accélération rapide selon un axe particulier du smartphone
  • gyrospeed : vitesse de rotation du smartphone
  • projection XY : projection bi-dimensionnelle de l’orientation du smartphone par rapport à son orientation 3D
Diffusion Sonore : quadri-phonique
  • le smartphone est relié via sa sortie stéréo à 2 émetteurs UHF. Ceci permet de diffuser le son sans latence vers n’importe quel type de dispositif de diffusion sonore. On peut remplacer les systèmes sans fils par une connexion filaire.
  • Il est nécessaire de réaliser un cable spécifique pour se connecter aux émetteurs UHF selon la marque des système utilisés.
  • Il est conseillé de réaliser une coque pour le smartphone afin de sécuriser la connection mini-jack en cours de jeu et réduire l’accès de l’écran tactile au strict minimum.
  • En répétition il suffit de brancher un casque. En cas d’utilisation de 2 Smartphones simultanément l’utilisation d’une petite mixette sera nécessaire (  type DJ pour smartphone )

Logiciel : application compatible iOS
  • une application SHC une fois téléchargée et installée sur le smartphone ne nécessite aucune connection wifi pour fonctionner. elle est complètement autonome.
  • Pour certaines réalisations, on peut utiliser une transmission de messages type OSC (Open Sound Control ) des gestes pour piloter de la video ou tout autre dispositif.
Etat sonore :
  • un état ou situation sonore est un programme réalisé à partir du langage Open Source FAUST (GRAME). Celui-ci contient les sons et la description des interactions. Les sons peuvent être de la synthèse ou des fichiers audio sur lesquels on peut appliquer des traitements en temps réel.
  • Les variations des paramètres peuvent être soit liées à l’interface gestuelle et/ou pré-programmées.
  • Un changement d’état sonore, passe par un fade-out très court de l’état en cours, son mute, puis l’activation de l’état suivant et son fade-in. Ceci permet de limiter la surcharge CPU entre deux états.
Création d’une application Smart Hand Computer :
  • Contacter LisiLoG pour une étude de votre projet.
  • En fonction de la complexité du projet une ou plusieurs résidences peuvent êtres nécessaires.
Download :

gcode coque iPhone SE ou 5+ avec mini-jack 4 pts HICON : 3D printer iPhone SE SHC VR04

Cable schematics iPhone to UHF : Cable iPhone to UHF

ARTISTIQUE

Sur scène, il s’agit de vivre un moment et non pas de le jouer, c’est là toute la différence entre un interprète, fut-il virtuose, et un musicien. C’est la différence entre penser la scène comme espace de représentation, ou la scène comme espace de rencontres. Rencontres entre musiciens ou artistes de toutes disciplines, mais également rencontres avec le (les) publics.

En tant qu’interprète il est toujours possible de nous « cacher » derrière notre savoir-faire, notre virtuosité… Ici, que ce soit avec le LWS ou l’utilisation des SHC, savoir-faire et virtuosité se transforment en écoute, présence, conviction, incarnation, précisément parce qu’il n’y a pas de technique, de tradition, d’école, ou de méthode. Celles-ci sont à inventer, à ré-inventer en permanence, comme à chaque fois que nous jouons ou rejouons une œuvre. Repenser notre rapport au corps, au mouvement, porter et se laisser porter par le son que l’on produit, se surprendre soi-même de cette écoute renouvelée.

Septembre Octobre 2019___________________

Transfigured Energy#3 / LiSiLoG Lebreton-Geoffroy / Taipei-Research-Lab

Transfigured Energy – performances autour de 6 projets d’installations interactives et performatives coordonnées par Jean Geoffroy.

Installations crées par le TRL et regroupant plus de 50 étudiants de différents dpt de l’université :

New Media dpt – Design dpt – Dance dpt – Music and Composition dpt…

Au final 3 jours de représentations avec performances / improvisations / danse jeux avec le public…

Mai 2019__________________________________________

Transfigured Energy #2 / LiSiLoG Lebreton-Geoffroy / Taipei-Research-Lab

Résidence et concert avec le collectif Taipei-Research-Lab

Le TRL est un ensemble à géométrie variable de plus de 50 compositeurs, danseurs, interprètes designers, concepteurs etc. Suite à la résidence de février avec Christophe Lebreton autour de l’écriture pour SHC et le langage de programmation Faust, première réalisations d’installations interactives avec la collaboration de Shih-San Wu (prof de percussion) Mei- Fang Lin (professeur de composition) Mr Wang (directeur du dpt New Media).

Première restitution des 6 projets portés par les étudiants en vue de l’exposition interactive de Septembre 2019

Avril 2019______________________________________

Taipei Concert d’ouverture de l’exposition au Taipei Fine Arts Muséum /

LiSiLoG Lebreton-Geoffroy / « Musica Mobile »

Concert en ouverture de l’exposition Musica Mobile, exposition réalisée et conçue par Christophe et James Giroudon.

Au programme : Improvisation collective avec le public autour d’une application SHC, Virtual Rizhomes et Toucher de Vincent Carinola

avec Christophe Lebreton – Vincent Carinola et Jean Geoffroy

Avril 2019______________________________________

Festival Why Note Dijon / LiSiLoG Lebreton-Geoffroy / Ecole Supérieur de Musique de Dijon

Nouvelles technologies et interprétation

Débuté en décembre 2018 avec une première journée de rencontre, encadrés par Jean Geoffroy, les étudiants de l’ESM de Dijon proposent des pièces avec le LWS et le SHC (Embedded studies de Vincent Carinola)

Concert donné dans le cadre du festival Why Note de Dijon à l’Atheneum

Au programme :

Six créations d’étudiants (4 autour du LWS et 2 avec les nouvelles applications SHC) Squash de Bertrand Dubedout, Virtual Rizhomes de Vincent Carinola, Toucher de Vincent Carinola interprétées par Jean Geoffroy

Mars 2019________________________________________

Concert et journée d’étude à la Hear / LiSiLoG Lebreton-Geoffroy / HEAR Strasbourg

Concert à la HEAR de Strasbourg Musique de Table de Thierry de Mey / Percussions de Strasbourg / Atau 1 Le Loup de et avec Atau Tanaka / Tippeke de Thierry de Mey avec David Poro (violoncelle) / Atau 2 Lifting de et avec Atau Tanaka / Silence must be de Thierry de Mey / Percussions de Strasbourg / Atau 3 Myogram de et avec Atau Tanaka / Virtual Rizhomes de Vicent Raphaël Carinola avec Jean Geoffroy pour deux SHC

Cette résidence s’est terminée par une journée d’étude autour des nouvelles approches de la scène, de la place de l’interprète face aux nouvelles opportunités que propose les nouvelles lutheries.

Avec la participation de Atau Tanaka – Georges Gagneré (metteur en scène et chercheur scènes virtuelles et motion capture) – Marie Lancelin (artiste performeur) – Jean Geoffroy – Christophe Lebreton – Thierry de Mey

« Virtual Rhizome »

Virtual Rhizome s’apparente à une œuvre ouverte, c’est à dire une œuvre dont la partition serait plus proche d’une carte de navigation que du déroulé temporel fixe propre à la portée musicale traditionnelle.

L’interprète parcourt toutes les situations et explore les possibilités de combinaisons entre elles offertes par l’utilisation des deux smartphones. Si bien le choix du matériau sonore, des types de traitement et leur succession, répondent à un souci clair d’écriture, une partie importante du résultat dépend de l’acuité de l’interprète et de sa capacité à dévoiler un monde qu’il se doit d’explorer.

La partition graphique décrit un modèle de conduite, parmi d’autres possibles, parcourant les 23 situations, en indiquant leur succession pour chaque smartphone. Elle est issue de l’interprétation de Jean GEOFFROY, dédicataire et créateur de l’œuvre. Il s’agit de suggestions d’agencements de situations, dont l’interprète peut s’éloigner selon les choix d’expression issus de l’exploration personnelle de l’architecture de l’œuvre.

Plusieurs autres lectures restent ouvertes à l’exploration et ce sont ces lectures qui constituent une part essentielle de l’interprétation de Virtual Rhizome. Il est ainsi tout à fait possible de jouer plusieurs cycles (un cycle est un parcours de 1 à 23) en privilégiant, dans chaque cycle, l’exploration de certaines situations (comme une forme en rondeau). Ou bien, de parcourir les situations en commencent par la 23 pour finir à la 1. Ou bien encore, combiner une lecture de 1 à 23 avec une main et une lecture de 23 à 1 avec l’autre, en explorant des situations très éloignées les unes des autres, dans un parcours qui produire une forme symétrique (comme un canon « à l’écrevisse »).

Vincent Raphaël CARINOLA

Première réalisation qui s’appuis sur le concept « Smart Hand Computer ». ( Commande d’état faite à Vincent Raphaël CARINOLA, création de la pièce lors de la Biennale Musique en scène 2018 à Lyon avec le GRAME, interprété par Jean GEOFFROY ). Développement : Christophe LEBRETON

Virtual Rhizome est pour un performer tenant dans chaque mains un SHC contenant la même application « Virtual Rhizome ». ( disponible sur Apple Store – compatible iOS version 10 ou plus avec les modèles iPhone 5s ou plus récents )

L’algorithme est constitué de 23 états ( situations ) reliés entre eux pour former une cercle ( voir schéma ci-dessous )

le contenu de chaque état est décris dans le tableur fournit avec la partition.

En règle générale on retrouve la plupart du temps:

          • un son fixe en boucle sans interaction choisi au hazard dans une liste prédéfinie
          • un son bref lors du changement d’état choisi au hazard dans une liste prédéfinie
          • un son contrôlable:
                • en volume via l’interface tactile Y.
                • Si on ne touche pas l’écran le son est off.
                • variation du son en temps réel via la projection XY et Gyrospeed selon les cas.

Partition « Virtual Rhizome » : Download

Fiche Technique  » Virtual Rhizome » : Download

Site du compositeur Vincent Raphaël Carinola : Link

Application iOS pour jouer « Virtual Rhizome » : « VRhizome »

Nota : Dans la partition le vocabulaire utilisé pour décrire les mouvements à réaliser sont dépendant d’une position d’initialisation

TRANSMISSION

Embedded Studies (2019), pour Smart Hand Computer

durée : indéterminée

Création le 11 avril 2019 à l’Atheneum (Dijon) par les étudiants de l’ESM-BFC en collaboration avec Vincent Raphaël CARINOLA, Jean GEOFFROY et Christophe LEBRETON

Les Embedded Studies sont un ensemble de pièces issues du processus de composition élaboré pour Virtual Rhizome (2018).

Lors du concert Smartgestes  du 11 avril 2019 à l’Atheneum (Dijon) par les étudiants de l’ESM-BFC, avaient été utilisés trois applications différentes sur trois SHC (smartphones), pour une version des Embedded Studies en duo de smartphones et une version en duo SHC et basse électrique.

WORKSHOP  » Smart Hand Computer »

Publics :

Tout public intéressé par les nouvelles lutheries et approches musicales à travers le geste

Élèves de classes d’enseignement primaire et secondaire / Étudiants des Écoles de musique et de danse, Conservatoires, CRR, CRD, CNSM / Étudiants d’écoles d’arts, Centre chorégraphiques, Chorégraphes, Plasticiens, Scénographes…

Programme : Embedded Studies

L’objectif de ces pièces est d’explorer toutes les questions ouvertes par les lutheries numériques, questions qui concernent à la fois la composition, l’interprétation.

Le processus à l’œuvre pour les Embedded Studies est le suivant :

  • Présentation du Smart Hand Computer développé par Christophe Lebreton et de son utilisation dans Virtual Rhizome.
  • Fabrication de l’instrument, partant d’ateliers autour de la prise de son, qui sont essentiellement des ateliers autour du geste instrumental. L’objectif est de préparer un réservoir d’échantillons issus de l’univers sonore propre à chaque participant.
  • Réalisation des applications destinées aux smartphones. Celles-ci sont basés sur l’architecture formelle de Virtual Rhizome
  • Ateliers d’interprétation/improvisation/composition. Il s’agit de l’étape la plus importante, par laquelle les participants vont s’approprier des interfaces afin d’élaborer une forme musicale qui, peut, selon le cas, intégrer d’autres instruments et s’articuler en plusieurs mouvements.

Pour plus d’information, merci de contacter : contact@lisilog.com