Visite à l’expo Hello, robot (2ème partie)

« Slogans pour le 21ème siècle  » de l’écrivain et artiste canadien Douglas Coupland

Deuxième partie de notre visite à l’ Exposition Hello, Robot qui se tient du 11.02 au 14.05 2017, à Weil am Rhein au musée Vitra Design. La première partie se trouve ici. Comme je l’avais dit précédemment déjà, je construis ma propre exposition en la commentant par des éléments qui lui sont extérieurs ce qui bien entendu n’est possible que parce qu’elle existe telle qu’elle est. Je vous invite encore une fois à l’aller voir si vous en avez l’occasion.
J’avais écrit à propos du mot robota d’où est dérivé le mot robot : « On peut se demander comment on est passé de corvée à ouvrier – et du féminin au masculin (…) ». Un lecteur du SauteRhin, Pierre Foucher, nous apporte la précision suivante :
« le tchèque distingue deux types de masculin, « animé » et « inanimé », dont la déclinaison diverge à différents cas du singulier et du pluriel. Comme vous l’indiquez, le mot robota (corvée) est féminin, comme práce (travail). En dérive le mot robotník (masculin « animé »), qui désigne la personne de sexe masculin soumise à la corvée (alors que travailleur se dit pracovník, dérivé du verbe pracovat, et ouvrier dělník, de dělat, faire). L’originalité du mot robot (masculin animé pour son créateur, inanimé dans l’usage qu’on en fait depuis, dixit le SSČ, dictionnaire du tchèque écrit à l’usage des écoles et du public) par rapport à robotník, c’est évidemment l’absence de marque de dérivation (le suffixe –ník).  Il suggère ainsi un concentré de l’idée de robota. Le robot de Karel Čapek est une « incarnation » de la corvée, de la force de travail, à l’état pur. En aucun cas un ouvrier ».
Merci pour cet utile complément J’avais pour ma part en tête la correction que j’avais apporté aux traductions habituelles du texte Les robots de Krafwerk de Ja tvoi sluga (= je suis ton esclave) Ja tvoi robotnik (= je suis ton ouvrier  exécutant).
« Le développement du machinisme et la division du travail, en faisant perdre au travail de l’ouvrier tout caractère d’autonomie, lui ont fait perdre tout attrait. Le producteur devient un simple accessoire de la machine, on n’exige de lui que l’opération la plus simple, la plus monotone, la plus vite apprise. (…) »
écrivaient Karl Marx et Friedrich Engels dans le Manifeste du Parti communiste (1848). Bernard Stiegler rappelle que pour Marx, la prolétarisation est, dans le capitalisme, le destin de tous les producteurs.
«De porteur d’outils et praticien d’instruments, l’ouvrier est devenu lui-même un outil et un instrument au service d’une machine porteuse d’outils. Or, précisent ici Marx et Engels, ce destin est celui de tous les producteurs – et non seulement des ouvriers»
On pourra lire sur le SauteRhin dans Tous prolétaires la suite du développement.
On aurait tort de penser en effet que seules les activités physiques sont taylorisables et donc robotisables. Un certain nombre d’activités dites intellectuelles, le sont aussi Voici une installation qui montre un robot écrivain écrivant. Il produit à la chaine des manifestes jamais identiques, à chaque fois différents et personnalisés, fabricant huit phrases thèses à partir d’un répertoire de concepts tirés de l’art, de la philosophie et de la technique. Le texte terminé, la page est jetée.

Les robots journalistes existent déjà.

2017, année des robots

Et qu’on le veuille ou non, quelles que soient les hypothèses, modes de calculs, la probabilité d’une raréfaction et d’une dévalorisation des emplois devrait être prise au sérieux. Les relations producteurs consommateurs seront bouleversées avec la possibilité pour ces derniers de participer pleinement à la conception et à la fabrication du produit.
Les robots arrivent de partout et vont partout y compris dans l’agriculture : robots pour la traite, robots de culture (désherbage, binage, etc. ), robots d’élevage.
« Qu’ils soient véhicules autonomes, assistants aux allures humanoïdes, jouets ambulants ou drones de livraison : 2017 sera l’année des robots. L’International federation of robotics (IFR) estime le marché des robots de toute sorte à près de 50 milliards d’euros. En 2016, il a augmenté de 14% rien que pour les robots industriels, avec 290 000 nouveaux systèmes installés l’année dernière. L’IFR pronostique pour les trois prochaines années une croissance de 13% par an. Les robots communiqueront avec nous, nous distrairont, travailleront avec nous, nous sauveront peut-être même de situations fâcheuses. Ils nous placeront aussi devant des problèmes et des dilemmes éthiques. Que nous le veuillons ou non, nous serons appelés à nous lier aux robots, à les intégrer dans nos vies ».
Constanze Kurz : Angriff mit dem Roboter (Attaque via le robot) FAZ 6.03. 2017
Le souci de Constanze Kurz dans l’article précité porte sur la trop faible attention portée aux questions de la sécurisation. Ce n’est pas aujourd’hui notre sujet. Derrière le robot, il y a ce que l’on appelle la data-économie. De même y a-t-il, semble t-il, des politiques notamment monétaire qui encouragent la robotisation. Pour Dalia Marin, spécialiste des relations économiques internationales, professeure à l’Université Ludwig Maximilian de Münich  «  la politique monétaire de la Banque centrale européenne accélère l’introduction des robots » par les taux d’intérêt extrêmement bas qu’elle pratique et qui rendent l’emploi des robots moins chers que celui de salariés. Source : Dalia Marin : Was die-Roboter-revolution für uns-bedeutet (Ce que signifie pour nous la révolution robotique [chinoise] FAZ 22.02.2017)
La robotisation de l’emploi dit intellectuel (en fait il n’y a pas de travail qui n’impliquerait pas le cerveau, fut-ce pour l’abrutir) se confirme :
« Fin 2016, l’assureur japonais Fukoku Mutual a annoncé le remplacement d’un quart de ses salariés du département des évaluations des paiements par un système d’intelligence artificielle devant lui coûter 1,6 million d’euros d’installation et 122 000 euros de maintenance chaque année. Soit le licenciement de 34 personnes à fin mars 2017, à ajouter au non-renouvellement des personnes jusque-là en CDD. L’heureux élu et nouvel « employé » totalement virtuel, le programme Watson de chez IBM, rassemblera les données médicales des clients et lira les documents et certificats rédigés par les médecins pour déterminer le montant des paiements d’assurance, à faire valider par un expert humain avant qu’il ne facture les dépenses. Il est essentiel de souligner ici que les emplois supprimés sont ceux qui impliquaient la transaction avec les clients, mais aussi un certain type de service intellectuel. Le cas de l’assureur nippon est symbolique d’une tendance repérable dans les banques, dans les médias, comme chez Associated Press dont les articles financiers sont désormais tous écrits par un algorédacteur, du côté des notaires ou de cabinets juridiques, à l’instar de BakerHolster, structure de 900 avocats qui utilise depuis mai 2016 une forme d’intelligence artificielle pour fouiller vite et parfaitement des milliers de documents et porter un jugement dans les affaires de faillite d’entreprises, etc. »
Ariel Kyrou & Yann Moulier Boutang, Les clés d’un nouveau modèle social. La révolution du revenu universel in  La Vie des idées , 28 février 2017.

Uninvited guests (les intrus)

Il ne s’agit pas seulement d’un bouleversement de la relation de travail, de la relation homme machine. Nous avons déjà vu la présence du robot dans tous les domaines de la vie. Nous sommes et seront de plus en plus des assistés par robots. Curieux que l’on ne nous parle jamais de cet assistanat-ci. Nous avons moins à faire à un design entre forme et fonction qu’à un design d’interaction de relations, de combinaison des deux. Un design qui ne configure pas seulement les relations hommes-machines mais les relations entre les êtres humains via la machine au risque précisément de les dés-humaniser, d’en faire des individus dés-affectés.

Superflux : « Unvisited guest » (2015) image extraite de la vidéo.

Hôtes indésirables est le titre d’une vidéo faisant partie d’un projet de design fiction qui ouvre à la critique de l’usage des objets connectés.
On y voit un homme âgé, Thomas, 70 ans. Il vit seul et a été équipé par ses enfants d’un certain nombre d’objets connectés censés l’aider à préserver sa santé. Un cadeau empoisonné, c’est le cas de le dire. La smart-fourchette contrôle son alimentation, la canne connectée le nombre de pas qu’il effectue ou pas dans la journée, le lit signale l’heure de s’allonger et s’il est couché. Les contrôles s’effectuent via le smartphone par l’intermédiaire duquel lui parviennent les injonctions, les données ou les sms de ses enfants inquiets : hallo, P’pa, tu n’as pas utilisé ta canne aujourd’hui, tout va bien ? Les objets connectés n’organisent pas seulement une relation homme machine mais aussi la relation enfants-parent. Ce sont des technologies relationnelles.
La vidéo est décomposée en trois temps. On y voit d’abord un sujet docile exécuter les préconisations du programme de santé. Mais ce n’est pas supportable et il tente de passer outre. Au final, l’homme va essayer de ruser avec l’intrus machinique. On le voit d’abord touiller les légumes décongelés avec sa smart-fourchette sous les félicitations du smartphone alors qu’à l’aide d’une autre fourchette il dévore des frites. Il entasse des livres sur le lit pour faire croire qu’il est couché. A l’heure des deux-mille pas quotidiens, on le voit ouvrir la porte à un jeune voisin, lui remettre la canne puis la récupérer en récompensant son substitut d’une canette de bière. En ouvrant la porte à un voisin et en mettant ne serait-ce que momentanément la canne à la porte, il récupère un chez soi qu’il avait perdu et y faire ce qu’il veut. Le résultat est donc une totale inefficacité de tous les dispositifs en raison de leur caractère intrusif et infantilisant. Ils étaient pourtant censés le maintenir en meilleure santé. On devine que cette inefficacité n’est pas non plus le but recherché. Nous avons donc une question double. Elle n’est pas seulement celle de l’intrusion. Le refus de la technique ne règle pas le problème de santé. Dans les deux cas nous avons affaire à une perte de savoir vivre et consommer. Une désaffection.
J’ajoute hors exposition la lecture suivante :
« Subir les effets d’une industrie de services, c’est en effet voir son existence de trans-former sans participer à cette trans-formation, s’il est vrai que l’industrie des services repose non seulement sur une division industrielle du travail mais sur une affectation de rôles sociaux où, par principe, le consommateur est dessaisi des tâches de production et est en cela relativement désaffecté. La dessaisie des tâches de production prises en charge par le service, est présentée comme un avantage, celui d’une décharge. C’est en ce sens que l’on parle de « service » : les serfs étaient autrefois en charge de corvées. Cependant cette décharge est ce qui prive de son existence même celui qui se trouve « déchargé » : il s’en trouve privé de la possibilité de décider de sa façon de vivre … »
Bernard Stiegler &ars industrialis : Réenchanter le monde / La valeur esprit contre le populisme industriel Flammarion pages 41-42.
Je ne veux pas suggérer que des appareils servant à compter le nombre de pas ne puisse servir. Tout dépend. Le même auteur qui a conçu la vidéo Uninvited guests a réalisé un distributeur de médicaments qui sonne l’alarme quand on a oublié de les prendre. On peut juger cela utile, à condition bien sûr que les données ne transitent pas vers les compagnies d’assurance, ce qui n’est pas acquis.

Avez-vous déjà parlé à votre enfant aujourd’hui ?

Dans l’actualité allemande, est récemment tombée l’information d’une campagne de prévention à l’addiction au téléphone portable

Avez-vous déjà parlé à votre enfant, aujourd’hui ?

Avez-vous déjà parlé à votre enfant aujourd’hui ? Tel est le thème d’une campagne de sensibilisation lancée dans le Land de Mecklembourg-Poméranie-Occidentale dans le nord-est de l’Allemagne. Cette campagne contre l’addiction des parents aux smartphones repose en effet sur un constat fait par les éducateurs qui ne savent pas trop bien comment aborder la question sans que cela soit mal pris. Ils observent de plus en plus de parents qui viennent chercher leur enfant à la crèche sans même décrocher de leur téléphone et qui ne demandent même pas aux mômes comment s’est passée leur journée. On peut observer le phénomène aussi dans les rues, les aires de jeu, les transports. Les enfants se sentent abandonnés et parfois ne savent plus comment faire pour attirer l’attention de leurs parents. Le mieux dans ce cas est bien évidement de casser quelque chose. De préférence le portable.  Les parents sont physiquement là mais mentalement absents. Et nous avons dans cet exemple comme une inversion de la relation parents-enfants du cas précédent.
Le photographe Eric Pickersgill présent dans l’exposition Hello Robot a saisi les attitudes résultant de ces comportements addictifs qui se généralisent et  dans lesquelles les smartphones figent les corps aussi bien des adultes….

Auto portrait ode l’artiste Eric Pickersgill et de sa femme Angie

…. que des enfants.

Photo Eric Pickersgill

L’occasion de rappeler que les artefacts créés par les humains ont des effets sur leur corps et leurs comportements qui en gardent la mémoire.
Arrivons à ceci collé au mur

Un bot informatique est un agent logiciel automatique ou semi-automatique qui interagit avec des serveurs informatiques. Un bot se connecte et interagit avec le serveur comme un programme client utilisé par un humain, d’où le terme « bot », qui est la contraction par aphérèse (ablation) de robot. Je prends la définition chez Wikipédia. Cela me permet de préciser que l’encyclopédie fonctionne elle-même à l’aide de ces automates. Les robots ou bots sont des contributeurs particuliers de Wikipédia puisqu’ils interagissent selon des processus automatiques ou semi-automatiques. L’ article auquel je renvoie explique comment dresser son propre bot pour l’utiliser sur Wikipédia.

Les Citizen Kane d’aujourdhui

A côté de cette utilisation pour la construction d’un savoir, il est d’autres usages nettement plus toxiques. Ces techniques sont utilisées dans les campagnes électorales. Elles ont été mises au service de la campagne de Donald Trump ainsi que de l’organisation Leave.eu, qui se battait pour le Brexit. Robert Mercer, patron entre autres du fonds d’investissement spécialisé dans les transactions à haute fréquence, bailleurs de la campagne de Trump ainsi qu’actionnaire du site d’actualité de l’ultra-droite Breitbart News Network, a mis sa société d’analyse de données à la disposition de la campagne en faveur du Brexit afin de cibler les électeurs indécis sur la base de leur activité sur Facebook.
Mercer est un des principaux actionnaires de Cambridge Analytica, une société qui a conduit des opérations de guerre psychologique et qui affirme utiliser une technologie de pointe pour réaliser des profils intimes des électeurs afin de découvrir et de cibler ce qui déclenche leurs émotions. L’équipe de campagne de Donald Trump a versé plus de 6 millions de dollars (5,7 millions d’euros) pour cibler les électeurs indécis lors de la présidentielle américaine, et Mercer l’a mise à disposition de Nigel Farage, du Parti pour l’indépendance. Sur la base des conseils de Cambridge Analytica, la campagne Leave.eu a mis sur pieds une énorme base de données des sympathisants, en créant des profils détaillés de leurs vies grâce aux données collectées à travers Facebook. Leave.eu a ensuite envoyé des milliers de versions différentes de message, selon ce qu’elle avait appris sur leur personnalité. (Source : The Observer  via Vox Europe)
Les Verts allemands sont le seul parti à ma connaissance à s’être engagé à ne pas utiliser de tels robots sociaux faiseur d’émotion et d’opinion pendant la prochaine campagne électorale (élections au Bundestag).

L’artiste catalan Neil Harbisson, grâce à son « eyeborg », un dispositif de sono-chromatisation greffé dans sa boite crânienne réussit à « voir » en couleur alors qu’il ne voyait qu’en noir et blanc. C’est aussi le premier cyborg officiellement reconnu.

Hyperréalité

Keiichi Matsuda : « Hyper-Reality »

Keiichi Matsuda dans une installation video montre à quoi ressemblera l’hyper-réalité urbaine dans laquelle chaque élément de réel sera scotché de réalités virtuelles, le tout dans une esthétique provocatrice de jeu de grattage. A chaque moment des pop-ups d’offres commerciales vous sauteront à la figure. Les techniques de marketing commercial sont les mêmes pour le marketing politique.


Vous avez dit intelligence ?

Il nous faut maintenant parler aussi d’intelligence artificielle et d’apprentissage profond (deep learning). Le catalogue de l’exposition dans son glossaire définit l’Intelligence artificielle de la façon suivante :
« On parle d’intelligence artificielle (IA) quand les machines se comportent comme les humains avec l’intelligence, c’est à dire pensent logiquement, s’y ajoute le savoir, la planification, l’apprentissage, la prise en compte et le traitement. Depuis peu l’intelligence sociale et la créativité jouent un rôle. Comme champ de recherche transdisciplinaire issu de l’informatique, des mathématiques, de la psychologie, la linguistique et des neurosciences, etc, l’IA tente de décrire l’intelligence de manière si détaillée qu’on puisse la formaliser et la simuler à l’aide de programmes informatiques. D’autres approches tentent d’analyser l’architecture informationnelle du cerveau à l’aide de réseau de neurones artificiels et de la reconstituer. Un grand obstacle à cela est que nous ne savons pas vraiment comment fonctionne réellement l’intelligence humaine ».
L’apprentissage profond (deep learning) est une sorte de spécialisation/réduction de l’Intelligence artificielle à certaines fonctions particulières. Plusieurs couches de réseaux neuronaux travaillent en parallèle, d’où l’épithète profond. Les machines transforment des données en savoirs. A chaque interaction elles en apprennent un peu plus non seulement sur le monde qui nous entoure mais sur celui qui s’en sert.
« Plus que pour les big datas, il s’agit de transformer ce qui nous entoure en un environnement de transactions dans lequel toute interaction n’a peut-être pas de valeur en elle-même mais où la masse des interactions et les faits secondaires et tertiaires concomitants peuvent être monétarisés pour des formats publicitaires ou assurantiels. Le deep learning cherche donc à prendre plus profond dans nos poches et promet dans l’immédiat un élargissement de la zone de transaction. Le financement de l’actuelle vague d’intelligence artificielle repose sur le rêve réel de développer dans tous les contextes possibles des contreparties réelles monnayables ».
Christoph Engemann et Paul Feigelfeld : Distributed Embbodiment. Catalogue pages 252-259
Compliquée cette histoire d’intelligence artificielle. Peut-être à cause de l’idée idéaliste que nous nous faisons de l’intelligence humaine. L’anthropologue Paul Jorion a sa petite idée pour expliquer cette gêne :
« Nous sommes convaincus que simuler ce que nous sommes dans une machine requiert que nous mobilisions la pointe la plus avancée de nos connaissances. Nous avons écarté, essentiellement par orgueil, l’éventualité que le comportement de l’être humain puisse s’expliquer comme la mise en œuvre de principes en réalité élémentaires, bien plus simples que ce que nous imaginons spontanément en raison de l’image mégalomane que nous avons forgée de nous-mêmes. Nous avons écarté en particulier, du fait de notre arrogance, l’éventualité que nos raisonnements – stupéfiants par leur intelligence, selon l’interprétation que nous en avons – ne résultent de rien de plus que d’un parcours particulier (mais dont la logique est en réalité relativement simple) au sein du lexique de notre langue, c’est-à-dire de l’espace que constituent les mots rassemblés ».
Paul Jorion Principes des systèmes intelligents,

Donald Trump, une machine intelligente ?

Donc, il ne serait pas idiot de comparer Donald Trump à une machine intelligente ? Cela permettrait de situer l’intelligence à sa juste place à ne pas confondre avec la pensée. Pour la mathématicienne américaine Cathy O’Neil « il [Trump] est semblable à un algorithme de machine learning ».
« Ce serait une erreur de croire qu’il possède une stratégie, au-delà de faire ce qui fonctionne, ce qui veut dire, en un sens strictement étroit, ce qui est susceptible d’attirer l’attention sur lui.
En tant que candidat présidentiel, Trump s’est fait largement connaître pour ses meetings animés, polémiques et chaotiques. Ses discours étaient comparables aux marches aléatoires des statistiques : il essayait quelque chose, voyait comment la foule réagissait et si c’était un succès – défini par une réaction forte, pas nécessairement positive – il essayait de nouveau au meeting suivant, avec encore plus de provocation.
(…) C’est exactement la manière dont un algorithme est entraîné. Il commence par être neutre, comme une ardoise vide en quelque sorte, puis « apprend » lentement en fonction de la direction qu’il prend en navigant à travers ses données d’entraînement. Les données d’entraînement de Trump avant l’élection étaient ses meetings et Twitter, mais ces jours-ci il obtient sa dose quotidienne à partir de trois sources : ses conseillers proches tels que Steve Bannon, les médias comme Fox News, et, bien sûr, son feed Twitter, où il évalue les réactions aux nouvelles expérimentations. »
Au final, explique-t-elle,
« Nous avons l’équivalent d’un réseau neuronal dynamique à la tête de notre gouvernement. Il est dépourvu d’éthique et nourri par une idéologie biaisée de type alt-droite Et, comme la plupart des IA opaques, il est largement irresponsable et crée des boucles de rétroaction et des externalités horribles ».
(Source)
Tout dépend en fin de compte de quoi on nourrit la machine. L’intelligence artificielle est souvent présentée comme idéologiquement neutre mais comme la plupart des artefacts, toute technologie est imprégnée de convictions, de représentations d’une vision du monde. Simone Rebaudengo, Matthieu Cherubini er Saurabh Dattaérie présentent une série d’objets sur la distribution d’électricité en fonction de différentes modalités d’organisation sociale : égalitaire (modèle D cherche l’équilibre dans la distribution), inégalitaire (modèle M pyramidal, hiérarchique) et le modèle T (répressif à la distribution disproportionnée).

La question se pose aussi de savoir à qui sont réservées ces solutions technologiques ? Cela a été débattu récemment en France au cours d’une table ronde au titre provocant : la ville intelligente n’aime pas les pauvres.
Pour terminer sur une note d’humour, on saura gré à l’exposition Hello, Robot de n’en pas manquer, heureusement :

Peur des robots ? Celui-ci est momentanément en panne.

Pour aller à la partie 1 de la visite.
Share on FacebookShare on Google+Tweet about this on TwitterShare on LinkedIn
Ce contenu a été publié dans Les Allemands et la technique, avec comme mot(s)-clé(s) , , , , , , , , , , , , , , . Vous pouvez le mettre en favoris avec ce permalien.

Une réponse à Visite à l’expo Hello, robot (2ème partie)

  1. Pierre Foucher dit :

    « De porteur d’outils et praticien d’instruments, l’ouvrier est devenu lui-même un outil et un instrument au service d’une machine porteuse d’outils », écrivez-vous en citant Bernard Stiegler. Cela m’évoque une expérience personnelle.
    Au tournant des années 2000, le ministère des Armées lançait une campagne de recrutement illustrée par une affiche sur laquelle se voyait en gros plan la tête d’un soldat coiffé d’un casque bardé d’équipements très certainement hypersophistiqués et hyper-performants. Bien loin de me séduire, cette image a suscité en moi un rejet complet, j’ai eu instantanément le sentiment que dans cette affaire, la hiérarchie n’était pas celle qu’on suggérait : entre ces produits d’une technologie de pointe et la frêle créature humaine censée bénéficier de leur appui, le déséquilibre était trop grand pour que celle-ci ne fasse pas pitoyablement figure de support et de serviteur (le sluga de la chanson de Kraftwerk ?) des premiers. D’ailleurs, ne parle-t-on pas des canonniers (depuis 1835, selon le Robert) comme des servants de leur arme ?
    Certes, c’était là la réaction d’un baby boomer, qui plus est : peu porté sur la technique (même s’il apprécie grandement de conduire une voiture d’aujourd’hui et de disposer d’un ordinateur). Néanmoins, il me semble évident que nous vivons une mutation anthropologique en entrant dans une ère où les outils ne sont plus de simples exécutants, mais, dans le meilleur des cas, des partenaires avec lesquels il nous faut dialoguer (situation à laquelle, personnellement, je ne trouve aucun charme). Dans ce contexte, une chose m’horrifie franchement : la docilité avec laquelle nous adoptons les produits nouveaux mis sur le marché, en particulier les armes. Pourquoi continuons-nous à ne voir qu’un progrès dans l’invention de ces machines terrifiantes que sont les Rafale et autres Raptor ? Pourquoi ne hurlons-nous pas d’horreur devant les monstrueuses armes modernes qui pulvérisent le corps humain ? D’accepter qu’on les fabrique nous rend comme anesthésiés, indifférents à notre propre sort, et, Frankensteins subjugués par nos inventions, passivement ouverts aux « conquêtes » de la technique quelles qu’elles soient. Bref, nous avons trouvé notre maître. Comment ne pas penser alors que ce sacrifice consenti de nous-mêmes sur l’autel de nouveaux dieux aztèques nous plonge dans une profonde dépression, dont l’apathie dont nous avons fait montre face au calvaire des habitants d’Alep serait une preuve ? Quelle horreur nous faudra-t-il encore vivre pour que là aussi, comme face au danger écologique, nous finissions par nous ressaisir ?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *