Hommage à Vadim Alexandrovich Malyshev, spécialiste du calcul des probabilités et de la physique mathématique

Né le 13 avril 1938 à Moscou, diplômé de la Faculté de Mécanique et de Mathématiques de l'Université d'État de Moscou en 1961, Vadim Malyshev termine ses études de troisième cycle au département de mathématiques en 1965. En 1966, il soutient sa thèse de candidat sur la Théorie statistique des expériences avec des automates et, en 1973, une thèse de doctorat d’état sur les Problèmes aux limites pour les fonctions de deux variables complexes et leurs applications. Il rejoint le département de la Théorie des Probabilités de la MGU en 1967 en tant que chargé de recherche, et il restait depuis 1987 l’un des principaux chercheurs associés à ce département.

V.A. Malyshev est lauréat du Prix d'État de la Fédération de Russie (RSFSR), avec R.A. Minlos, en 1991. Cette même année, il crée et dirige le Laboratoire des grands systèmes aléatoires (LLRS). Nommé professeur en 1992, il a notamment dispensé les cours suivants : "Mathématiques et physique", "Systèmes multicomposants et physique mathématique", "Introduction aux modèles mathématiques" et "Introduction aux modèles probabilistes modernes". Pendant de nombreuses années, il a codirigé le célèbre Grand séminaire de physique statistique à la faculté de mécanique et de mathématiques de la MGU. Il a aussi été membre du séminaire Dobrushin à l'Institut des Problèmes de Transmission de l'information (IPPI) de l'Académie des sciences de Russie, et membre du comité de rédaction de la revue "Problems of Information Transmission".

Recruté en 1991 comme directeur de recherche chez Inria au sein du projet MEVAL, alors dirigé par Guy Fayolle, V.A. Malyshev repart à la MGU en 2005, où il fut un professeur toujours très actif. En 1994, il fonde la revue Markov Processes and Related Fields (MPRF), dont il était le rédacteur en chef. C’est la seule revue mathématique russe indépendante de langue anglaise, établie sans aucun soutien financier et jouissant d'un grand prestige dans le monde scientifique. Le travail sur ce journal s'est poursuivi jusqu'aux derniers jours de sa vie.

Vadim a joué un rôle considérable dans la coopération scientifique internationale, développant en particulier les liens entre Inria, MGU, et plusieurs organismes de recherche importants en Europe et aux États-Unis. Organisateur d’un grand nombre de conférences, il est loisible de dire que Vadim a créé une école internationale de mathématiques, formant de nombreux étudiants et docteurs, dont beaucoup travaillent dans divers centres de recherche à travers le monde, tout en gardant d’étroits contacts avec MGU.

Les intérêts scientifiques de V.A. Malyshev étaient fort variés, et il a toujours considéré les mathématiques comme un tout. Sa production en tant que chercheur est impressionnante et touche à divers domaines difficiles des mathématiques : théorie des probabilités, physique mathématique, algèbre, analyse. Parmi les principaux résultats, on peut citer :

• La création d'une théorie analytique pour les équations de Wiener-Hopf dans le quart de plan. Il a inventé une nouvelle méthode originale de fonctions automorphes pour ces problèmes. Cette méthode permet de résoudre, dans des domaines angulaires, certaines équations fonctionnelles ainsi que des problèmes aux limites pour des équations aux dérivées partielles. 
• Le développement de nouvelles méthodes dans la théorie des marches aléatoires dans les cônes multidimensionnels, en utilisant des fonctions de Lyapounov, des limites fluides et des champs de vecteurs appropriés. Les applications aux grands systèmes (notamment les réseaux de files d’attente) ont été très fructueuses.
• La création d'une nouvelle direction dans la théorie des probabilités : les grammaires aléatoires et quantiques.
• Une technique originale de décomposition en grappes pour les problèmes spectraux des systèmes dynamiques ayant un nombre infini de particules en physique mathématique. Pour ce travail, V.A. Malyshev et R.A. Minlos ont reçu le prix d'État de la RSFSR en 1991.
• Plusieurs résultats et réflexions théoriques sur la gravité quantique, ainsi qu’une théorie de la conductivité des métaux.

Vadim Malyshev avait toujours de nombreux projets pour l'avenir, qu'il partageait généreusement avec ses collègues et amis. Il était désireux de les associer à la résolution de nouveaux problèmes, impliquant de plus en plus de personnes, qui sont ensuite devenues ses collaborateurs et coauteurs. Plus récemment, il avait envisagé la création d'une nouvelle revue mathématique électronique, qui fonctionnerait sur des bases très différentes de celles d'aujourd'hui.

L'ampleur de ses intérêts non mathématiques et la profondeur de son immersion dans chaque sujet furent également remarquables. Amateur de musique classique, il jouait magnifiquement du piano, instrument pour lequel il avait constitué une vaste bibliothèque de partitions. Il avait aussi créé son propre système philosophique, exposé dans un livre intitulé Chains of Qualitative Complexity, l’idée étant de maintenir la santé et l'énergie. Il voulait comprendre comment la vie est entretenue chez les vivants, comment elle s'arrête ensuite et comment la prolonger. Ses réflexions philosophiques, voire certains de ses travaux mathématiques récents, pourraient être une voie pour la construction de modèles aidant à percer ce mystère…

Au milieu des années 1970, je m’intéressais à la modélisation stochastique des réseaux de files d’attente (notamment dans le domaine des télécommunications), lesquels pouvaient facilement être représentés par des vecteurs aléatoires à évolution Markovienne. Je collaborais sur ces sujets avec Roudolf Iasnogoroski, ami russe et français, maître de conférences à l’université d’Orléans. Le lien des réseaux précités avec certaines marches aléatoires avec frontières était très clair et nos pérégrinations dans la littérature scientifique nous firent découvrir les travaux d’un certain V.A. Malyshev, réalisés au début des années 1970, et pratiquement inconnus à l’Ouest. Je me souviens encore de l’impression ressentie à la vue de ces fabuleux résultats, tant analytiques (résolutions d’équations fonctionnelles de deux variables complexes à l’aide de surfaces de Riemann), que probabilistes (conditions d’ergodicité pour les marches aléatoires dans un quart de plan). Ce dernier problème répondait d’ailleurs à une question posée par le célèbre mathématicien A.N. Kolmogorov.

En septembre 1986, j’étais conférencier invité au First World Congress of the Bernoulli Society à Tashkent. Cette gigantesque conférence durait une semaine et comptait environ 1000 participants. Un matin du deuxième jour, quelqu’un se présenta à moi disant s’appeler… Vadim Malyshev ! Ce moment fut le départ d’une riche aventure intellectuelle et humaine…

Cinq ans plus tard, en 1991, Vadim était recruté comme directeur de recherche (classé N°1 au concours) au sein du projet MEVAL, dont j’avais la responsabilité. Il est resté quatorze ans fonctionnaire de l’État français. Puis il a en 2005 repris son poste de professeur à l’Université d’État de Moscou (MGU), mais nos relations scientifiques et personnelles sont restées pérennes jusqu’au dernier jour.

L’influence de Vadim fut déterminante dans le choix de certains de mes axes scientifiques, incluant notamment l’utilisation fructueuse de méthodes issues de la physique statistique — ce dont j’étais convaincu de longue date — pour la modélisation des grands systèmes. Ensemble nous avons esquissé les bases d’un projet, qui par la suite a motivé durablement plusieurs chercheurs d'Inria, de l’Université et du CNRS.

Une date importante dans cette aventure fut le 19 décembre 1993 : l’inauguration officielle (en grande pompe, avec ambassadeur et secrétaire d’État) du Centre franco-russe A.M. Lyapounov (le nom de ce fameux spécialiste des systèmes dynamiques au début du XIXe siècle avait été suggéré par J.L. Lions), après un montage étalé sur presque deux ans, avec le soutien de la direction d’Inria représentée par Alain Bensoussan, Georges Nissen et Pierre Nepomiastchy. Vadim et moi coordonnions la partie scientifique. Ce centre — situé à l’intérieur de la MGU — visait à échanger des chercheurs entre Inria et la Russie, le matériel informatique étant fourni par Bull. Sous la férule éclairée de son directeur A.B. Ugol’nikov, il a bien fonctionné pendant plus d’une décennie, en phase avec le mouvement d’internationalisation de notre institut.

Il me souvient aussi de l’action de recherche intitulée Coopération Franco-Russe en Modélisation de grands systèmes informatiques, qui avait donné lieu à une convention avec la DRET de l’époque (qui était un organisme militaire !), d’une durée de 18 mois, signée en juin 1993 et placée sous notre responsabilité commune. Les travaux furent effectués conjointement par les chercheurs du projet MEVAL et ceux du LLRS à Moscou, lesquels venaient fréquemment à Rocquencourt. Cette époque fut particulièrement féconde, scientifiquement et humainement.

Merci encore, Vadim, pour ces 36 années d’amitié, de collaboration et le partage de ta vision scientifique. Nos échanges philosophiques sur la science et l'état général du monde furent nombreux, denses, parfois houleux, mais toujours enrichissants. Tu resteras à jamais présent dans ma mémoire.