Frequency Domain Masking
Frequency Domain Masking est un phénomène psychoacoustique fondamental qui décrit la manière dont la perception d’un son est affectée par la présence simultanée d’autres sons à des fréquences différentes. Spécifiquement, un son de fréquence et d’intensité données (le masqueur) peut rendre un autre son de fréquence proche et d’intensité plus faible (le masqué) inaudible ou moins perceptible. Ce concept est essentiel dans le traitement du signal audio et constitue la pierre angulaire de nombreuses techniques de compression audio avec perte.
Les concepts fondamentaux du Frequency Domain Masking reposent sur les limitations et les caractéristiques du système auditif humain. L’oreille interne, notamment la cochlée, effectue une sorte d’analyse spectrale du son entrant. Cependant, cette analyse n’est pas parfaite. Les vibrations sur la membrane basilaire de la cochlée, correspondant à une fréquence donnée, ne sont pas infiniment localisées mais s’étendent sur une certaine plage. Lorsqu’un son fort est présent, il excite une large région de la membrane basilaire, et cette excitation « déborde » sur les régions adjacentes correspondant aux fréquences voisines. Si un son plus faible tombe dans cette région d’excitation étendue, sa propre vibration distincte est submergée ou obscurcie par celle du son plus fort. Ce phénomène est quantifié par le concept de « bandes critiques » (ou échelles similaires comme l’ERB – Equivalent Rectangular Bandwidth), qui représentent les plages de fréquences à l’intérieur desquelles les sons interagissent fortement en termes de masquage. Le niveau sonore minimal qu’un son doit atteindre pour être audible en présence d’un masqueur est appelé le « seuil de masquage ». Ce seuil est plus élevé près de la fréquence du masqueur et diminue à mesure que l’on s’en éloigne. L’effet de masquage est également asymétrique : un son masque plus efficacement les fréquences supérieures qu’inférieures.
L’importance et la pertinence du Frequency Domain Masking sont immenses, particulièrement dans le domaine de la compression audio numérique, aussi appelée codage perceptuel. En exploitant ce phénomène, les algorithmes de compression peuvent identifier et éliminer ou réduire considérablement la précision des informations audio qui seraient de toute façon inaudibles pour l’oreille humaine. En analysant le signal audio dans le domaine fréquentiel (généralement via des transformations comme la Transformée de Fourier Discrète (DFT), la Transformée en Cosinus Discrète (DCT) ou, plus couramment, la Modified Discrete Cosine Transform (MDCT)), un modèle psychoacoustique calcule le seuil de masquage global résultant de tous les composants fréquentiels présents à un instant donné. Les composants fréquentiels dont l’énergie se situe en dessous de ce seuil de masquage peuvent être codés avec très peu de bits (quantification grossière) voire pas du tout, sans que l’auditeur ne perçoive de différence significative par rapport au signal original. Cela permet d’atteindre des taux de compression très élevés tout en maintenant une qualité audio subjectivement acceptable, rendant possible la diffusion en continu (streaming), le stockage efficace de grandes bibliothèques musicales et la radiodiffusion numérique.
Les applications pratiques du Frequency Domain Masking sont omniprésentes dans l’audio numérique moderne. Les formats de compression audio avec perte les plus connus, tels que MP3 (MPEG-1 Audio Layer III), AAC (Advanced Audio Coding), Ogg Vorbis, Opus, Dolby Digital (AC-3), et DTS (Digital Theater Systems), reposent tous fondamentalement sur ce principe. Par exemple, lors de l’encodage d’un fichier MP3, le signal audio est divisé en courts segments temporels (trames). Pour chaque trame, une MDCT est calculée pour obtenir la représentation fréquentielle. Un modèle psychoacoustique intégré analyse ce spectre, identifie les composants tonals et bruitants, et calcule le seuil de masquage pour chaque bande de fréquence critique. L’étape de quantification adapte ensuite le nombre de bits alloués à chaque composante fréquentielle en fonction de sa distance par rapport au seuil de masquage. Les composantes bien au-dessus du seuil sont quantifiées avec précision, tandis que celles proches ou en dessous sont quantifiées grossièrement ou ignorées. Ce processus permet de réduire drastiquement la quantité de données nécessaires pour représenter le signal audio.
Il existe des nuances dans l’application et la modélisation du Frequency Domain Masking. Premièrement, on distingue le masquage par des sons tonals (comme une note de flûte) et le masquage par des sons bruitants (comme un souffle). Les sons tonals produisent des seuils de masquage plus nets et plus profonds près de leur fréquence, tandis que les sons bruitants produisent des seuils plus larges et moins profonds. Les modèles psychoacoustiques doivent tenir compte de ces différences. Deuxièmement, bien que le terme se réfère principalement au masquage *simultané* (masker et masked présents en même temps), il est souvent utilisé en conjonction avec le *Time Domain Masking* (masquage temporel), qui inclut le pré-masquage (un son fort masque un son faible qui le précède légèrement) et le post-masquage (un son fort masque un son faible qui le suit immédiatement). Les codecs audio modernes intègrent des modèles combinant les deux types de masquage pour une efficacité accrue. Les modèles psychoacoustiques eux-mêmes varient en complexité et en précision (par exemple, les modèles Psychoacoustique 1 et 2 définis dans les normes MPEG).
Plusieurs concepts sont étroitement liés au Frequency Domain Masking. La Psychoacoustique est le champ d’étude général qui englobe le masquage. Le Seuil de Masquage (Masking Threshold) est la mesure quantitative clé dérivée du phénomène. Les Bandes Critiques (Critical Bands) ou ERB sont les unités d’analyse fréquentielle pertinentes pour le masquage. Le Codage Perceptuel (Perceptual Coding) est la technique d’ingénierie qui applique ces principes à la compression de données. La Quantification est le processus de réduction de la précision numérique, guidé par le seuil de masquage. La Transformée de Fourier et ses variantes (FFT, MDCT) sont les outils mathématiques utilisés pour passer dans le domaine fréquentiel où le masquage est analysé et appliqué. Le terme Masquage Simultané (Simultaneous Masking) est souvent utilisé de manière interchangeable dans ce contexte, bien que Frequency Domain Masking soit légèrement plus général. Il contraste avec le Masquage Temporel (Temporal Masking). Un antonyme conceptuel pourrait être l’Audibilité ou la Perceptibilité, représentant les sons qui ne sont pas masqués.
L’étude systématique du masquage fréquentiel remonte aux travaux pionniers de Harvey Fletcher et de ses collègues aux Bell Labs dans les années 1920 et 1930, qui ont introduit le concept de bandes critiques et mesuré les effets de masquage. Ces recherches fondamentales en psychoacoustique ont jeté les bases. Cependant, l’application pratique à grande échelle dans la compression audio n’est devenue possible qu’avec l’avènement du traitement numérique du signal et l’augmentation de la puissance de calcul dans les années 1970 et 1980. Les travaux de chercheurs comme Eberhard Zwicker, Karlheinz Brandenburg, James Johnston et d’autres ont conduit au développement des premiers modèles psychoacoustiques utilisables pour le codage audio et à la création de normes comme MPEG-1 Audio Layer III (MP3) à la fin des années 1980 et au début des années 1990. Depuis lors, les modèles psychoacoustiques et les techniques de codage ont continué d’évoluer, devenant plus sophistiqués et efficaces (par exemple, dans AAC et Opus).
Les avantages du Frequency Domain Masking, lorsqu’il est appliqué au codage audio, sont évidents : il permet une réduction significative de la taille des fichiers audio (souvent par un facteur de 10 ou plus) tout en préservant une qualité sonore perçue comme élevée par la plupart des auditeurs dans des conditions d’écoute normales. Cela a révolutionné la distribution et la consommation de musique et d’audio. Cependant, il y a aussi des inconvénients et des limitations. À des débits binaires très bas, les artefacts de compression peuvent devenir audibles. Ces artefacts peuvent inclure une perte de détails subtils, un effet de « bruissement » (swirling), ou des pré-échos (artefacts audibles avant un son transitoire abrupt). La performance dépend fortement de la précision du modèle psychoacoustique utilisé, qui est une approximation statistique du comportement auditif humain moyen et peut ne pas être parfait pour tous les types de signaux audio (par exemple, les transitoires complexes) ou pour tous les auditeurs (certains individus peuvent être plus sensibles aux artefacts). Le calcul du modèle psychoacoustique et l’allocation de bits adaptative représentent également une charge de calcul non négligeable pour l’encodeur. Un défi constant est d’améliorer les modèles pour mieux gérer les signaux difficiles et se rapprocher de la transparence perceptuelle à des débits encore plus bas.