L'ensemble des données numériques à transmettre est codé en une suite de 0 et de 1 par un processus qui dépend de la nature des données, et qui généralement supprime de la redondance éventuellement présente dans celles-ci. Par exemple pour la transmission d'images on peut utiliser l'algorithme de compression avec pertes JPEG. Le signal à transmettre peut être représenté par une source binaire, dont la sortie est un signal discret constitué des deux éléments binaires 0 et 1 (bits). Cette source possède un débit, qui s'appelle débit d'information binaire de la chaîne de transmission, et qui est égal au nombre d'éléments binaires transmis par la source par unité de temps.

En pratique des erreurs peuvent se produire durant la communication, et elles sont principalement dues au bruit et aux interférences produites par le canal de transmission lui-même. Pour y remédier, on utilise un codage correcteur d'erreurs : des bits de redondance sont ajoutés aux informations numériques à transmettre, et ceux-ci permettent au récepteur de détecter et/ou corriger des erreurs. Ces codes ne sont pas abordés dans ce document, mais le lecteur intéressé peut se référer à [COHE92].

Le codage binaire à symbole ^[1] est l'étape qui génère un signal discret à partir des données numériques. Chaque élément de ce signal est appelé symbole , peut être réel ou complexe, et est associé à un ou plusieurs bits issus de la source d'informations. On définit alors un second débit sur le canal, le débit symbole, qui est le nombre de symboles transmis par unité de temps. Il est mesuré en bauds et est égal au débit binaire divisé par le nombre de bits représenté par chaque symbole.

Le système le plus simple que l'on puisse envisager est la modulation d'amplitude à deux états. Chaque symbole du signal discret correspond à un bit de donnée numérique à transmettre. Si on note l'amplitude du signal, les deux valeurs possibles pour sont :

Ces deux valeurs correspondent respectivement à 0 et 1. Il est également possible de coder plus de bits dans un même symbole, en définissant plus de valeurs possibles. Par exemple pour coder deux bits dans un seul symbole, on peut utiliser une modulation d'amplitude à 4 états :

Par extension on peut construire une modulation d'amplitude à états, où chaque symbole code donc bits.

Les symboles peuvent être complexes, et il est donc envisageable de coder l'information dans la phase des symboles. Certaines applications nécessitent en effet un signal avec un module constant. Si on appelle le nombre d'états, l'ensemble des symboles possibles est :

où est la phase du premier symbole et est une valeur de la forme . Ainsi chaque symbole code bits et on note MDPm une modulation de phase à états.

Enfin il est possible de coder de l'information à la fois dans les parties réelle et imaginaire du symbole . Cette technique est appelée Modulation d'Amplitude en Quadrature , et est notée MAQm, où est le nombre d'états de la modulation. Les MAQ les plus courantes utilisent le même codage sur les deux parties réelle et imaginaire. Dans ce cas est de la forme , et chaque symbole code bits : bits dans la partie réelle, et dans la partie imaginaire. Par exemple la modulation MAQ16 utilise deux modulations d'amplitude à 4 états :

Un codage binaire peut se représenter de manière graphique, appelée constellation, dont chaque point correspond à un symbole , à côté duquel on indique éventuellement la donnée numérique que le symbole code. Par exemple les constellations des codages MDP8 et MAQ16 peuvent être représentés de la forme suivante, dans le cadre d'un codage de Gray :

Le canal de transmission étant un milieu continu, avant de pouvoir y transmettre les symboles il faut obtenir un signal continu par interpolation. Les symboles sont cadencés par une horloge à la fréquence , où est la durée d'un symbole, et une forme d'onde permet d'interpoler le signal discret. est une fonction non nulle sur et comme son nom l'indique donne la forme au signal continu :

Une forme d'onde classique est tout simplement le rectangle de durée  :

Le signal ainsi généré a un spectre infini. En pratique il est impossible d'utiliser tout le spectre dans un canal réel, et il est alors nécessaire d'ajouter après cette forme d'onde un filtre basse fréquence, qui servira à limiter la bande passante du signal émis. Ce filtre est appelé filtre d'émission, et on notera sa réponse impulsionnelle. Il est placé après la forme d'onde, et souvent dans un souci de simplification on appelle "filtre d'émission" l'ensemble forme d'onde - filtre d'émission, qui a donc pour réponse impulsionnelle .

La transposition de fréquence est nécessaire dans le cas d'une transmission radio. En effet un canal radio est caractérisé par une bande de fréquences précise, et afin de ne pas perturber les communications sur les autres canaux radio, il faut s'assurer que la transmission n'utilise que cette bande de fréquence. La largeur de cette bande est souvent faible devant sa fréquence centrale , et ainsi le signal qui y est propagé est dit à bande étroite. Le signal provenant du filtre d'émission est quand à lui un signal basse fréquence, dit signal en bande de base. La modulation, ou transposition de fréquence, consiste donc à décaler la fréquence centrale du signal pour respecter les caractéristiques imposées par le canal. La figure 1.3 montre la forme des densités spectrales de puissance (DSP) du signal avant et après transposition de fréquence.

Parmi les opérations classiques de transposition à la fréquence , la modulation d'amplitude est la plus simple. Pour cela le signal à moduler est multiplié par un signal sinusoïdal appelé porteuse. Le signal obtenu est le signal d'origine dont le spectre est décalé autour de la fréquence de la porteuse, et a pour largeur de bande celle du signal en bande de base. Si on appelle le signal à moduler et la fréquence de la porteuse, le signal modulé est :

Il est possible de créer deux porteuses orthogonales à la même fréquence en les déphasant de . Cette méthode s'appelle modulation en quadrature, et permet alors de moduler deux signaux et avec chacune de ces porteuses et ainsi doubler la quantité d'information transmise dans la même bande de fréquence. Comme on va le voir dans la section suivante, l'orthogonalité des porteuses assure que les deux signaux seront séparables à la réception :

Pour simplifier les notations, les deux signaux et peuvent être regroupés en un seul, appelé enveloppe complexe :

Dans ce cas la modulation peut s'écrire :

Si l'on regroupe le filtre d'émission et la transposition de fréquence, on peut exprimer le signal modulé sous la forme :

Une autre notation peut être utilisée pour exprimer le signal modulé, à l'aide d'une base de signaux élémentaires :

En utilisant cette base, l'expression du signal modulé devient :

Cette notation servira lors de la présentation des modulations multiporteuses.

Un amplificateur est enfin nécessaire pour augmenter la puissance du signal afin que son niveau soit suffisant au niveau du récepteur^[2], compensant ainsi les pertes en espace libre. Dans le cas d'un canal radio l'amplificateur est relié à une antenne qui rayonne et crée ainsi le signal radio. Dans le cas d'un canal filaire l'amplificateur est relié au câble.

Le canal de propagation perturbe le signal, en le déformant et en y ajoutant du . Ces deux aspects seront abordés plus loin dans ce mémoire, nous supposerons dans un premier temps que le canal est parfait. Le récepteur recueille le signal transmis, par l'intermédiaire d'une antenne pour un canal radio ou directement depuis le câble pour une transmission filaire. Une fois le signal ré-amplifié il est nécessaire de le démoduler, c'est-à-dire de faire une nouvelle transposition de fréquence afin d'obtenir un signal en bande de base.

Si l'on connaît la fréquence de la porteuse , une démodulation que l'on appelle cohérente permet de retrouver le signal d'origine. Pour cela le signal reçu est à nouveau multiplié par une sinusoïde à la fréquence porteuse et le signal obtenu est alors la somme de deux signaux : le signal en bande de base qui contient l'information, et un second signal modulé à la fréquence . En réalisant un filtrage passe-bas le signal en bande de base peut être isolé :

Cette démodulation s'applique dans le cas d'une modulation classique, c'est à dire avec une seule porteuse. Dans le cas d'une modulation en quadrature, les deux signaux et peuvent être retrouvés au niveau du récepteur en réalisant deux démodulations, avec deux porteuses déphasées également de  :

Au moyen d'un filtre passe-bas les deux signaux en bande de base sont isolés.

Le signal démodulé est un signal continu, mais le récepteur va devoir réaliser un échantillonnage afin de déterminer les d'éléments binaires transmis. Cependant avant l'échantillonnage, on montre [GLAV96] qu'il faut réaliser un filtrage adapté à l'émetteur pour une réception optimale des symboles transmis. Dans le cas où aucun filtre d'émission n'est employé (c'est à dire qu'on utilise simplement une forme d'onde, et que est un Dirac), le filtre de réception adapté à la forme d'onde a pour réponse impulsionnelle :

Où est l'instant d'échantillonnage. Le système de réception est très simple dans ce cas, car le signal reçu à un instant donné après ce filtrage correspond directement à un unique symbole, et celui-ci peut alors être décodé. Par contre lorsqu'un filtre d'émission est utilisé la réponse de ce filtre est généralement plus longue que , et le signal reçu à un instant ne dépend plus d'un seul symbole émis, mais également des autres symboles. Ce phénomène est appelé interférence entre symboles (IES). Pour annuler cette interférence, il faut qu'à l'instant d'échantillonnage on ne prélève que le symbole émis, et annuler l'influence due aux autres symboles. C'est-à-dire qu'il faut que la réponse impulsionnelle de la chaîne de transmission complète () vérifie :

où est un réel, et sont respectivement l'instant et la période d'échantillonnage et est le symbole de Kronecker^[3]. On dit dans ce cas que vérifie le critère de Nyquist.

Le critère de Nyquist permet de déterminer l'expression du filtre de réception pour qu'il soit adapté au filtre d'émission et à la forme d'onde. De plus on peut montrer qu'il existe une répartition optimale entre les deux filtres d'émission et de réception, que l'on nomme demi-Nyquist, ou racine de Nyquist. Pour une discussion plus détaillée sur le filtre de réception et la racine de Nyquist, le lecteur peut se référer à [GLAV96].

L'étape suivante consiste à déterminer les bits correspondant au symbole reçu après le filtre de réception. Ce symbole peut être différent du symbole qui avait été envoyé () à cause de perturbations introduites par le canal. La détection par maximum de vraisemblance est le critère optimal permettant de déterminer le symbole qui a été envoyé avec la plus grande probabilité. Pour cela on sélectionne le point de la constellation le plus proche (au sens de la distance euclidienne) du symbole reçu, et les bits qui sont associés à ce point de la constellation sont les bits qui ont été émis avec la plus grande vraisemblance. Le plan complexe est ainsi partitionné en zones de décision, chacune correspondant à un symbole de la constellation, et donc à un ensemble de bits particulier. Sur une constellation particulière, on peut représenter les limites de ces zones par des traits pointillés (on suppose que tous les symboles sont équiprobables) :

Le signal décidé (au sens du critère de maximum de vraisemblance), sous forme binaire, sera décode grâce au décodeur canal. Ce décodeur correspond au codeur canal qui a été utilisé dans l'émetteur pour ajouter de la redondance aux informations transmises (voir figure 1.1). Cette redondance est utilisée par le décodeur canal pour détecter des erreurs dans le flux binaire et éventuellement les corriger. Dans le cas d'un système FEC (Forward Error Correction) les erreurs sont corrigées directement par le décodeur, et dans le cas d'un système ARQ (Automatic Repeat reQuest) les erreurs sont seulement détectées et le système demande à l'émetteur de transmettre à nouveau les informations.

Jusqu'à présent on a supposé que le canal était parfait. Ceci n'est bien sûr pas le cas en pratique, et le canal déforme le signal transmis. Le modèle général est le canal multitrajets. Dans un canal radio, et particulièrement en milieu urbain, ou dans un environnement intérieur, les ondes peuvent être réfléchies par les obstacles environnants, et le signal reçu est une somme de différents échos atténués et retardés, qui ont chacun suivi un chemin différent.

Ce modèle est également retrouvé dans un canal filaire. Les ruptures d'impédance du câble (un raccord ou une dérivation par exemple) engendrent des réflexions du signal, ce qui cause également des échos avec différents retards et degrés d'atténuation.

Si l'on appelle le temps de propagation du trajet le plus court et celui du trajet le plus long, on peut définir l'étalement des retards , qui est alors égal à . Cet étalement correspond à l'intervalle de temps pendant lequel la réponse impulsionnelle du canal est non nulle. En comparant l'étalement des retards avec la durée d'un symbole, on peut déterminer s'il y aura une interférence entre symboles introduite par le canal. Si , c'est-à-dire si la durée du symbole est grande devant l'étalement des retards, l'influence de ces retards est négligeable sur tout un symbole, et il y aura peu d'interférence. Si est du même ordre de grandeur que , il y aura une interférence entre quelques symboles, et plus est petit devant , plus le nombre de symboles qui interfèrent entre eux est grand.

Ce critère peut être exprimé également de manière fréquentielle, en comparant la bande passante du signal modulé, et . Si , les retards ne créeront pas d'interférence importante entre les symboles. Sinon plus est grande devant , plus l'interférence sera importante. On définit la bande de cohérence du canal , qui est du même ordre de grandeur que , et qui représente la largeur de bande de fréquence sur laquelle on considère que la réponse fréquentielle du canal varie peu, et donc la largeur de la bande que l'on peut utiliser sans avoir d'interférence significative. Généralement on définit la bande de cohérence à 3 dB, c'est à dire la bande de fréquences dans laquelle la réponse fréquentielle s'écarte de moins de 3 dB du maximum. Bien sûr la bande que l'on utilisera en pratique pourra être plus ou moins grande que la bande à 3 dB, en fonction de la tolérance voulue sur les perturbations introduites par les retards.

Lorsque est de l'ordre de grandeur ou inférieur à , il faut adapter le filtre de réception (équation (1.16)), et tenir compte de la réponse fréquentielle du canal. On intègre donc la réponse du canal dans la fonction devant vérifier le critère de Nyquist (équation (1.17)). Cette fonction est maintenant définie par . Si et sont connus, il n'en est pas de même de . En effet la réponse du canal dépend des conditions extérieures, et peut même varier au cours du temps. Plus est petit devant (c'est à dire plus est grand devant ), plus le problème de la détermination du est délicat, car plus le nombre de symboles impliqués dans l'interférence est grand. Une méthode généralement employée est l'égalisation de canal, qui consiste à séparer le problème en deux. Le filtre de réception est décomposé en un filtre adapté au filtre d'émission, et un second filtre adapté au canal :

Le filtre de réception, , est déterminé de la même manière que dans le cas du canal parfait, tandis que le filtre inverse la réponse du canal. Dans ce cas le critère de Nyquist est également vérifié et la perturbation introduite par le canal est compensée. La difficulté de la méthode est l'évaluation de , qui n'est pas connue à priori, et peut évoluer dans le temps. C'est pourquoi on choisit en général un système adaptatif pour réaliser l'égaliseur. Il peut également être réalisé sous forme discrète, et dans ce cas il est placé après l'échantillonneur.

Les canaux multitrajets sont également appelé canaux sélectifs en fréquence, car comme on le voit sur la réponse fréquentielle figure 1.9, ils atténuent certaines bandes de fréquences et en amplifient d'autres. Les modulations multiporteuses sont une solution proposée pour s'adapter plus facilement à ces canaux difficiles.