Dans un souci de cohérence du mémoire, une convention de notation commune à toutes les parties a été adoptée. En effet les habitudes ne sont pas les mêmes dans les différents domaines abordés (télécommunications, réseaux de neurones). Le choix suivant a donc été fait :

Les valeurs et fonctions scalaires sont en italiques. Une fonction temporelle est en minuscule (signal temporel ) avec éventuellement un indice (). Les fonctions fréquentielles sont en majuscule : la transformée de Fourier de se note . Les constantes caractéristiques d'un système sont sous la forme d'une majuscule avec une minuscule en indice : le nombre de porteuses , la durée d'un symbole . Les signaux discrets et suites de valeurs scalaires sont sous la forme d'une minuscule avec une ou plusieurs minuscules en indice : les symboles transmis . Un indice servant de compteur est l'une des lettres , , ou . Les lettres et peuvent représenter une limite pour l'évolution de ces compteurs (par exemple ).

Les vecteurs sont en gras non italiques et en minuscules, généralement avec un ou plusieurs indices : le symbole OFDM . Les composantes de ces vecteurs sont décris avec la même lettre en italique, avec un indice supplémentaire : les composantes de sont . Les fonctions retournant un scalaire prenant un vecteur comme paramètre sont en italiques avec le paramètre en gras () tandis que les fonctions vectorielles sont en gras ().

Les matrices sont en gras non italiques et en majuscules, éventuellement avec un ou plusieurs indices : la matrice de poids . Les éléments d'une matrice sont décris avec la même lettre en minuscule et deux indices supplémentaires : les composants de sont .

Dans un souci de clarté, si trop d'indices sont nécessaires, certains peuvent être mis en exposant entre parenthèses. Par exemple la matrice de poids peut être notée , et donc ses composantes .

Un index des notations est présent à la fin de ce document, et permet au lecteur de retrouver la définition d'une notation particulière présente dans une équation, et la page à laquelle elle est définie.

La valeur absolue du réel est notée , de même que le module du complexe , noté . Le conjugué du complexe est noté , sa partie réelle et sa partie imaginaire . La norme euclidienne du vecteur réel ou complexe est notée , et la transposée d'une matrice est notée . Enfin la convolution des deux signaux et est notée .