Introducción A La Teoría Matemática De La Información

La teoría matemática de la información

La teoría de la información es una rama de la teoría matemática y de las ciencias de la computación que estudia la información y todo lo relacionado con ella: canales, señales, compresión de datos y criptografía, entre otros.

La teoría de la información, también es conocida como teoría matemática de la comunicación o teoría matemática de la información.

Esta teoría está relacionada con las leyes matemáticas que rigen la transmisión y el procesamiento de la información y se ocupa de la medición de la información y de la representación de la misma, así como de la capacidad de los sistemas de comunicación para transmitir y procesar información.

En los años 30 y en la década de los 40 en el terreno de la ingeniería convergen tres líneas de investigación relacionadas, como la lógica binaria, la transmisión de señales y la estadística:

La lógica binaria

Es la lógica construida sobre dos valores dicotómicos absolutos, representados por 1 y 0 (todo/ nada; conectado/ desconectado; presencia/ ausencia).

Tiene su origen en la lógica aristotélica; la ley del tercio excluso (una cosa sólo puede ser o ella misma o su contraria) y la ley de no contradicción (una cosa no puede ser a la vez ella misma y su contraria).

La lógica binaria es una lógica simplificadora porque limita el número de opciones al mínimo posible.

La transmisión de señales

A principios de siglo la telefonía y la telegrafía capitalizan la investigación en comunicación, orientando el interés hacia una serie de problemas típicos:

• Aumentar la velocidad de transmisión

• Reducir las pérdidas de señal

La estadística

La comunicación se define la información como "selección sucesiva de signos o palabras de una lista dada", con lo que:

Eliminaba la cuestión del significado de la definición de información

• Definía por primera vez a la información por su valor estadístico: la información quedaba así relacionada con la frecuencia de aparición de las señales.

• Al definir la información por su valor estadístico, la idea de información quedaba asociada a la idea de "novedad" o "imprevisibilidad"

...