Le projet appelé ici "Mathesis universalis", qui consiste en une unification de la science et de la philosophie (qui à l'époque de Descartes n'étaient pas encore séparées) réclame peut être l'élaboration d'un "avant poste" consistant en l'unification de la physique et de la théorie de l'information, c'est à dire la "nature" (objectivée) et ses lois, et la connaisance que l'on en prend, ou encore en langage spinoziste l'Etendue et la Pensée.

Les soubassements d'un tel avant-poste sont d'ailleurs déjà largement entamés, citons par exemple :

-les travaux de B Roy Frieden comme par exemple son livre : "Physics from Fisher information: a unification"

-ceux de Daniel Parrochia dans "Cosmologie de l'information"

-les recherches portant sur "géométrie différentielle et statistique" (cf Amari, Barndorff-Nielsen, etc...), connus aussi sous le nom de "géométrie de l'information". On sait qu'un modèle statistique, formalisé comme un ensemble de mesures de probabilités indexées par un paramètre u appartenant à R ou R ^n , peut aussi être vu comme une variété différentielle dont les "points" sont les probabilités et les coordonnées sont les valeurs du paramètre u. Cette variété possède un tenseur métrique correspondant à la matrice de Fisher. La correspondance avec la relativité générale et sa géométrie riemanienne (ou finslérienne) est claire, et peut être étudiée bien au delà de ce qu'a fait Amari (dont les motivations ne sont guère philosophiques).

On obtient sur le web beaucoup d'autres travaux, en faisant une recherche avec par exemple comme mots clés : "mechanics uncertainty statistics information geometry statistical manifold"....citons par exmple les articles suivants :

http://arxiv.org/PS_cache/quant-ph/pdf/0408/0408185v3.pdf
 "Information measures for inferring quantum mechanics"

http://arxiv.org/PS_cache/quant-ph/pdf/0102/0102069v3.pdf

"Schrodinger equation from an exact uncertainty principle"

et celui ci portant sur la mécanique rationnlle lagrangienne et hamiltonienne classique:
http://www.arxiv.org/vc/quant-ph/papers/0311/0311153v1.pdf

On sait que la mécanique classique se caractérise d'habitude par une exactitude totale des données, donc absence d'incertitude et d'aléatoire, on ne voit donc pas très bien comment la théorie de l'information pourrait jouer un rôle. Cela provient du fait que l'incertitude est introduite même dans la mécanique par le biais d'un principe appelé PCF (principle of constancy of function) qui est le suivant :
  f = abs(p) * delta(q) = constante > 0
 où p est le moment conjugué (l'impulsion) et q la position (voir le début de l'article)...la trajectoire (de q avec le temps) est donc soumise à un principe de variation, et conduit à la minimisation d'un lagrangien.

Voir aussi le livre de R W Carroll chez Springer (collection "Fundamental theories of physics, anciennementde la maison Kluwer rachetée par Springer):
"Fluctuations, information, gravity and the quatum potential" qui contient une véritable mine d'informations et de références d'articles (souvent lisibles sur le web) pour de futures recherches