La théorie de l’information de Claude Elwood Shannon (partie 1)

En premier lieu, il convient de remarquer que tout comme certains vertébrés peu évolués ont atteint des tailles supérieures à leurs descendants vivants hautement organisés, la diminution de la taille des machines a souvent accompagné leur développement et leur progrès.

Darwin amongst the machines, par Samuel Butler, The Press, 13 June 1863, Lien

Des innovations remarquables dans le domaine des télécommunications et des techniques de calcul voient le jour pendant la période qui va de 1936 à 1956. Les réseaux électriques, téléphoniques, la radio et le radar connaissent dès le milieu des années 30 un développement remarquable dans plusieurs pays. Les mêmes innovations vont servir un deuxième conflit mondial très technologique. Le Royaume-Uni et la France entrent en guerre en septembre 1939. Les États-Unis mobilisent dès 1940, un an avant Pearl-Harbor et leur déclaration de décembre 1941.

Des informations stratégiques se trouvent échangées sur de longues distances, alors que les bombes cryptologiques permettent le déchiffrement des messages codés. Les technologies radars développées à partir de 1935 par les belligérants vont donner lieu en Europe à ce que les historiens appellent la bataille des faisceaux qui correspond à des séries de mesures et de contre-mesures menées afin de s’assurer de la maîtrise des cieux nocturnes. Des machines innovantes contribuent par ailleurs au calcul des trajectoires, à la mise au point de nouveaux avions, à l’édition des almanachs nécessaires à la navigation astronomique, ainsi qu’à la réalisation d’opérations complexes. Nouvellement arrivé aux Bell Telephone Laboratories Shannon contribue en tant que mathématicien et spécialiste des circuits à la réalisation d’un système de DCA et d’un téléphone crypté pour le Signal Corps.

Cependant, la paix revenue, les calculateurs de nouvelle génération trouvent des applications civiles. Plusieurs théories rencontrent le succès comme par exemple la théorie des jeux, la recherche opérationnelle, la cybernétique. L’article “A Mathematical Theory of Communication” que Shannon publie en 1948 s’inscrit dans ce contexte. L’ingénieur propose de modéliser mathématiquement la transmission électrique de l’information et de préciser les propriétés statistiques du signal et du message émis. La théorie s’avère protéiforme. Elle va exercer une influence sur les télécommunications, sur l’informatique naissante ainsi que sur plusieurs autres disciplines. Progressivement et car l’article définit le bit, la théorie de la communication va devenir plus connue sous le nom de théorie de l’information.

Le modèle de mathématique physique décrit la transmission des signaux électriques, que ceux-ci soient analogiques ou numériques, autrement dit continus ou discrets. Il s’agit d’optimiser les méthodes d’échange et d’enregistrement des messages, de coder et comprimer, de minimiser la durée des transmissions, l’énergie utilisée, bref de transmettre, mémoriser et calculer l’information de manière optimale. Les aspects logiques et statistiques de ces actions sont mis en équation et l’article édité en 1949 sous forme de livre coécrit avec Warren Weaver rencontre aux États-Unis un retentissant et étonnant succès populaire.

Ce billet propose en commémoration du centenaire de la naissance de Shannon un rappel de quelques uns des événements scientifiques, techniques et politiques de cette période charnière. Avant de devenir des objets standards, les calculateurs électroniques occupaient une place considérable, consommaient d’imposantes quantités d’énergie, tombaient souvent en panne, devaient être programmés en langage machine pour des applications exclusivement numériques. La téléphonie à longue distance n’était possible qu’en haute fréquence et le téléscripteur et sa bande papier perforée étaient considérés comme l’innovation incontournable. Les noms de quelques acteurs et organisations sont rappelés de même que celui de machines maintenant objets du patrimoine ou de la pédagogie de l’informatique.

Après présentation du contexte américain et international, l’introduction de l’article de Shannon est traduite. Un deuxième billet à venir évoquera la cybernétique postérieurement à 1948 ainsi que la fabrication de calculateurs analogiques et numériques en différents pays. C’est alors en 1956 que Shannon va organiser avec quelques collègues un colloque souvent considéré comme fondateur de l’intelligence artificielle. Le théoricien quitte peu de temps après les Bell Labs pour devenir enseignant au MIT et poursuivre ses travaux sur le sujet.

L’enfance et l’adolescence de Shannon ne seront pas ici évoquées. Un récit se trouve dans les versions francophones et anglophones du livre de James Gleick L’information : l’histoire, la théorie, le délugeThe Information: A History, a Theory, a Flood. L’historien des sciences Ronald Kline The Cybernetics Moment apporte d’autres précisions documentées sur les principaux acteurs du mouvement cybernétique. Neil Sloane et Aaron Wyner publient en 1993 Claude E. Shannon: Collected Papers et mettent à disposition sur le web une liste de publications. L’interview de 1982 de Robert Price apporte d’autres précisions évoquées pour certaines dans ce récit illustré.

  • Price R., 1982, Oral-History : Claude E. Shannon, Engineering and Technology History Wiki : Lien
  • Sloane N., Wyner A., 1998, Bibliography of Claude Elwood Shannon : Lien
  • Gleick J., 2015, L’information : l’histoire, la théorie, le déluge : Lien
  • Kline Ronald R., 2015, The Cybernetics Moment: Or Why We Call Our Age the Information Age : Lien
  • Claude Shannon, Nokia Bell Labs : Lien
A Theorem of Color Coding, Bell Labs, 1940, signature : Lien

Plan

1. De 1936 à 1941

2. Contexte technologique de 1933 à 1941

3. Shannon de 1941 à 1948

4. A Mathematical Theory of Communication, by C.E. Shannon

5. Sur la théorie

Partie 2 (billet à suivre)

1. De 1936 à 1948

Nous retrouvons Shannon âgé de vingt ans en 1936. Après un double “Bachelor of Science” (licence) en mathématiques et en génie électrique suivi à l’Université du Michigan – Ann Arbor, l’étudiant change d’établissement et poursuit ses études au Massachusetts Institute of Technology (MIT) à Cambridge, non loin de Boston. Entre autres enseignants, Norbert Wiener professe aux futurs ingénieurs la théorie du signal, l’analyse harmonique et les transformations de Fourier.

Un emploi à temps partiel en tant que chercheur assistant au département de génie électrique du MIT permet à Shannon de financer ses études. L’étudiant manipule l’Analyseur Différentiel du département de mathématiques appliquées de l’Institut. En fonction de 1927 à 1944, le calculateur analogique de Vannevar Bush est le plus avancé de son époque. Purement électromécanique et graphique, il comprend six intégrateurs mécaniques couplés chacun à un amplificateur de couple. Les applications du calcul différentiel intéressent grandement les ingénieurs de différentes spécialités : les industriels de la production électrique, de la construction aéronautique, de même que les laboratoires de balistique et les scientifiques de l’astronomie, de la météorologie ou de la physique.

L’analyseur différentiel de Bush, vers 1937 avec deux intégrateurs, MIT Museum : Lien

La correspondance retrouvée dans les archives montre que Bush remarque Shannon dès cette époque pour ses résultats scolaires positifs. Bush est âgé de 46 ans en 1936 et enseigne au MIT depuis 1919. Ses cours portent sur l’algèbre binaire, la théorie des circuits, le calcul opérationnel, les systèmes de régulation. Bush est auteur de plusieurs livres destinés aux étudiants et ingénieurs : Principles of Electrical Engineering en 1922, Operational Circuit Analysis en 1929. La construction de l’Analyseur Différentiel est menée à partir de 1927 avec l’aide d’assistants devenus professeurs parmi lesquels Harold Hazen, Samuel Caldwell, Gordon Brown.

« Van » Bush mène de front une carrière dans l’industrie – il est en effet l’un des fondateur et directeur en 1922 de la société American Appliance Company spécialisée dans la fourniture de matériel électrique pour les radios. La firme devient nommée Raytheon en 1925 et va jouer un rôle important durant le second conflit dans la fabrication des radars. Alors que Karl Compton issu de Princeton préside le MIT, Bush en est nommé vice-président en 1932. Il devient la même année doyen de l’Institut. Le Carnegie Institution for Science est une fondation active dans le financement de la recherche américaine basé à Washington. Bush en devient membre en 1938 puis président en 1939 ce qui lui donne une vision nationale des efforts de recherche.

Plusieurs versions de l’analyseur se succèdent et deviennent diffusées dans les années 1930 hors du MIT, comme par exemple à l’usine de General Electric de Schenectady, New York, à la Moore School of Electrical Engineering, Université de Pennsylvanie Philadelphie, au Ballistics Research Laboratory du terrain d’essai militaire d’Aberdeen en contrat dès cette époque avec la Moore School. Des visiteurs européens remarquent l’appareil. Parmi eux en 1931, Douglas Hartree alors titulaire de la chaire Beyer et professeur de mathématiques appliquées de l’Université de Manchester de même que le norvégien et astronome Svein Rosseland.

Hartree revient à Manchester avec l’idée de construire un analyseur différentiel preuve de concept en Meccano. L’idée est réalisée en 1934 par le doctorant en physique Arthur Porter. La machine d’un coût de 20 £ obtient une précision de deux pourcents. Porter se sert ensuite de cet équipement pour résoudre une variété de problèmes parmi lesquels la détermination de la structure atomique du chrome. Trois autres analyseurs sont construits au Royaume-Uni, à l’Université de Cambridge, à l’Université Royale de Belfast, et au Royal Aircraft Establishment de Farnborough, à Birmingham. Hartree obtient des financements et entreprend la construction d’une version industrielle de l’analyseur confiée à la firme britannique Metropolitan-Vickers. La machine devient opérationnelle en 1935.

La construction d’un analyseur différentiel en Norvège est également entreprise et financée partiellement par la Fondation Rockefeller. Svein Rosseland supervise la construction à partir de 1938. Le calculateur est installé à l’Institut d’Astrophysique Théorique de l’Université d’Oslo et la machine constituée de 12 intégrateurs est finalisée en 1942.

En Allemagne, Alwin Walther fonde en 1928 l’Institut für Praktische Mathematik de la Technischen HochSchuhle à Darmstadt. Un analyseur y fonctionne également à partir de 1938. Plusieurs étudiants parmi lesquels Wilfried de Beauclair contribuent à la construction. Alors que le pouvoir politique change en Allemagne en 1933, l’Institut se trouve en relation à partir de 1937 avec le terrain d’essai militaire de Peenemünde sur lequel sont menés des programmes de recherche sur des fusées et missiles et placés sous la direction pour les aspects scientifiques de Wernher von Braun.

L’analyseur différentiel d’Oslo : Lien
  • Karl Compton (1887 – 1954) : Lien
  • Vannevar Bush (1890 – 1974) : Lien, Vidéo 4:39
  • Norbert Wiener (1894 – 1964) : Lien
  • Svein Rosseland (1894 – 1985) : Lien
  • Douglas Hartree (1897 – 1958) : Lien
  • Alwin Walther (1898 – 1967) : Lien
  • Harold Locke Hazen (1901 – 1980) : Lien
  • Samuel H. Caldwell (1904 – 1960) : Lien
  • Gordon S. Brown (1907 – 1997) : Lien
  • Arthur Porter (1910 – 2010) : Lien
  • Wilfried de Beauclair (1912 – 2020) : Lien
  • Wernher von Braun (1912 – 1977) : Lien
  • Carnegie Institution for Science (1902) : Lien
  • Moore School of Electrical Engineering (1923) : Lien
  • Raytheon Technologies (1922) : Lien
  • Metropolitan-Vickers (1917 – 1967) : Lien
  • Analyseur différentiel (1927 – 1950) : Lien
  • Oslo Analyzer (1938 – 1950) : Lien
  • Peenemünde Army Research Center (1937 – 1945) : Lien
  • Timbie W. H., Bush V., 1922, Principles of Electrical Engineering : Lien
  • Bush V., Wiener N., 1929, Operational circuit analysis : Lien
  • Wiesner J. B., 1979, Vannevar Bush (1890 – 1974), A Biographical Memoir : Lien
  • Tournès D., 2004, Les analyseurs différentiels : Lien
  • Robinson T., 2005, Tim Robinson’s Differential Analyzer (Meccano) : Lien
  • Robinson T., 2014, Other Differential Analyzers : Lien
Evolution des analyseurs différentiels et calculateurs apparentés de 1850 à 1943 : Lien

1.1 Master en génie électrique

Shannon entreprend de 1936 à 1940 son master de mathématiques appliquées au MIT sous la direction de Franck Hitchcock. Il occupe en parallèle des fonctions d’assistant de recherche et travaille sur deux projets de machines, l’une dédiée au calcul et l’autre à la documentation.

  • Frank Lauren Hitchcock (1857 – 1957) : Lien
1.1.1 Le Rockefeller Differential Analyzer (RDA)

Le succès de l’analyseur donne à Bush la possibilité de construire à partir de 1935 une version renouvelée de son analyseur. Financé par la Fondation Rockefeller dirigée par Warren Weaver pour sa division Sciences de la Nature, le Rockefeller Differential Analyzer mobilise de nombreux professeurs et étudiants. Le britannique Arthur Porter élève de Hartree contribue de 1937 à 1939 en même temps que Shannon à la construction de la machine constituée de I8 intégrateurs. La possibilité d’étendre ce nombre à 30 si nécessaire est prévue.

Samuel Caldwel et Bush précisent dans leur description de 1945 que l’équation différentielle à résoudre est implémentée dans la machine au moyen de séries de bandes de papier perforées dédiées à la programmation. La première nommée A fournit l’information relative aux connexions nécessaires, la bande B fournit les ratios des engrenages, la bande C fournit les conditions initiales. Les bandes sont préparées à l’avance à l’aide d’une perforatrice à haute vitesse. Lors de la résolution d’un problème, le mouvement est transmis électriquement d’unité en unité à faible énergie au moyen de servomécanismes. L’implémentation de problèmes complexes se fait en 3 à 5 minutes de manière plus rapide qu’avec un analyseur d’ancienne génération.

L’impressionnant engin pèse 100 tonnes et combine à la fois des parties mécaniques, électromécaniques et électroniques sous forme de tubes à vide. La construction débute en 1937; l’analyseur devient opérationnel en 1942. La machine est dévoilée au public en octobre 1945 pour devenir utilisable dans l’industrie. Cependant avec cette classe de calculateur, la précision des résultats rendus dépend de nombreux critères comme par exemple l’usure des pièces, la température des locaux. Les calculs débutent par un étalonnage de l’instrument. La vitesse de calcul se trouve limitée par le moment d’inertie des composants, la précision est limitée à quelques pourcents du fait du jeu entre les parties mécaniques. L’approche se montre essentiellement graphique.

Tables de contrôle et traçantes, pupitre du Rockefeller Differential Analyzer
Bush (deuxième à gauche) et son analyseur, Harold Hazen (3ème), Samuel Caldwell (4ème), Musée du MIT : Lien
  • Warren Weaver (1894 – 1978) : Lien
  • Fondation Rockefeller (1913) : Lien
  • Rockefeller Differential Analyzer : Lien
  • Bush W., Caldwell S. H., 1945, A New Type of Differential Analyzer : Lien
  • Stibitz G., 1946, Mathematics of Computation, Mechanical Aids to Computation : Lien
1.1.2 Le Microfilm Rapid Selector

Le microfilm trouve sa place en bibliothèque en particulier aux États-Unis à partir du début des années 1930. Ainsi Eastman Kodack assure en 1935 la fourniture de bobines de 35 millimètres et d’appareils de lecture dédiés. La firme en plein développement entreprend la photographie des collections du New-York Times. La Bibliothèque de Congrès microfilme de son côté plus de trois millions de pages de livres et de manuscrits de la British Library pour les diffuser dans plusieurs bibliothèques. Dans le domaine universitaire, la société ProQuest toujours en activité de nos jours est fondée en 1938 sous le nom University Microfilms dans le but de diffuser les publications scientifiques auprès des bibliothèques universitaires du monde entier. Le prototype de machine proposé par Bush est initialement financé par Kodak pour la partie films et RCA pour la partie photoélectrique et électronique.

Le prototype entend résoudre le problème de l’indexation et de la recherche des images présentes en grand nombre sur une seuls bobine. Bush pense que l’ajout d’une piste supplémentaire dédiée à l’indexation des photographies de documents peut faciliter la recherche. Des micro-perforations rendent possible le codage de diverses métadonnées. La capacité envisagée est de 12 champs, susceptibles de contenir chacun 27 valeurs soit au total 324 bits d’information pour chaque image du microfilm. Un dispositif photoélectrique permet ensuite la copie sur un deuxième microfilm en 16 mm dont le développement est assuré par un automate.

John H. Howard est nommé chef de projet. Il est assisté de Russell C. Coile, John Coombs, Lawrence Steinhardt ainsi que Shannon. Le prototype sera provisoirement abandonné en 1938, puis repris en 1945 par la société Engineering Research Associates. Cependant, la machine documentaire ne sera finalement jamais fonctionnelle. Un article de Bush inspiré de ces tentatives va devenir célèbre sous le titre : As We May thinkComme on pourrait le penser. Il est publié en juillet 1945 peu de temps avant la fin du deuxième conflit. La création d’une machine de la dimension d’un bureau est évoquée. Le nom de Memex, diminutif de Memory ExtenderDispositif d’extension de la mémoire est proposé. Les fonctionnalités anticipent par certains côtés le lien hypertexte, comme le remarque le W3C dans un hommage rendu à Bush en 1995.

Le dispositif se prête surtout aisément à une analyse mathématique statistique relative aux éléments constitutifs – métadonnées, données du microfilm de départ, données copiées dans le film à échanger. Du mathématiquement discret se trouve dans les deux films découpés en unités qui par leur accès séquentiel forment en quelque sorte une métaphore du déroulement du temps, de sa mémorisation et de la communication de certains des événements qui le ponctuent.

Diagramme schématique du Sélecteur Rapide pour Microfilm de Bush, Bagg T. C., Stevens M. E.
  • Kodak (1881) : Lien
  • RCA (1919 – 1986) : Lien
  • Microform, History : Lien
  • Bush V., 1945, As We May Think, W3C, 1995 : Lien
  • Memex : Lien
  • Bagg T. C., Stevens M. E., 1961, Information Selection Systems Retrieving Replica Copies, NBS Technical Standards 157 : Lien
  • Hook, Norman J. M., 2002, In « As We May Think » Vannevar Bush Envisions Mechanized Information Retrieval and the Concept of Hypertext : Lien
1.1.3 Une analyse symbolique des relais et des circuits de commutation

Shannon âgé de 22 ans publie son premier article scientifique en 1938 dans le Transactions of the American Institute of Electrical Engineers. Il s’intitule A Symbolic Analysis of Relay and Switching Circuits. Des réseaux de relais particuliers rendent possible la réalisation directe d’opérations arithmétiques. Les relais sont l’un des éléments constitutifs des commutateurs téléphoniques. Shannon affirme que des circuits électriques constitués de relais peuvent être analysés ou bien au contraire synthétisés dans le but de réaliser de manière électrique des opérations arithmétiques.

Il existe plus d’une analogie complète entre des montages particuliers et des opérations élémentaires de l’algèbre dont une formulation analytique est proposée. Des séries de calculs analogues au Calcul des Propositions peuvent être ainsi entrepris. Parmi les références bibliographiques Boole, Whitehead A treatise on Universal Algebra with Applications, Couturat The Algebra of Logic.

Des arrangements de relais alors déjà utilisés dans le domaine de l’ingénierie téléphonique aux Bell Labs et au MIT dans l’analyseur Rockefeller trouvent une théorie. Shannon reçoit en 1939 le prix Alfred Noble de l’American Society of Civil Engineers pour son article prometteur. Le mémoire de master soutenu en 1940 sous le même titre propose en exemple d’application et dans l’esprit d’un brevet la réalisation d’un compteur de bulletins de vote, d’un additionneur en binaire, le calcul des nombres premiers parmi les entiers de 1 à 100 000.

In fact, any operation that can be completely described to the required accuracy (if numerical) in a finite number of steps using the words « if », « or », « and », etc, can be done automatically with relays

En fait, toute opération qui peut être complètement décrite avec la précision requise (pourvu qu’elle soit numérique) en un nombre fini d’étapes en utilisant les mots « si », « ou », « et », etc, peut être calculée automatiquement avec des relais

Shannon, A Symbolic Analysis of Relay and Switching Circuits, 1937

Associée à ce que nous appelons de nos jours les portes logiques, la notation sous forme de table de vérité des opérations logiques ET, OU, NON, SAUF, se trouve énoncée par d’autres comme Charles Sanders Peirce, Ludwig Wittgenstein, Emil Leon Post. Au delà du mémoire de Shannon relatif aux circuits logiques basés sur les relais téléphoniques, une seule et même logique peut être implémentée de manière mécanique, électromécanique, électronique, par programmation informatique voire biomoléculaire.

Résolution électrique et logique d’équations simultanées, thèse de master 1940: Lien
  • Relais électromécanique : Lien
  • Fonction logique : Lien
  • Alfred Noble Prize (1929) : Lien
  • A symbolic analysis of relay and switching circuits, 1938, Transactions of the American Institute of Electrical Engineers : Lien
  • A Symbolic Analysis of Relay and Switching Circuits, thèse MIT 1940 : Lien

1.2 Doctorat en mathématiques appliquées, stage aux Bell Labs

Puis conseillé par Bush, le jeune diplômé entreprend en 1939 sa thèse de docteur en mathématiques appliquées sous la direction de Frank Hitchcok toujours, associé à Barbara Stoddard Burks, chercheuse à l’Eugenics Record Office (ERO), Cold Spring Harbor, Long Island. La psychologue et généticienne a eu l’occasion de travailler avec Edward Tolman et le Suisse Jean Piaget notamment. Elle se montre active à cette époque dans le domaine de l’étude de la transmission génétique de l’intelligence chez l’homme. Les aspects génétiques et environnementaux de la question de la transmission de l’intelligence sont étudiés par Shannon de manière théorique.

La thèse de Shannon orientée génétique des populations eucaryotes concerne les aspects dynamiques de populations théoriques. La transmission mono ou multigénique d’un caractère génétique dans une population est formalisée sous la forme d’un système de notation algébrique. L’évolution des populations est étudiée en présence de plusieurs fréquences géniques de départ d’un caractère monogénique ou polygénique. Des phénomènes biologiques tels que la reproduction ou les mutations qui se produisent lors du cycle de vie sont pris en considération et notés algébriquement. Le PhD de Shannon An Algebra for Theoretical Genetics est soutenue au département de mathématiques du MIT en 1940 simultanément avec la thèse de master. Cette thèse doctorale ne sera pourtant pas publiée.

Il est possible de noter que l’eugénisme est à cette époque considéré comme une science affirmée et progressiste aux États-Unis, comme dans plusieurs autres pays européens. Des événements postérieurs à la soutenance des thèses de Shannon doivent également être mentionnés. L’institut reçoit des financements conjoints des fondations Carnegie et Rockefeller. Cependant, des décisions prises par ces fondations peu de temps après le passage de Shannon conduisent au départ à la retraite anticipé du directeur Harry Laughlin et à la suppression des financements du laboratoire. L’institution ferme ses portes à la fin de 1939. Harry Laughlin décède quelques années plus tard en 1943. Barbara Stoddard Burks met fin à ses jours en 1943. Il semble que Shannon ait évité ultérieurement tout discours sur la génétique.

Cependant, l’étudiant se trouve embauché en 1940 pour un stage d’été aux Bell Labs. Thornton C. Fry, directeur du département de mathématiques appliquées visite le MIT afin de rencontrer plusieurs personnes et de recruter des stagiaires. Il propose à Shannon d’effectuer un séjour de trois mois. Sa publication sur les relais a été remarquée. Shannon descend à New-York pour habiter Greenwich Village, Manhattan. Bernard D. Holbrook chapeaute le stagiaire au Bell Labs alors installés dans un bâtiment du centre ville à West Street. Le circuit d’un système de barre transversale est construit.

Shannon écrit simultanément un deuxième article scientifique qu’il ne publiera cependant que neuf ans plus tard sous le titre The Synthesis of Two-Terminal Switching Circuits. Il prend également des cours de français et d’allemand car ses résultats en la matière ne se montrent pas exceptionnels. Important changement personnel, Norma Levor et Claude Shannon font connaissance à New-York et se marient en 1940. Elle est âgée de 20 ans, a grandi en France et souhaite devenir scénariste pour le cinéma.

Norma Barzman née Levor, vers 1947 : Lien
  • Harry H. Laughlin (1880 – 1943) : Lien
  • Thornton Carle Fry (1892 – 1991), Bell Labs : Lien
  • Bernard D. Holbrook
  • Barbara Stoddard Burks (1902 – 1943) : Lien
  • Norma Barzman (1920) : Lien
  • Genetic algebra : Lien
  • Eugenics Record Office : Lien
  • Eugénisme : Lien
  • Eugénisme aux États-Unis : Lien
  • Shannon C., 1940, Thesis (Ph. D.), An algebra for theoretical genetics : Lien
  • Shannon C., 1949, The Synthesis of Two-Terminal Switching Circuits : Lien

1.3 L’Institute for Advanced Studies, les Bell Labs

Shannon âgé en 1940 de 24 ans postule et obtient une bourse de National Reseach Fellowship pour poursuivre une spécialisation à l’Institute for Advanced Study (IAS) de Princeton. Cet institut privé créé en 1930 dans le but de stimuler la recherche au plus haut niveau héberge un certain nombre de scientifiques de renom venus d’Europe. Parmi ceux-ci John von Neumann arrivé en 1930 de Budapest et d’Allemagne, Hermann Weyl et Albert Einstein accueillis en 1933.

Comme le précise Shannon dans son interview de 1982, c’est initialement influencé par Weyl que Shannon débute à Princeton ses travaux sur la théorie de l’information. Comment axiomatiser l’information ? L’étudiant se trouve à cette époque également impressionné par l’article d’Hartley des Bell Labs daté de 1928 Transmission of Information lu quelques années auparavant et qui déjà quantifie l’information. Il pense qu’un parallèle existe entre les mécanismes de la transmission de l’information et le principe d’incertitude d’Heisenberg énoncé en physique quantique. Des discussions avec Weil sont engagées sur le sujet.

Princeton University’s Fine Hall (maintenant Jones Hall) en 1931 (Photo: The Trustees of Princeton University)

Cependant à New-York, Thornton Fry directeur du département de mathématiques des Bell Labs devient membre du National Defense Research Committee (NDRC), un comité nouvellement créé en juin 1940 à l’initiative de Bush et de Roosevelt. Les bruits de guerre en Europe et dans le Pacifique ne peuvent être ignorés. Ce comité vise à associer des universitaires, des industriels et des militaires en vue de soutenir un effort de défense militaire. Le gouvernement commence à mobiliser et le NDRC propose 10000 enrôlements à de jeunes étudiants en sciences appelés par le service.

La proposition ne manque pas d’intéresser Shannon qui ne souhaite pas incorporer l’Armée de terre ou la Marine. Shannon choisit d’abandonner ses études à Princeton et de revenir aux Bell Labs à New-York. Fry lui propose d’intégrer en juillet 1940 son département avec le rôle de consultant. Son premier rapport de mathématiques appliquées A Theorem on Color Coding – Case 20878 concerne le codage de la couleur des câbles dans les machines.

Toujours inspiré par ses travaux précédents sur les analyseurs différentiels au MIT, la jeune recrue des Bell Labs publie en avril 1941 dans la revue Studies in Applied Mathematics du MIT Mathematical theory of the differential analyzer. Un modèle théorique de calculateur analogique général inspiré des différents analyseurs différentiels est proposé. Un General Purpose Analog Computer (GPAC) – un Calculateur Analogique à Objectif Général se compose de plusieurs opérateurs – sommateur, intégrateur, … – interconnectés dans le but de réaliser des fonctions qui combinées entre elles permettent de réaliser tout calcul. Ce papier se montre important pour l’informatique théorique. L’équivalence fonctionnelle entre le GPAC envisagé par Shannon en 1941 et une machine de Turing est une question actuellement en cours de résolution. Un calculateur analogique à objectif général peut il être déclaré Turing complet ?

Claude et Norma Shannon retrouvent New-York mais ce mariage ne semble pas fort heureux. Shannon entre souvent dans des phases de long mutisme qui font penser à une sorte d’épisode dépressif, souligne Gleick dans sa biographie. Le couple se sépare peu de temps après.

  • Hermann Weyl (1885 – 1955) : Lien
  • John von Neumann (1903 – 1957) : Lien
  • Institute for Advanced Study (1930) : Lien
  • Principe d’incertitude : Lien
  • Hartley R., 1928, Transmission of Information, Bell System Technical Journal : Lien
  • Shannon C., 1940, A Theorem on Color Coding – Case 20878, Bell Labs : Lien
  • Shannon C., 1941, Mathematical Theory of the Differential Analyzer : Lien
  • General Purpose Analog Computer (GPAC) : Lien
  • National Defense Research Committee (1940-1947) : Lien

2. Contexte technologique de 1933 à 1941

Mais quittons le New-York d’avant-guerre pour revenir si vous le voulez bien aux technologies du calcul entre 1933 et 1941 environ. Plusieurs domaines sont preneurs dès cette époque d’innovations. Les comptables achètent depuis les années 1900 des calculateurs de bureau mécaniques capables de les assister dans les opérations arithmétiques basiques effectuées en masse : addition, soustraction, multiplication et division. Les machines à carte perforée fabriquées initialement pour les recensements aux États-Unis trouvent des applications dans les secteurs de la gestion. Les banques, assurances, les grandes entreprises doivent organiser des comptes, des salaires et des stocks et se montrent intéressées. Les ingénieurs, scientifiques et mathématiciens utilisent à cette époque des tables de fonctions mathématiques préalablement calculées et publiées sous forme d’ouvrages de même que la règle à calcul, des analyseurs et intégrateurs analogiques.

2.1 L’automatisation du calcul avant guerre

Les calculatrices mécaniques de bureau du type arithmomètre ou machine comptable se montrent toutes basée sur le principe des roues à nombre variable de dent mis au point dans les années 1880 et dérivées des idées de Pascal et Leibniz. Les marques fréquemment nationales ont pour nom Brunsviga, Walther, Triumphator, Thales, Schubert, Mercedes en Allemagne, Original-Odhner, Facit, Addo en Suède, Dactyle (Chateau) en France, en Suisse H.W. Egli avec les modèles Madas et Millionaire. Les marques Burroughs, Monroe, Marchants se distinguent aux États-Unis, Muldivo au Royaume-Uni et d’autres encore en URSS et au Japon. Des relations commerciales complexes réunissent et opposent les marques et fabricants, comme le montre par exemple la récente étude de Julien Guérin.

Au niveau de l’ergonomie, les chiffres sont soit entrés sous forme de sélection sur une roue, soit tapés à l’aide d’un clavier. Les opérations sont ensuite réalisées en mouvant dans un sens ou dans un autre selon les opérations des manivelles, en manipulant des registres. Les modèles les plus perfectionnés deviennent motorisés électriquement et couplés à des imprimantes à partir du milieu des années 1930 et des concours de manipulation de ces machines voient même le jour.

Machine comptable National 3000 avec imprimante, (NCR Corporation) no 101364 42-BT propriété personnelle de L J Comrie, Science Museum Group Collection, 1935 – 1945 : Lien

A côté de cela, la mécanographie se trouve réservée à des entreprises et institutions publiques de grande taille. Plusieurs machines sont nécessaires et les cartes perforées de même que la maintenance assurent une rente aux professionnels du secteur. La politique commerciale des fabricants consiste principalement à louer les poinçonneuses, tabulatrices et trieuses, et vendre des cartes perforées dont la qualité se montre nécessaire au bon déroulement des séries de calcul.

International Business Machines Corporation (IBM) devient progressivement et sous la direction de Thomas J. Watson à partir de 1914 connu de manière internationale. L’entreprise s’implante en Allemagne sous le nom Dehomag en 1934, de même qu’en France à partir de 1936 sous le nom Compagnie Électro-Comptable. La société concurrente new-yorkaise d’IBM Remington Rand fondée en 1927 acquiert en 1928 Powers Accounting Machine Company pour constituer un concurrent très sérieux.

Le vieux continent se montre également actif sur ce secteur du calcul de gestion et statistique. Deux marques brillent sur les marchés du Royaume-Uni : British Tabulating Machine Co d’un côté et Powers-Samas Accounting Machines de l’autre. La société Bull fondée en 1921 par le norvégien Fredrik Rosing Bull rencontre le succès à Paris et en Europe à partir de 1931 sous le nom Compagnie des Machines Bull. Un grand nombre de ces différentes compagnies se trouvent représentées dans les capitales européennes et leurs colonies, dans les pays asiatiques, dans les grandes villes américaines.

Tabulatrice Hollerith Type III de 1932, avec son panneau de programmation à fiches ouvert : Lien

Pour les scientifiques, le nom de computer fait alors en général référence à la profession de spécialiste en calcul scientifique, métier alors aussi bien masculin que féminin. Calculator désigne les machines conçues pour les opérations de base, les calculatrices. Bien qu’une formation soit nécessaire pour exercer le métier de computer, le travail reste répétitif et fastidieux, la profession est faiblement rémunérée, peu prestigieuse. Mais avec l’usage de calculateurs de bureau électrifiés doublé de celui de la mécanographie, le mot computer va connaître progressivement et surtout à partir des années 1950 une évolution sémantique : les machines vont être nommées non pas calculator, accounting machine, statistical machine mais computer et les programmeurs vont devenir computer scientist. Un certain nombre de personnalités contribuent dès les années 1930 et à leur insu à cette évolution linguistique et sémantique du mot computer.

  • Calculatrice mécanique : Lien
  • Arithmomètre d’Odhner : Lien
  • Burroughs Corporation (1886 – 1986) : Lien
  • Monroe (1912) : Lien
  • Brunsviga Maschinenwerke (1871 – 1979) : Lien
  • DEHOMAG, Deutsche Hollerith-Maschinen Gesellschaft : Lien
  • CARA IBM; 1914 – 1939 : l’époque héroïque : Lien
  • Julien Guérin, Martin Reese, Cris Vande Velde, 2019, Les calculatrices Chateau/Dactyle, et leurs liens avec l’Allemagne, la Californie, l’Angleterre et la Suisse : Lien
  • Yvan Monka, 2015, Démonstration d’une machine de Monroe, 9:44 : Lien
  • Yvan Monka, 2015, Démonstration d’une machine d’Odhner, 9:32 : Lien
2.1.1 Leslie Comrie, de Pukekohe à Greenwich et Londres

Leslie Comrie naît en 1893 à Pukekohe non loin d’Auckland, Nouvelle Zélande. Il se trouve affecté assez jeune de surdité d’une oreille. Il obtient cependant un master de chimie et devient membre du club d’astronomie de son université. Suite au décès de son frère sur le front européen lors du premier conflit et malgré son handicap, Comrie s’engage en tant que volontaire de la Force Expéditionnaire Néo-Zélandaise. Il perd la jambe gauche en France en 1918 et se trouve rapatrié en Angleterre. Postérieurement au conflit, il poursuit à Londres ses études dans le cadre d’un plan de formation des troupes démobilisées.

Comrie assiste aux cours de statistiques professés à l’University College de Londres par Karl Pearson en personne. Il y apprend l’usage et la modification possible – le bidouillage – des calculatrices allemandes Brunsviga. Il applique ces techniques aux calculs nécessaires à l’astronomie et reçoit en 1920 le prix « Isaac Newton Scholarship » pour ses travaux. Cette bourse finance en partie ses études à St. John’s College, Cambridge. Sa thèse doctorale soutenue en 1923 porte sur l’occultation des étoiles par les planètes. Le jeune diplômé enseigne ensuite l’astronomie pendant trois ans à Philadelphie puis Chicago avant d’intégrer en 1925 le HM Nautical Almanac Office (HMNAO) de Greenwich. Il parvient à en être nommé directeur en 1930 et change alors complètement les méthodes de calcul pratiquées au HMNAO en y introduisant la carte perforée.

Après plusieurs années de succès, il devient déchu du jour au lendemain de ce poste en aout 1936. Les bureaux du HMNAO se trouvent en effet engagés simultanément sur le calcul des tables nautiques et sur des calculs de tables mathématiques. Hors Leslie Comrie réclame des moyens supplémentaires à La Marine alors que les calculs nautiques pour lesquels les computers sont payés se trouvent déjà effectués. Comrie est démis de ses fonctions, cependant il a eu pendant ses années de fonction l’occasion d’écrire de très nombreux articles sur ses méthodes et reste en relation avec ses homologues américains parmi lesquels Wallace Eckert. Il fonde suite à ces événements un bureau de calcul privé nommé le Scientific Computing Services (SCS) qui fonctionne à Londres à partir de 1936 et va comprendre jusqu’à 30 scientifiques pendant le deuxième conflit.

  • Karl Pearson (1857 – 1936) : Lien
  • Leslie Comrie (1893 – 1950) : Lien
  • Scientific Computing Service (1937)
  • Leslie John Comrie, IEEE Computer Society, History of Computer : Lien
  • Sadler, 1972, A Personal History of H. M. Nautical Almanac Office, Part 1, Chapter 1, At Greenwich, 1930 – 1936 : Lien
  • Frank da Cruz, 2008, L.J. Comrie, Columbia Computing History : Lien
  • HM Nautical Almanac Office, 2016, L. J. Comrie, Superintendent 1930-1936 : Lien
  • HM Nautical Almanac Office, 2016, D. H. Sadler, Superintendent 1936-1970 : Lien
2.1.2 Wallace Eckert à New-York et Washington

Wallace Eckert de New-York (à ne pas confondre avec Presper Eckert de Philadelphie) travaille à l’Université Columbia au service de mathématiques appliquées et ses calculs concernent essentiellement l’astronomie. Fortement influencé par les travaux pionniers de Comrie, le jeune enseignant réalise dès 1933 un montage original de plusieurs machines IBM. Une tabulatrice IBM 285 est successivement connectée avec un duplicateur de cartes perforées et un commutateur de commande construit spécialement par IBM, capable de modifier de manière séquentielle le tableau de connexion d’une IBM 601. Des séries d’additions, de soustractions et de multiplications conduisent à la résolution semi-automatique d’équations différentielles à l’aide de techniques mathématiques spéciales. Suite au don de plusieurs machines par IBM, le service de Columbia devient en 1937 nommé le Thomas J. Watson Astronomical Computing Bureau. Wallace Eckert publie en 1940 son livre Punched Card Methods in Scientific Computation dans lequel sont exposées ses méthodes, ce qui lui vaut d’être nommé professeur à temps plein.

Puis Eckert quitte New-York pour occuper de 1940 à 1945 les fonctions de directeur de l’US Naval Observatory Nautical Almanac Office à Washington. Il s’agit d’automatiser la production des éphémérides destinés à la navigation aérienne et navale. La navigation céleste complète à l’époque la navigation à l’estime, alors que la radionavigation en basse fréquence connaît un essor considérable. Sous l’impulsion d’Eckert, l’almanach de 1942 devient le premier à être produit de manière entièrement automatique, depuis les calculs jusqu’à la composition typographique. Aucune erreur n’a jamais été rapportée dans l’Air Almanach publié en 1942. Les idées émises par Charles Babbage du temps de la vapeur parviennent ainsi à se concrétiser. Wallace estime à 50 000 le nombre de tables diffusées auprès des navigateurs de la marine et de l’aviation au plus fort du second conflit.

  • Wallace John Eckert (1902 – 1971) : Lien, Lien
  • Columbia University Computing History (1920 – 2000) : Lien
  • Columbia University Astronomical Computing Bureau (1929 – 1959) : Lien
  • The Naval Observatory Table Printer 1945, CUCH : Lien
  • Wallace Eckert, Computers, and the Nautical Almanac Office, 1999, Gutzwiller : Lien
  • Eckert W., 1940, Punched Card Methods in Scientific Computation
2.1.3 Konrad Zuse à Berlin

L’implémentation physique de portes logiques peut être réalisée à l’aide de dispositifs électriques comme nous l’avons vu avec Shannon, mais aussi purement mécaniques. Konrad Zuse construit en 1938 pour son calculateur Z1 plusieurs dispositifs originaux. Ceux-ci implémentent les fonctions logiques AND, OR, XOR et servent de base à la machine construite par l’ingénieur de 28 ans dans la chambre du domicile familial, sur financement de ses proches. Ce Z1 et ses pièces logiques mécaniques ne fonctionne pas de manière fiable. Actif dans le domaine des télécommunications, Helmut Schreyer aide Zuse dans la construction du Z1 et propose la réalisation de circuits logiques basés sur des relais et les tubes électroniques.

Le Z2 construit par Zuse et ses amis devient opérationnel en 1940 et est suivi du Z3 en 1941. Assisté entre autres personnes par de Beauclair formé à Darmstadt par Alwin Walther, Zuse entreprend de 1942 à 1945 la construction du Z4. La machine dont des application commerciales sont attendues sera transférée en février 1945pour échapper à l’avance soviétique de Berlin à Göttingen, puis en Bavière.

  • Alwin Walther (1898 – 1967) : Lien
  • Konrad Zuse (1910 – 1995) : Lien
  • Helmut Schreyer (1912 – 1984) : Lien
  • Wilfried de Beauclair (1912 – 2020) : Lien
  • Z1 (computer), 1938 : Lien
  • Z4 (computer), 1945 : Lien
  • F.J. Kraan, 2020, Reconstruction of mechanical logic gates and memory element of the Zuse Z1 programmable calculator using a 3D-printer : Lien
2.1.4 John Vincent Atanasoff à Ames

Alors en poste à l’Iowa State University d’Ames, le physicien John Vincent Atanasoff est confronté dès 1937 à la nécessité de résoudre en masse des systèmes d’équations linéaires. Il réunit des financements et accompagné de son assistant Clifford Berry, construit une machine électronique basée sur des tubes à vide, nommée ABC pour Atanasoff-Berry Computer. Les travaux commencent en 1939 et se trouvent finalisés en 1942. L’engin de la taille d’un bureau pèse 320 kilogrammes, contient 1,6 kilomètre de câbles, fonctionne à l’aide de 280 tubes électronique, 31 thyratrons – sortes de tube électroniques à gaz susceptibles de servir d’interrupteur commandé et de relais. L’une des mémoires de l’ABC est constituée d’un tambour pivotant sur lequel sont fixés 1600 condensateurs. Les fonctions logiques arithmétiques sont implémentées de manière électronique. La présence d’un opérateur humain expérimenté est requise pour actionner la machine. Celle-ci sera désassemblée en 1948 puis reconstituée en 1997 par l’Université d’Ames.

Il convient de préciser qu’Atanasoff assiste en décembre 1940 au 107ème congrès de l’American Association for the Advancement of Science (AAAS) qui se déroule alors à Philadelphie. John Mauchly – enseignant de physique à Ursinus College – y donne une présentation de l’analyseur harmonique (probablement celui de la Moore School ou du MIT), machine qu’il utilise pour réaliser des calculs nécessaires aux prévisions météorologiques. Atanasoff se présente à Mauchly suite à l’exposé et les deux hommes entament une discussion sur les machines dédiées au calcul.

Mauchly exprime son vif intérèt pour le calculateur d’Atanasoff en cours de construction. Atanasoff explique en s’excusant à Mauchly qu’il a été prévénu par son juriste et par les responsables de l’Université de l’Iowa de ne pas divulguer d’information qui puisse compromettre le brevet. Mais il invite cependant Mauchly à Ames pour lui montrer le fonctionnement de son innovant calculateur. Mauchly accepte l’invitation et se rend à Ames le 13 juin 1941. Il passe quatre jours en compagnie de Berry et d’Atanasoff, prend des notes, demande une copie de la documentation de 35 pages alors écrite qui lui est cependant refusée. Lors du procès Honeywell contre Sperry Rand de 1973, le juge considère que le calculateur d’Atanasoff doit être considéré comme le premier de nature électronique, ce qui va faire dès lors faire tomber le concept dans le domaine public.

  • John Vincent Atanasoff (1903 – 1995) : Lien
  • John Mauchly (1907 – 1980) : Lien
  • Clifford Berry (1918 – 1963) : Lien
  • Atanasoff-Berry computer, 1942, Atanasoff, University of Iowa : Lien
  • Honeywell, Inc. v. Sperry Rand Corp., 1973 : Lien
  • John Vincent Atanasoff and the birth of electronic digital computing, 2011, JVA Initiative Committee and Iowa State University : Lien
2.1.5 George Stibitz

Revenons si vous le voulez aux Bell Labs de New-York en 1937, peu avant le premier stage de Shannon. Le mathématicien et physicien George Stibitz met au point en 1937 un prototype basique d’additionneur binaire nommé Model K. Le dispositif est composé simplement d’un circuit électrique et de deux relais téléphoniques. Le K signifie « kitchen » car le prototype a été confectionné dans la cuisine de Stibitz. Les Bell Labs confient ensuite à l’ingénieur placé sous la responsabilité de Samuel B. Williams la construction d’un calculateur basé sur des relais téléphoniques.

Le Complex Number Calculator ultérieurement rebaptisé Model I est dédié à l’arithmétique des nombres complexes. Le code de conversion du décimal en binaire développé par Stibitz sous la direction de Samuel Williams rend aisé la réalisation de série d’opérations. Deux unités de calcul physique tournent en parallèle, l’une pour la partie réelle et l’autre pour la partie imaginaire du nombre. Les données sont entrées à l’aide de plusieurs téléscripteurs brevetés, susceptibles de fonctionner en alternance sur le même calculateur. Les résultats sortent imprimés sur ces mêmes téléscripteurs.

Le Complex Number Calculator devient opérationnel en janvier 1940. Une démonstration de calcul à distance est restée fameuse. La convention annuelle de l’American Mathematical Society se déroule en septembre de la même année au Dartmouth College à Hanover, New Hampshire. Mauchly et Atanasoff s’y sont rencontrés comme nous l’avons vu. Stibitz installe un terminal en ces lieux et les participants sont invités à entrer leurs propres opérations en nombres complexes. Le résultat calculé par la machine distante localisée à New-York est imprimé quelques secondes plus tard. On compte également parmi les participants à l’événement John von Neumann, John Mauchly, Norbert Wiener, Warren Weaver.

  • Samuel Byron Williams, Bell Labs
  • George Stibitz (1904 – 1995) : Lien
  • Model K adder (1937), Stibitz : Lien, HOC, Vidéo 7:59
  • Complex Number Calculator (Model I), 1940, Stibitz, Bell Labs : Lien

2.2 Perception sociale des calculateurs et des robots

L’entre deux guerres fut fortement marqué par la crise économique des années 1930. Celle-ci survient simultanément avec la montée des nationalismes et du communisme hors de l’URSS. Du côté industriel, le fordisme et le travail à la chaîne émergent et permettent d’optimiser la production et les coûts. Les réseaux ferrés se développent alors que l’aviation prend son envol. L’époque est aussi celle du triomphe de la presse, du cinéma parlant et en couleur, de l’émergence de la radio et de la télévision.

C’est peut être à cela que servent les mythes : à comprendre notre propre vie lorsque les contextes sont changeants. En tous cas le mythe d’une machine capable de penser par elle-même, de même que celui d’un homme détenteur de pouvoirs inédits rencontrent un vif succès.

Événement grand public, la foule se presse à l’exposition universelle de New York. Celle-ci se déroule d’avril 1939 à octobre 1940. The World of Tomorrow est construit à Flushing Meadows et constitue une vitrine internationale des produits et services de l’époque. La foire est dédiée à la paix et à la modernité. Albert Einstein et le président Roosevelt prononcent les discours d’ouverture solennelle le 30 avril 1939.

AT&T, Western Electric et les Bell Labs dominent les services téléphoniques dans la plupart des états. Les trois sociétés collaborent étroitement sous le pavillon Bell System pour assurer respectivement leurs activités de fabrication de matériel électrique, de recherche et développement, de services téléphoniques nationaux et internationaux. Une série d’expériences interactives est proposée aux visiteurs parmi lesquelles un appel téléphonique longue distance pour n’importe quel état d’une valeur de 4$70, un test d’audition dont les résultats sont enregistrés sur carte perforée et analysés statistiquement. Actionné manuellement par une opératrice, le Voder d’Homer Dudley se montre capable de synthétiser la voix humaine de même que ses intonations.

Chez Westinghouse, société spécialisée dans le matériel électrique, la robotique de Joseph M. Barnett est à l’honneur. Barnett avait travaillé dès 1931 sur Willie Vocalite, un robot anthropomorphe de spectacle. Il renouvelle l’expérience pour la foire de New-York avec le duo Elektro et Sparko composé d’un « homme électrique » accompagné de son chien. Le physicien Edward Condon propose également au public un jeu de logique nommé Nimatron, d’après le jeu de stratégie Nim à deux joueurs. Plusieurs milliers de visiteurs jouent et affrontent la machine. Leur chance de succès est d’environ 20 pourcents.

Le stand de Radio Corporation of America (RCA) dont les activités vont de la fabrication de tubes électroniques et de radios à la construction de réseaux de stations radios connait également l’affluence, alors qu’Eastman Kodak propose ses premiers films couleurs et impose ses standards dans le domaine innovant et révolutionnaire des microfilms. Le 13 mai 1940 est déclaré IBM Day, le 3 juillet 1940 Superman Day. Une variété de nations sont représentées à la foire y compris le Japon, mais à l’exclusion de l’Allemagne.

  • Homer Dudley (1896 – 1980) : Lien
  • Joseph M. Barnett, Westinghouse
  • Edward Condon (1902 – 1974) : Lien
  • Voder, Dudley, Bell Labs, 1939 : Lien
  • 1939 New York World’s Fair (1939/04 – 1940/10) : Lien
  • NYC fair, 1939, R.C.A. – Radio Corporation of America : Lien
  • NYC fair, 1939, Eastman Kodak : Lien
  • Willie Vocalite, Westinghouse Electric, Joseph M. Barnett, 1931 : Lien
  • Elektro, Westinghouse Electric, Joseph M. Barnett, 1937 : Lien
  • Nimatron, Westinghouse Electric, Edward Condon, 1939 : Lien
La foire mondiale de New York 1939 : entrée du pavillon Bell System (Association Hildreth Meière) avec le nouveau logo de 1939 : Lien

2.3 Un Contexte politique incertain

La France et le Royaume-Uni déclarent la guerre simultanément le 3 septembre 1939 suite à l’invasion de la Tchécoslovaquie et de la Pologne. Aux États-Unis, la loi de neutralité devient adoptée le 4 novembre 1939. Le groupe de pression America First Committee formé en septembre 1940 se montre particulièrement actif en vue de promouvoir le pacifisme. Le démocrate Franklin Roosevelt, l’homme du New Deal, est réélu pour un troisième mandat consécutif en novembre 1940 avec la promesse fermement déclarée que les États-Unis resteront à l’écart des conflits européens.

Des séries d’événements se succèdent sur terre et sur mer. Roosevelt apporte de premiers soutiens aux pays alliés. La Bataille de France dure de mai à juin 1940 et se conclut pour les troupes britanniques, françaises, cannadiennes et belges sur les plages de Dunkerque. La Bataille d’Angleterre débute en juillet de la même année. Il s’agit pour la Luftwaffe de s’assure de la maitrise des airs des cieux brittaniques.

Plusieurs changements d’organisation sont successivement décidés aux États-Unis à partir de 1940 et Bush en devient rapidement l’un des acteur incontournable. Le parcours national du professeur en électrotechnique du MIT débute par sa nomination en 1938 au Carnegie Institution for Science, un organisme de financement de la recherche basé à Washington dont il devient président en janvier 1939. Il est également nommé en août 1938 président du National Advisory Committee for Aeronautics (NACA), une agence fédérale américaine chargée de la recherche dans le domaine aéronautique.

2.3.1 La création du NDRC

Bush présent à Washington pour ses fonctions au Carnegie obtient un entretien avec Roosevelt le 12 juin 1940. Il propose la création d’un comité dédié au soutien des activités de défense dans lequel universitaires, entreprises et militaires échangeraient sur des questions technologiques. Roosevelt accepte et Bush devient président de séance du National Defense Research Committee (NDRC). Les membres sont à la fois des présidents d’universités et d’institutions auxquels sont adjoints des représentants de l’armée de terre et de la marine. Parmi ceux-ci se trouvent Frank B. Jewett, directeur des Bell Labs et également président de la National Academy of Sciences, Karl Compton – président du MIT, James Bryant Conant – président d’Harvard. Richard C. Tolman professeur de physique et de mathématique au California Institute of Technology est élu vice-président. Irvin Stewart assure le secrétariat. Parmi les militaires, le vice-amiral Harold Bowen représente la Marine, le général George Strong l’Armée de Terre.

Les missions de l’organisme sont de « coordonner, superviser et conduire la recherche scientifique sur les problèmes sous-jacents à la conception, à la production et à l’utilisation des mécanismes et dispositifs militaires ». Des contrats sont attribués aux universités et entreprises pour différents projets visant à soutenir l’effort militaire dans l’hypothèse d’un conflit. L’agence prend rapidement de l’importance et se structure pour mener des études dans différents domaines.

  • National Defense Research Committee (1939 – 1947) : Lien
2.3.2 La mission Tizard et le Rad Lab

C’est en septembre 1940, alors que débute la Bataille d’Angleterre, que parviennent à New-York via le Canada les britanniques de la Mission Tizard ainsi nommée d’après le nom de son chef Henry Tizard, commisionné par le Committee for the Scientific Survey of Air Defence et par Churchill. Les sept membres du groupe parmi lesquels le gallois Edward George Bowen spécialiste d’un système de télédétection basé sur un faisceau d’ondes radios et de ses applications rencontrent notamment Bush, Jewett et Compton.

Ils apportent dans leurs valises un magnétron à micro-ondes, dispositif émetteur clé pour la mise au point de radars dont la performance s’avère une centaine de fois supérieure aux dispositifs américains alors développés par le Signal Corps et la US Navy. Les applications du dispositif incluent la télédétection à longue distance des aéronefs et des navires, le guidage de tir. Des versions embarquées dans des bateaux et avions sont prévues. Les Bell Labs testent soigneusement à New-York le magnétron à cavités issu de l’Université de Birmingham et fabriqué à Londres par la General Electric Company. Ils en proposent une nouvelle version industrielle plus aisée à produire en quelques mois.

Le Radiation Laboratory (Rad Lab) est ensuite créé au MIT et ouvre en novembre 1940 pour appuyer le développement de différents types de radars. Alors que les efforts de recherche sur les autres armements se trouvent répartis sur le territoire américain, les développements seront effectués au MIT. La production sera assurée par Raytheon pour cette technologie critique. Le nom même de Radiation Laboratory est choisi pour des raisons de sécurité. Un ennemi pourrait confondre le Rad Lab du MIT actif sur les ondes centimétriques avec le Rad Lab de Berkeley du prix Nobel de physique 1940 Ernest Lawrence, actif sur l’arme nucléaire. Le spécialiste des tubes à vide Percy Spencer de Raytheon va également apporter une contribution décisive dans la mise au point des aspects électroniques des radars américains.

Le terme américain Radar (Radio Detection And Ranging) devient créé par les américains puis adopté par les britanniques à partir de 1941. Une version aéroportée est testée au début de cette même année, embarquée dans les avions pour détecter les appareils ou bateaux ennemis. La société Raytheon dont Bush est l’un des cinq présidents en assure la production de masse. D’autres secrets militaires échangés par la mission Tizard concernent les moteurs à réaction, la faisabilité d’une bombe atomique, la fusée de proximité radio-déclenchée selon le principe du radar. Une coopération tripartite Royaume-Uni – Canada – États-Unis en matière d’intelligence et de technologie militaire débute préalablement à la déclaration américaine.

  • Henry Tizard (1885 – 1959) : Lien
  • Edward George Bowen (1911 – 1991) : Lien
  • Percy Spencer (1894 – 1970) : Lien
  • Saad T. A., 1990, MIT Radiation Laboratory : Lien
  • Mission Tizard (1940) : Lien
  • Advisory Committee for Aeronautics : Lien
  • MIT Radiation Laboratory : Lien
  • Blanchard Y. et Al, 2013, The Cavity Magnetron: Not Just a British Invention [Historical Corner] : Lien
2.3.3 Weaver et la Division 7 du NDRC

A New-York, dès 1940 également, Warren Weaver quitte ses fonctions de directeur du département Sciences de la Nature à la Fondation Rockefeller pour s’engager en tant que volontaire dans l’US Air Force. Nous l’avons vu actif sur le financement du Differential Analyzer de Bush. La fondation soutient également à la fin des années 1930 l’observatoire du Mont Palomar en Californie et son télescope de 5 mètres de diamètre. Weaver n’est en rien spécialiste de balistique mais il trouve une analogie entre la visée d’une étoile et sa poursuite par un télescope et la visée d’un avion ennemi par un dispositif de tir. Tout est question de trajectoire qu’il est possible de calculer mathématiquement à l’aide d’équations différentielles.

Bush charge Weaver d’organiser la section contrôle de tir, Division 7 du NDRC nouvellement créée. Ses missions incluent le financement de contrats auprès des universités et de l’industrie dans le domaine du contrôle des tirs antiaériens, les servomécanismes, les procédés de visée optique. Parmi les membres de la Division 7, Samuel Caldwell et Ivan Getting du MIT, Thornton Fry, George Stibitz et Walter MacNair des Bell Labs, Edward Poitras de Ford Instrument, et des scientifiques de firmes telles que Barber Coleman Company, Sperry Gyroscope, Foxboro Company. Le Fire Control Research Office spécialisé en statistiques et en relation avec l’Arsenal Frankford est également créé à Princeton. John Tukey qui vient d’obtenir son doctorat y est civilement mobilisé et travaille en compagnie de Samuel Wilks et William Cochran sur des questions statistiques.

Les efforts précédant l’entrée en guerre américaine concernent aux Bell Labs la mise au point d’un calculateur de tir dirigé électriquement. Bush, Weaver de même que les militaires du Signal Corps considèrent prioritaire un tel dispositif car les possibilités de vitesse et d’altitude des avions augmentent. Weaver organise dans ses projets des équipes interdisciplinaires dans lesquelles physiciens, économistes et mathématiciens sont amenés à intervenir sucessivement. Shannon recruté par Thornton Fry de décembre 1940 à août 1941 arrive aux Bell Labs avec le titre de consultant et débute ainsi son activité à la fois militaire et professionnelle.

  • Frank B. Jewett (1879 – 1949), Bell Labs : Lien
  • Karl Compton (1887 – 1954), MIT : Lien
  • Thornton Carle Fry (1892 – 1991), Bell Labs : Lien
  • James Bryant Conant (1893 – 1978), Harvard : Lien
  • Edward Poitras (1911 – 1981), Ford Instrument : Lien
  • Walter MacNair, Bell Labs
  • Ivan A. Getting (1912 – 2003), MIT : Lien
  • John Tukey (1915 – 2000), Princeton : Lien
  • Comité America First (1940 – 1941) : Lien
  • Mindel D., 2002, Between Human and Machine : Feedback, Control, and Computing Before Cybernetics
2.3.4 Le Telecommunication Research Establishment à Malvern College

Durant la première guerre mondiale, Londres avait subi des bombardements menés par des Zeppelins capables de se déplacer à des vitesses de plus de 100 km/h. De nouvelles classes de bombardiers avaient été mises au point depuis, susceptibles d’échapper à la DCA. Le Committee for the Scientific Survey of Air Defence (CSSA) est créé en 1934 à l’initiative d’Harry Wimperis alors directeur du Département de Recherche Scientifique au Ministère de L’Air du Royaume-Uni. Henry Tizart en est nommé président. Des recherches et annonces sont à cette époque faites par différents inventeurs parmi lesquels Nikola Tesla concernant l’intérêt d’un « rayon de la mort » susceptible par exemple de détruire en vol un aéronef ennemi.

C’est en 1935 que Robert Watson-Watt, membre du National Physics Laboratory (NPL) à Teddington, expert dans le domaine de la météorologie et des radios est amené à se prononcer sur la possibilité de l’existence d’un tel rayon. Watson-Watt transmet le problème à Arnold Wilkins, membre de son équipe. Celui-ci démontre aisément le caractère impossible en terme énergétique d’un tel « rayon de la mort », mais il calcule cependant qu’un appareil métallique localisé à une certaine distance reflèterait une quantité d’énergie suffisante pour être détecté. Watson-Watt rédige sa réponse à Wimperis et Tizard. La petite équipe du NPL poursuit ses investigations sur la radiodétection en ondes courte des aéronefs. Watson-Watt envoie le 12 février 1935 son mémorandum Detection of Aircraft by Radio Methods et il est invité à réaliser une démonstration de ses alégations. L’expérience se déroule à Davenport le 26 février 1935. Elle permet la détection d’un bombardier du type Handley Page Heyford dans différentes conditions de vol.

Watson-Watt brevète un système en septembre 1935 de radar de détection précoce. Le signal radio primaire est émis par un émetteur radio à ondes courtes. La position de l’aéronef recherché est donnée par détection du signal détecté à l’aide d’un tube cathodique suivi d’une triangulation. Watson-Watt devient ensuite nommé en 1936 directeur de la Station de Recherche de Bawdsey pour le compte du Ministère de l’Air, plus connue sous le nom de Air Ministry Experimental Station (AMES). Ses travaux pionniers aboutissent dès 1939 à la création d’un double réseau de radars nommé Chain Home pour la détection à grande distance et Chain Home Low pour la courte distance.

L’AMES de Bawdsey est finalement renommée Telecommunication Research Establishment (TRE) en novembre 1940 et s’installe après plusieurs déménagements en 1942 au collège de Malvern dans des baraquements construits dans le parc de l’école. Deux mille techniciens, ingénieurs, pilotes et marins en civil travaillent en ces lieux sur les technologies RADAR et leurs applications. La question de mémorisation des signaux intéresse un certain nombres de ceux-ci et des électroniciens issus du TRE et rompus aux technologies radar vont fabriquer et recycler certains de ces composants quelques années plus tard.

  • Harry Wimperis (1876 – 1960) : Lien
  • Robert Watson-Watt (1892 – 1973) : Lien
  • Arnold Wilkins (1907 – 1985) : Lien
  • RAF Bawdsey : Lien
  • GB593017A Improvements in or relating to wireless systems, 1935, 1937 : Lien
  • Air Ministry Experimental Station (1936 – 1939) : Lien
  • Telecommunications Research Establishment (1940 – 1953) : Lien
  • Brian Austin, 2015, The Daventry Experiment : The Birth of British Radar : Lien
  • Malvern Radar and Technology History Society : Lien
2.3.5 Le développement du radar en allemagne

Plusieurs techniciens allemands apportent également à partir de 1935 des contributions décisives Les technologies radar débutent cependant plusieurs années. Six applications principales des ondes radios en ultra haute fréquence et des micro-ondes voient le jour en Allemagne de 1935 à 1945.

Aircraft Warning  |  Ship Board  |  PPI | Airborne | Telegraphy | ILS

  • Martin Hollmann, 2018, Radar World : Lien
  • Le Fabuleux Destin des Inventions – Le Radar, un Enjeu Militaire : Lien

3. Shannon de 1941 à 1948

Financé par le Congrès de manière plus officielle que le NDRC, l’Office of Scientific Research and Development (OSRD) est créé à partir de fin juin 1941. L’OSRD supervise les travaux d’un NDRC réorganisé, supervise les recherches dans le domaine de la médecine de même que dans le domaine nucléaire plus particulièrement suivi par les militaires. Bush confie à James Conant d’Harvard la direction du NDRC et prend les reines de l’OSRD pour référer de l’avancement des travaux à Roosevelt.

Suite à l’attaque de Pearl Harbor du 7 décembre 1941, les États-Unis entrent en guerre contre le Japon, l’Allemagne et l’Italie. L’attaque marque considérablement l’opinion publique par son effet de surprise d’un côté, et par l’usage des porte-avions, nouvelle classe de bâtiment dont sont pourtant dotées les marines principales des nations de cette époque.

Parmi les changements au NDRC, Weaver de la fondation Rockefeller passe de la direction du contrôle de tir anti-aérien confiée à Hazen du MIT, à celle de la direction de l’Applied Mathematics Panel (AMP). Cette section nouvellement créée est chargée de résoudre les problèmes mathématiques rencontrés dans les différentes divisions du NDRC. Le terme « panel » est utilisé pour distinguer les groupes dont les activités ne sont pas dédiées à une tâche spécifique mais multidisciplinaires. L’autre « panel » concerne la psychologie appliquée, placée sous la direction de Walter Samuel Hunter, un psychologue précédemment actif lors du premier conflit.

Les dirigeants de l’AMP basés à Manhattan sont amenés à négocier au nom du NDRC avec des entrepreneurs et contractants. Parmi ces experts Thornton Fry, Mina Rees, Richard Courant récemment immigré d’Allemagne, Saunders Mac Lane, W. Allen Wallis, Griffith Evans de Berkeley, Merrill Flood de Princeton, Marston Morse, John von Neumann à l’IAS la plupart actifs dans l’American Mathematical Society. Les résultats attendus se montrent aussi bien intellectuels qu’expérimentaux. Les divisions D-2 puis 7 du NDRC supervisent en cinq ans 80 contrats d’un montant total supérieur à 10 millions de dollars. Ces contrats forment à l’issue du conflit le coeur des travaux sur les systèmes de contrôle et les servomécanismes.

A noter que Thornon Fry des Bell Labs publie dès juillet 1941 sa vision des mathématiques appliquées à l’industrie dans son article « Industrial Mathematics ». Les secteurs des communications, de la production d’électricité, du pétrole et de l’aéronautique sont passés en revue. Le profil psychologique des membres d’un laboratoire de mathématiques appliquées de même que l’organisation idéale d’un service sont abordés.

Mina Rees joue le rôle de secrétaire de Weaver à partir de 1943. A l’époque enseignante en université, elle est nommée « aide technique » et livre plusieurs témoignages dans son interview de 1969 et dans son article de 1980 The Mathematical Sciences and World War II. Les publications du NDRC en 70 volumes datées de 1946 constituent d’autres sources précieuses pour les historiens des multiples contrats, résultats intellectuels et systèmes expérimentaux produits.

  • Griffith Evans (1887 – 1973) : Lien
  • Richard Courant (1888 – 1972) : Lien
  • Walter Samuel Hunter (1889 – 1954) : Lien
  • Marston Morse (1892 – 1977) : Lien
  • Mina Rees (1902 – 1997) : Lien
  • Merrill M. Flood (1908 – 1991) : Lien
  • Computer Oral History, Mina Rees, 1969 : Lien
  • Office of Scientific Research and Development (1941-1947) : Lien
  • Applied Mathematics Panel : Lien
  • Guide to the Computer Oral History Collection : Lien
  • Fry C. E., 1941, Industrial Mathematics : Lien
  • Rees M., 1980, The Mathematical Sciences and World War II : Lien

3.1 Commande de tir antiaérien aux Bell Labs

Les Bell Labs sont en instance de déménagement en 1940 et 1941. Les locaux de West Street, New York se montrent trop étroits et le site retenu Murray Hill se trouve non loin de là dans le New Jersey, sur l’autre rive du fleuve Hudson. C’est encore à West Street que David Bigelow Parkinson aidé de son supérieur hiérarchique Clarence A. Lovell se montrent dès juin 1940 à l’origine d’un projet de système de défense antiaérien motorisé électriquement. Le développement en est activement soutenue par Frank Jewett, Thornton Fry, Warren Weaver et approuvée par l’Army Signal Corps, unité en relation privilégiée de longue date avec les Bell Labs.

Le jeune Shannon travaille avec Richard B. Blackman sous la direction d’Hendrik Bode au sein du département de mathématiques des Bell Labs. Ses travaux portent sur le calculateur M-9 director du dispositif. L’engin analogique temps réel est dédié à la commande de tir d’une batterie de quatre canons antiaériens. Des informations entrantes proviennent de viseurs optiques manipulés par des opérateurs. La position de l’avion en mouvement est inférée et retransmise aux servomécanismes des canons sous la forme d’informations dynamiques. Des équations intégrales et équations aux dérivées partielles se trouvent résolues par le calculateur avec la méthode de Wiener-Hopf, technique mise au point peu de temps auparavant par Norbert Wiener. Ce sont ces mêmes équations qui se trouvent résolues par les analyseurs différentiels, mais en temps différé.

Les munitions de la batterie se trouvent elles-mêmes programmées pour exploser non pas au contact de la cible mais à proximité ce qui nécessite d’en contrôler l’altitude d’explosion. Approuvé par l’armée de l’air en 1942, le calculateur M-9 des Bell Labs devient un des éléments de la batterie antiaérienne SCR-584. Le dispositif devient diffusé en plusieurs versions. Un mode de poursuite automatique des cibles par radar complète le dispositif en 1944. Le radar se verrouille automatiquement sur l’avion ennemi grâce à des servomécanismes installés dans la base de l’antenne.

Un calculateur ultérieurement nommé Model II conçu par Stibitz sert à tester les performances du M-9. La démonstration d’une installation de DCA complète est organisée en 1943 dans la cours des tout nouveaux bâtiments des Bell Labs de Murray Hill. Le dispositif va jouer un rôle défensif actif, notamment lors des opérations de bombardement de 1944 et des raids de missiles V1.

Shannon publie en 1942 un document resté longtemps classé The theory and design of linear differential equation machines. Une application des graphes de flux de signal – une sorte de graphe dirigé – consiste en la mise au point de circuits qui rendent possible et instantané en électronique analogique la résolution d’équations différentielles linéaires. Un rapport classé également sera finalement publié en 1948 dans Research and Development Board. Data Smoothing and Prediction in Fire-Control Systems et signé de Blackman, Bode et Shannon.

A New York au laboratoire de recherche opérationnelle de Columbia, Norbert Wiener a décroché deux contrats avec le NDRC. Il travaille aidé de son assistant Julian Bigelow sur le problème du contrôle des tirs antiaériens. Bigelow est comme Shannon titulaire d’un double master de génie électrique et de mathématiques obtenu au MIT. Les aspects mathématiques du guidage et de la servocommande des batteries antiaériennes sont également étudiés par ce petit groupe et aboutissent à la publication d’un rapport classé.

Postérieurement à la publication, Wiener entreprend en compagie du physiologiste Arturo Rosenblueth, spécialiste de l’homéostasie dans le vivant et de Bigelow la rédaction de Behavior, Purpose and Teleology / Comportement, objectif et téléologie, article dans lequel quelques unes des idées de la cybernétique se trouvent énoncées. L’article est publié en 1943 après que Wiener ait visité pour le compte du NDRC de multiples sites universitaires et industriels.

  • Ralph Beebe Blackman (1904-1990) : Lien
  • Hendrik Wade Bode (1905-1982) : Lien
  • Clarence A. Lovell
  • David Bigelow Parkinson (1911 – 1991) : Lien
  • Julian Bigelow (1913-2003) : Lien
  • A. Rosenblueth, N. Wiener et J. Bigelow, 1943, Behavior, Purpose and Teleology
  • V. Bush, J. B. Conant, H. L. Hazen, 1946, Summary Technical Report of Division 7, NDRC, Vol 1, Gunfire Control
  • Blackman R. B., Bode H. W., Shannon C. E., Data Smoothing and Prediction in Fire-Control Systems, in Gunfire Control, NDRC, OSRD
  • D. A. Mindell, 2000, Automation Finest Hour: Radar and System Integration in World War II in Systems, Experts, and Computers: The Systems Approach in Management and Engineering, World War II and After : Lien
  • M. M. Irvine, 2001, Early Digital Computers at Bell Telephone Laboratories, IEEE Annals of the History of Computing
  • J. Segal, 2004, Du comportement des avions ennemis aux modélisations de la connaissance : la notion scientifique et technique d’information : Lien
  • SCR-584: Lien
NDRC, Vol 1, Gunfire Control, Chap 7, p75. Le circuit avec dérivation, lissage des données entrantes et rétro-action pour contrôle de l’azimuth des coordonnées des canons
Publicité de Juin 1944 pour le financement de l’effort de guerre, Western Electric : Lien

3.2 Chiffrement de la voix

Shannon se trouve ensuite affecté sur un projet de radiotéléphonie chiffrée. SIGSALY est mis au point de 1942 à 1943 toujours en collaboration avec l’Army Signal Corps. Homer Dudley, l’auteur du Voder met au point les circuits électriques sur cet émetteur-récepteur en ondes haute fréquence dont le signal est crypté. Shannon se souvient dans son histoire orale de 1982 d’une ambiance spéciale dans laquelle les informations stratégiques ne sont diffusées que de manière confidentielle et cloisonnée.

Parmi ses souvenirs évoqués en 1982, il se souvient d’avoir déjeuné plusieurs fois à la cafétéria des laboratoires en compagnie de John Riordan, l’un de ses collègues spécialiste de la combinatoire et d’Alan Turing. Le consultant britannique alors réputé aussi excentrique que brillant se trouve en visite pour quatre mois aux Etats-Unis.

Turing avait séjourné de 1936 à 1938 à Princeton pour y obtenir son doctorat et y avait notamment construit durant l’été 1937 un calculateur à relais dédié à la multiplication. Grandement impressionné par son article de 1936 On Computable Numbers, with an Application to the Entscheidungsproblem, Von Neumann avait proposé au britannique un poste d’assistant à l’issue de sa thèse. Celui-ci décline l’offre pour retourner en Angleterre.

Turing se trouve à cette époque en activité à Bletchley Park sur le décryptage des radio-messages allemands. De l’autre côté de l’Atlantique, de premières bombes électromécaniques sont également fabriquées suite à de multiples échanges d’informations entre les armées polonaises et françaises, puis britanniques et américaines. Joseph Desch associé au National Cash Register fabrique des bombes cryptologiques pour le compte de la Navy. Celles-ci deviennent opérationnelles à partir de mai 1943. Turing se trouve présent en mission de novembre 1942 à mars 1943 dans le but d’expertiser les caractéristiques de chiffrement de SIGSALY, d’apporter un avis et de partager certaines informations susceptibles de faciliter le fonctionnement des machines américaines.

Les alliés sont en effet confrontés à plusieurs versions de la machine cryptographique de terrain Enigma mise au point par Chiffriermaschinen AG. Un téléscripteur chiffré lourd SZ40 connu sous le nom de machine de Lorenz est fabriqué à partir de 1940 par C. Lorenz AG. Il est suivi en 1942 du modèle SZ42. L’entreprise Siemens & Halske fabrique de son côté le Geheimshreiber T52. Et à partir de juin 1941, les services de renseignement militaire britanniques nomment Ultra pour Ultra-secret les méthodes utilisées pour le renseignement radio, outil d’information militaire et civile, de propagande et de désinformation.

Après 11 mois de construction par une équipe de trois personnes dirigée par Thomas Flowers, le Colossus Mark 1 devient opérationnel en décembre 1943. Dix exemplaires en seront construits. La machine est spécifiquement dédiée à la cryptanalyse des messages du G-Schreiber de Siemens & Halske. Conçu à dessein, le Colossus Mark 1 est le deuxième calculateur après celui d’Atanasoff de l’Iowa State College (1942) fonctionnant à l’aide de tubes à vide pour ses fonctions logiques. Les messages radios interceptés en Europe et sur les mers deviennent déchiffrés en grand nombre côté britannique et américain mais avec des échanges fort rares et passant par la voie hiérarchique au plus haut niveau.

Shannon se souvient de discussions avec Turing dans lesquelles la cryptologie n’aurait pas été du tout abordée pour raison de secret militaire. Il garde le souvenir de sujets portant sur le fonctionnement du cerveau humain, sur celui des machines et de ce qu’il est autorisé d’en attendre. Les calculateurs pourront ils imiter un jour la pensée humaine pour faire autre chose que du calcul ? Des machines bio-inspirées pourront elle imiter les raisonnements humains non seulement pour réaliser des calculs mais encore pour communiquer ?

L’article du musée virtuel néerlandais cryptomuseum.com révèle une activité de Turing et Shannon non négligeable sur SIGSALY. Les États-Unis réalisent que lors d’une attaque militaire ou de négociations diplomatiques, la voix s’avère critiquement et psychologiquement nécessaire lors des échanges et négociations quelque soit leur niveau. Mais aucun système crypté fiable de la parole n’existe pas en 1941. Les échanges à l’aide des Speech scramblers – les brouilleurs de voix – peuvent être en effet décodés.

Développé aux États-Unis à partir de 1942, SIGSALY devient fonctionnel en avril 1943. L’appareil de 50 tonnes reste en activité jusqu’en 1946. Bien que remarquablement volumineux, coûteux pour son fonctionnement en moyens humains et en énergie, il apporte de nombreuses innovations. La numérisation et le chiffrement d’un signal vocal en modulation d’impulsion codée (PCM) sont utilisés. Plusieurs opérations se succèdent : échantillonnage, quantification, codage de la parole, transmission en ondes courtes.

Shannon se spécialise sur la modulation d’impulsion codée. Il intervient également en tant que cryptanalyste et travaille notamment avec John Robinson Pierce sur les aspects techniques de chiffrement de la voix numérisée. Un bruit de fond enregistré sur disque vinyl – un signal analogique mémorisé – sert de masque jetable (chiffre de Vernam, one-time pad, clef de chiffrement) pour crypter et décrypter en temps réel le message codé. Des horloges doivent être synchronisées côté émetteur et récepteur pour que le système soit opérationnel. Les disques à usage unique doivent être transportés physiquement et constituent la clé partagée entre l’émetteur et le récepteur. La radiocommunication se fait comme pour les radiotéléphones classiques de l’époque en ondes à haute fréquence.

Des exemplaires de SIGSALY seront successivement déployés à Washington, Londres, Alger, Brisbane, Hawaï, Oakland, puis après la libération de l’Europe à Paris, Guam, et après-guerre à Francfort, Berlin, Tokyo, Manille. Le premier réseau de radiotéléphonie dédié aux communications diplomatiques et du haut commandement se trouve ainsi créé, utilisé notamment par Roosevelt, Truman, Churchill et différentes armées jusque dans l’immédiat après-guerre.

SIGSALY, Crypto Museum, Lien
  • John Riordan (1903 – 1988) : Lien
  • Tommy Flowers (1905 – 1998) : Lien
  • Joseph Desch (1907 – 1987) : Lien
  • John Robinson Pierce (1910 – 2002) : Lien
  • Alan Turing (1912 – 1954) : Lien
  • Turing, 1936, On Computable Numbers, with an Application to the Entscheidungsproblem, PLMS, Lien
  • B. Casselman, 2006, Blueprint for a Turing Machine: About the Cover … and a Bit More : Lien
  • Ultra (nom de code) : Lien
  • SIGSALY : Lien 1, Lien 2
  • Bombe : Lien
  • Colossus (ordinateur) : Lien

3.3 Plusieurs calculateurs militaires

Plusieurs innovations remarquables dans le domaine des machines dédiées au calcul se trouvent réalisées aux Etats-Unis entre 1941 et 1945.

3.3.1 George Stibitz et Samuel Williams aux Bell Labs

Les laboratoires Bell entreprennent la construction de plusieurs calculateurs à relais à objectifs spéciaux puis généraux à partir de 1945. Parmi ceux-ci, il est possible de citer la machine nommée « Madame X » finalisé en octobre 1943 et au cout d’un million de dollars de l’époque. Stibitz devient employé par le NDRC à partir de 1941, tout en poursuivant ses travaux aux Bell Labs. La machine est dédiée à la cryptanalyse d’une version d’Enigma à trois rotors. Cependant l’engin peu documenté ne sera utilisé finalement que dans un objectif de recherche. Les Bombes américaines fabriquées par Desch et National Cash Register coutent en effet 45 000 $ l’unité et se montrent effectives face à des machines à quatre rotors allemandes. C’est plus le décryptage du chiffre japonais qui mobilise le Signal Intelligence Service de l’Armée US et ses spécialistes.

Un autre calculateur spécial est dédié à la simulation de tirs en vue d’éprouver la fiabilité du directeur de tir M-9…

  • Signal Intelligence Service : Lien
  • Joseph Desch (1907-1987), bombe cryptanalytique : Lien
Dessin d’un calculateur à objectif général, Williams, Stibitz, Bell Labs, non daté : Lien
3.3.2 Howard Aiken à Harvard, l’ASCC ou Harvard Mark I

Un autre calculateur localisé au centre de calcul d’Harvard résulte d’une collaboration entre Howard Aiken et IBM initiée dès novembre 1937. La construction de l’Automatic Sequence Controlled Calculator (ASCC) débute en 1939. Frank E. Hamilton, Clair D. Lake et Benjamin M. Durfee travaillent à Endicott, New York à la réalisation du prototype. La compagnie livre l’engin essentiellement électromécanique au laboratoire de physique le 7 août 1944. Aiken forme dès 1943 une petite équipe de « codeurs » afin de tester et programmer la machine prévue pour les calculs de la Navy.

Grace Hopper, une jeune enseignante de mathématiques rejoint en 1944 Richard Milton Bloch et Robert Campbell. Elle considère qu’il deviendra un jour possible de créer un langage basé sur l’anglais, dédié à la programmation. Les programmes sont enregistrés sous forme d’un large ruban perforé spécial, comme avec le Rockefeller Differential Analyzer du MIT. Les boucles de programmation sont physiquement préparées en collant la bande en un cercle. Les données sont entrées et sorties sous forme de carte perforée IBM classique. Programmes et données à traiter sont stockés et exécutés sur des unités distinctes (architecture de type Harvard). Un conflit entre Harward et IBM conduit à l’arrêt de la coopération entre l’université et la compagnie. L’ASCC deviend renommé Harvard Mark I. Von Neumann utilise occasionellement la machine, en particulier dans le cadre du projet Manhattan. Il intervient également avec le titre de consultant en vue d’en apprécier le fonctionnement.

  • Clair D. Lake (1888 – 1958) : Lien
  • Benjamin M. Durfee (1897 – 1980) : Lien
  • Frank E. Hamilton (1898 – 1972) : Lien
  • Howard Aiken (1900 – 1973) : Lien
  • Grace Hopper (1906 – 1992) : Lien
  • Robert V. D. Campbell (1916 – ?) : Lien
  • Richard Milton Bloch (1921 – 2000) : Lien
  • Harvard Mark I, ASCC (1944) : Lien1, Lien 2 (Harvard)
  • Oral history interview with Robert V. D. Campbell, 1984, Charles Babbage Institute : Lien
3.3.3 Le laboratoire de balistique d’Aberdeen

Le Ballistic Research Laboratory du terrain d’essai militaire d’Aberdeen, Maryland joue un rôle particulier pendant le deuxième conflit en optimisant son analyseur différentiel et en commandant plusieurs autres calculateurs innovants. Aberdeen héberge au plus fort du deuxième conflit 2300 officiers et 24000 enrôlés. Un centre de calcul y fonctionne de manière intensive. Des machines dédiées essentiellement au calcul des tables de tir sont commandées par le laboratoire qui collabore étroitement avec la Moore School of Electrical Engineering de l’université de Pennsylvanie à Philadelphie.

Shannon se rend à Aberdeen pour écrire en compagnie de William Feller un rapport diffusé de manière restreinte en 1943 pour le compte de l’Applied Mathematics Panel. Le document est intitulé On the integration of the ballistic equations on the Aberdeen Analyzer / Sur l’intégration des équations de la balistique sur l’analyseur différentiel d’Aberdeen. La machine est une copie des versions standard du MIT que Shannon connait bien.

Originaire de Croatie et arrivé aux Etats-Unis en 1939, William Feller avait obtenu son doctorat en 1926 à Göttingen et devient considéré comme l’un des tout meilleur probabiliste non russe. Il initie en 1940 l’édition de la revue de mathématique pure et appliquée Mathematical Reviews fondée dans le but de concurrencer l’influent Zentralblatt für Mathematik. Le rapport de Feller et Shannon commente des informations orales reçues des opérateurs de l’analyseur. La procédure d’intégration mécanique des équations différentielles de la balistique est examinée. Des montages alternatifs de l’analyseur sont discutés et des recommandations données dans le but de gagner en précision, tout en réduisant l’étendue des variables entrées dans les intégrateurs.

Une autre machine spéciale est réalisée par IBM pour le terrain d’essai d’Aberdeen. Wallace Eckert alors directeur du centre de calcul de l’observatoire de la marine à Washington contribue à la spécification de l’IBM Relay Calculator. L’équipe d’IBM est menée par C.D. Lake et B.M. Durfee préalablement actifs sur l’ASCC d’Harvard. L’unité logique est mue par des relais. La programmation se fait à l’aide d’un panneau à enficher amovible, dispositif de programmation par câblage classique alors sur les tabulatrices IBM. L’ IBM Relay Calculator entre en activité en décembre 1944 et se montre vingt fois plus rapides que l’ASCC. Deux autres prototypes à relais seront livrées en septembre 1946 au Watson Scientific Computing Laboratory de New-York et à la Navy au terrain d’essai militaire de Dahlgren, Virginie.

  • William Feller (1906 – 1970) : Lien 1, Lien 2
  • W. Feller, C. Shannon, 1943, On the integration of the ballistic equations on the Aberdeen Analyzer : Lien
  • IBM Relay Calculator, Aberdeen Calculator (1944) : Lien
3.3.4 John Mauchly, Presper Eckert et l’ENIAC

Le laboratoire d’Aberdeen avait également passé commande en 1943 de l’ENIAC (Electronic Numerical Integrator And Computer) à la Moore School de Philadelphie. John Mauchly et J. Presper Eckert ainsi que plusieurs autres techniciens de l’université sont chargés de la réalisation alors que von Neumann se montre actif sur ce projet également en tant que consultant. La machine constituée de 18 000 tubes à vides et dont les programmes sont câblés par une équipe d’opératrices entièrement féminine se trouve finalisée le 10 décembre 1945, quelques jours après la fin de la guerre.

Malgré des vitesses de calcul tout à fait remarquables apportées par les lampes éléctroniques, ce calculateur expérimental montre rapidement des limites liées à son architecture et la construction d’un nouveau modèle est envisagée.

  • John William Mauchly (1907 – 1980) : Lien
  • John Eckert (1919 – 1995) : Lien
  • ENIAC (1945) : Lien
1946 ENIAC Computer History Remastered, Computer History Archives Project, 9:37 : Lien
Opératrices sur ENIAC, février 1946, date de communication à la presse : Lien
3.3.5 First Draft of a Report on the EDVAC, John von Neumann

Enseignant à l’Université du Michigan, Herman Goldstine est enrôlé en 1942 et devient affecté en tant que Capitaine au Ballistic Research Laboratory d’Aberdeen. Il gère en 1945 la politique de confidentialité des documents. Un nouveau calculateur nommé Electronic Discrete Variable Automatic Computer (EDVAC) doit être construit. Von Neumann écrit sur la question un document incomplet et théorique de 101 pages daté du 30 juin 1945. Celui-ci s’intitule First Draft of a report on the EDVAC; Première version d’un rapport sur l’EDVAC. Les noms de Mauchly et Eckert qui ont pourtant participé aux spécifications ne sont pas mentionnés. Goldstine diffuse le rapport auprès d’une sélection d’ingénieurs et de scientifiques américains et britanniques peu avant la fin des hostilités.

Le document contient la première description publiée de l’architecture logique d’un calculateur dont la mémoire peut contenir simultanément les données et le programme – comme dans la machine envisagée par Turing. Le principe va devenir connu sous le nom d’Architecture von Neumann. Les parties constitutives d’un calculateur sont nommées : Central Arithmetic part (CA), Central Control part (CC), Memory (M), Input (I), Output (O), outside Recording device (R). Aux opérations arithmétiques élémentaires sont ajoutées les fonctions trigonométriques et racines avec un objectif de grande rapidité. Le terme « binary digit » est fréquemment employé dans ce rapport.

Une petite partie du document évoque l’analogie de fonctionnement entre un calculateur et un réseau de neurones. Des organes physiques dont les fonctions sont assignées au transfert de l’information doivent être présents dans les calculateurs électroniques. L’article théorique de 1943 de W. S. MacCulloch et W. Pitts « A logical calculus of the ideas immanent in nervous activity » constitue la seule référence bibliographique du rapport dans laquelle le neuroscientifique et le logicien tentent de démontrer qu’un automate du type machine de Turing peut être implémenté dans un réseau fini de neurones formels, autrement dit que des arrangements particuliers de neurone pourraient être à l’origine de raisonnements logiques.

L’architecture prévue pour l’EDVAC est dite « bit en série ». L’un des composants consiste en une mémoire à lignes de délai à mercure, technologie héritée des recherches sur le radar et mise au point par Eckert. Mauchly et Eckert publient leur propre rapport à l’intention du Laboratoire de Balistique. Cependant Mauchly envisage dès 1944 une éventuelle exploitation commerciale des technologies développées à la Moore School. C’est en effet dès cette époque que Mauchly rencontre un responsable du United States Census Bureau afin de discuter des besoins en la matière.

  • Herman Goldstine (1913 – 2004) : Lien
  • W. S. MacCulloch, W. Pitts, 1943, A logical calculus of the ideas immanent in nervous activity : Lien
  • J. von Neumann, juin 1945, First Draft of a Report on the EDVAC : Lien
  • J. W. Mauchly; J. Presper Eckert, 30 septembre 1945, Automatic high speed computing : a progress report on the EDVAC : Lien
  • Electronic Discrete Variable Automatic Computer, EDVAC (1949) : Lien

3.4 Contexte scientifique de 1945 à 1948

L’armisitice est signée en septemebre 1945. Des brevets et des publications deviennent alors publiés aux Etats-Unis en grand nombre, alors que des colloques rassemblent les acteurs et aboutissent à la formation de premiers réseaux professionnels. Des cours sont mis au point à Columbia de même qu’à la Moore School. IBM de même qu’Aiken, Eckert et Mauchly poursuivent les innovations avec des machines inspirées de leurs réalisations précédentes. Le président d’IBM Thomas Watson Sr crée en 1945 en partenariat avec l’université Columbia l’IBM Watson Laboratory at Columbia University.

3.4.1 Brevets, publications, cours et colloques

Petit clin d’œil à l’histoire, Shannon publie la veille de l’armistice, le 1er Septembre 1945 un article remarqué d’un faible nombre de spécialistes du fait de son caractère classé jusqu’en 1957, « A Mathematical Theory of Cryptography« . Des algorithmes codent des messages qui doivent être déchiffrés et peuvent être interceptés. Quatre ans plus tard, dans son papier de 1949 « Communication Theory of Secrecy Systems », Le mathématicien prouve entre autres choses que le masque jetable de Vernam correctement implémenté ne peut être déchiffré par un ennemi. Cette technique de cryptographie mathématiquement imparable montre cependant de sévères contraintes en matière de longueur et d’échange de la clef de chiffrement.

Les efforts fournis se tournent rapidement après guerre vers des applications civiles et commerciales. 32 brevets furent déposés sur SIGSALY et maintenus confidentiels pour certains pendant 32 ans. Shannon publie en 1946 en compagnie de Bernard Oliver son brevet américain sur la PCM rendu public en 1957 [US 2801281 : Lien]. Le brevet est précédé par celui de John Robinson Pierce [US 2437707 : Lien]. Les trois auteurs des Bell Labs publient conjointement en 1948 The Philosophy of PCM.

Un important colloque réunit au MIT du 29 au 31 octobre 1945 des invités britannniques et américains impliqués directement et indirectement dans la mise au point de machines innovantes dédiées au calcul. La conférence comprend 8 organisateurs et 84 invités. Le titre en est Conference on Advanced Computation Techniques. Le britannique Comrie préside, secondé de Caldwell du MIT. Le comité d’organisation comprend également Aiken, Derrick Lehmer de Berkeley actif sur l’ENIAC, le mathématicien Jeffrey Miller de Cambridge UK, George Stibitz, Irven Travis superviseur de la recherche à la Moore School et actif sur l’ENIAC, John Womersley, superintendant de la division des mathématique au National Physical Laboratory localisé non loin de Londres. Shannon assiste à l’événement en tant que membre des Bell Labs en compagnie d’Hendrik Bode, Samuel Williams, Harry Nyquist. Compton et Bush souhaitent la bienvenue aux participants. John Tukey membre du groupe des statisticiens de Princeton et intervenant aux Bell Labs est également présent.

  • Raymond Clare Archibald, 1946, Conference on Advanced Computation Techniques : Lien

Shannon a l’occasion de participer peu de temps après à l’école d’été de la Moore School organisée sur invitation en juillet et août 1946. Parmi les intervenants Eckert et Mauchly, alors partis en mars de la Moore School pour fonder la Eckert–Mauchly Computer Corporation (EMCC) en vue de commercialiser des calculateurs. Ils envisagent la construction d’un calculateur à destination du Bureau de Recensement. Herman Goldstine a rejoint von Neumann à l’IAS. Aiken poursuit ses travaux à Harvard et croit en la demande pour le marché d’un faible nombre de machines onéreuses. Stibitz quitte les Bell Labs en 1945 pour devenir consultant. Egalement présent parmi les constructeurs de composants, Jan A. Rajchman de Radio Corporation of America (RCA). Cette dernière firme active dans la fabrication des tubes à vide entend commercialiser des calculateurs. Maurice Wilkes de Cambridge UK a précédemment eu connaissance du rapport sur l’EDVAC et se trouve présent. Eckert n’hésite pas à critiquer nommément Shannon et les calculateurs à relais des Bell Labs, promouvant l’électronique de sa nouvelle société. Von Neumann brille par son absence.

D’autres colloques sont organisés l’année suivante. Un premier symposium, le Large Scale Digital Machinery se déroule au tout nouveau Computation Laboratory d’Harvard le 10 janvier 1947 et rassemble 336 représentants de laboratoires universitaires, de l’industrie et gouvernementaux. Le programme inclut une démonstration du Mark I d’Aiken, anciennement ASCC d’IBM et une visite du calculateur Mark II en cours d’assemblage pour le compte de la Marine Américaine.

Membres du Comité Temporaire de l’EACM, 1947 : Lien

Un autre colloque débute à l’Université de Columbia le 15 septembre 1947. Il rassemble un public de 78 personnes de la côte Est intéressées par les calculateurs de nouvelle génération construits pendant la guerre. De nombreux participants ont préalablement travaillé sur ces machines et anticipent des applications civiles. La Eastern Association for Computing Machinery est fondée avec l’objectif initial de rassembler les professionnels de la côte Est. Les membres du bureau sont élus et parmi ceux-ci, Edmund Berkeley va jouer un rôle particulièrement moteur. Mauchly est également membre du comité temporaire. Un rapport intitulé The Pilot Model of EDVAC est distribué à l’assistance. Le terme Eastern sera enlevé deux ans plus tard et l’Association for Computing Machinery (ACM) va progressivement prendre une envergure nationale et internationale.

Le Radiation Laboratory du MIT qui a compté pendant la guerre un effectif de 4000 personnes publie en 1947 l’ouvrage Theory of Servomechanisms dans lequel sont passés en revue les nombreuses théories et technologies mises au point pour le radar sous l’égide de l’OSRD et du NDRC. Les micro-ondes, de même que les boucles de rétroactions implémentées mécaniquement ou électroniquement sont mis à l’honneur. De nombreux travaux financés par le gouvernement donnent lieu à des publications jusqu’au début des années 50. Des brevets deviennent rendus publics.

  • Irven A. Travis (1904 – ?) : Lien
  • D. H. Lehmer (1905 – 1991) : Lien
  • J. C. P. Miller (1906 – 1981) : Lien
  • John R. Womersley (1907 – 1958) : Lien
  • Edmund Berkeley (1909 – 1988) : Lien
  • Moore School Lectures, 1946 : Lien
  • Eckert-Mauchly Computer Corporation, (1946 – 1950) : Lien
  • James H. M., Nichols N. B., Phillips R. S., 1947; Theory of Servomechanisms : Lien
  • Oliver B.M., Pierce J.R., Shannon C. E., 1948 : The Philosophy of PCM : Lien
  • Shannon C. E., 1949, Communication Theory of Secrecy Systems, Bell System Technical Journal, 28 (4): p. 656–715 : Lien, Réédition à l’UCLA : Lien
  • Weaver W., 1949, Memorandum on Translation : Lien
  • ACM and the History of Computing, 2010 exhibit U. Minnesota Library : Lien

Comme le raconte Heinz Billing dans ses mémoires publiées en 1997, une rencontre entre trois personnalités du National Physical Laboratory britannique et quatre scientifiques allemands se serait déroulée à Göttingen vers septembre 1947 au Max-Planck-Institut für Physik. Une certaine incertitude reigne sur les événements liée au fait que seul Billing se soit exprimé sur la question. Les emplois du temps et les fonctions des protagonistes semblent concorder, comme le met en évidence Herbert Brüderer. La délégation britanique aurait été composée d’Arthur Porter, Alan Turing ainsi que John Womersley alors que Heinz Billing, Helmut Schreyer, Alwin Walther et Konrad Zuse auraient formé la délégation allemande. Billing souligne l’absence de Friedrich Willers actif à cette époque à Dresde alors en zone soviétique. Zuse cache à cette époque son Z4 en Bavière.

Opération PaperClip, Helmut Holzer.

  • Friedrich Adolf Willers (1883 – 1959) : Lien
  • Alwin Walther (1898 – 1967) : Lien
  • John Womersley (1907 – 1958) : Lien
  • Konrad Zuse (1910 – 1995) : Lien
  • Arthur Porter (1910 – 2010) : Lien
  • Alan Turing (1912 – 1954) : Lien
  • Helmuth Schreyer (1912 – 1984) : Lien
  • Heinz Billing (1914 – 2017) : Lien
  • Bruderer, Herbert, 2013, Did Alan Turing interrogate Konrad Zuse in Göttingen in 1947 ? : Lien
  • Opération PaperClip : Lien
Calculateur à relais Z4 de Konrad Zuse à l’École polytechnique fédérale de Zurich (1950 – 1955) : Lien

3.4.2 Le transistor

Une autre révolution relative aux composants électroniques débute après guerre aux Bell Labs à Murray Hill dans les locaux flambant neufs nouvellement investis. Le directeur Mervin Kelly initie un programme visant à touver un dispositif susceptible de remplacer le tube à vide. Il décide de créer une équipe de scientifiques en vue de trouver un tel semi-conducteur à état solide. Les avantages espérés sont une moindre tension nécessaire à l’usage, un fonctionnement immédiat sans phase de pré-chauffage, une durée de vie plus longue et un temps de réponse quasi instantané, comme avec les postes radio à galène de l’ancien temps. Le théoricien William Shockley est nommé leader d’une petite équipe constituée principalement de Walter Brattain (électronicien) et de John Bardeen (physicien théorique).

Bardeen et Brattain mettent au point le 16 décembre 1947 un prototype de « transistor à point de contact », fait d’une bande d’or entourant un triangle de plastique en contact avec un support de germanium. Lorsque Bardeen et Brattain font part à Shockley de leur invention, celui-ci est à la fois ravi du résultat et furieux de ne pas avoir été impliqué dans les détails décisifs de la réalisation et de s’être fait doublé. Son nom ne figure pas sur le brevet. Il se lance alors dans la réalisation de son propre dispositif le « transistor à jonction bipolaire » développé sur papier en quatre semaine dans une chambre de Chicago dans un mélange de colère et de créativité. Son dispositif est théoriquement plus avantageux que celui de Bardeen et Brattain. La construction effective du prototype va cependant durer deux ans.

Auteur de science fiction et actif sur SIGSALY, John Pierce devient en 1948 membre d’une commission qui nomme « transistor » le tout nouveau composant mis au point par John Bardeen et Walter Brattain. Le brevet est titré « Three electrode circuit element utilizing semiconductive materials » [US 2524035, 17/06/1948 : Lien]. Les laboratoires Bell décident de dévoiler leur invention le 30 juin 1948. Des éléments chimiques solides semi-conducteurs comme le germanium ou le silicium, hautement purifiés et dopés de manière adéquate, peuvent servir avantageusement à la fabrication des circuits logiques et à l’amplification des signaux. Shockley qui a entretemps quitté les Bell Labs pour le soleil de Californie, de même que Bardeen et Brattain recevront le prix Nobel de physique en 1956 pour ce composant au germanium qui va lentement et progressivement équiper non seulement les équipements de télécommunication et les dispositifs de contrôle de l’industrie, de l’espace et de l’armement, les calculateurs, mais encore les postes de radio, les télévisions et appareils grand public.

A noter que cette invention dispose de son équivalent franco-allemand mis au point de manière totalement indépendante. Le « transistron » résulte des travaux de deux physiciens allemands Herbert Mataré et Heinrich Welker engagés par la Compagnie de Freins et Signaux Westinghouse dans le cadre d’un contrat avec l’administration des Postes, Télégraphes et Téléphones. Les deux physiciens avaient travaillé pendant la guerre dans le domaine des radars chez Telefunken et dans celui des radios mais les recherches sont interdites en Allemagne dans l’immédiat après-guerre. Un brevet français est déposé le 13 août 1948 sous le nom « Nouveau système cristallin à plusieurs électrodes réalisant des effets de relais électroniques » [FR 1010427, 13/08/1948 : Lien]. Des transistors au germanium vont devenir fabriqués en série de part et d’autre de l’Atlantique. Le transistron Westrel type N fabriqué en 1952 en France par la CFS mérite par exemple d’être signalé. Le silicium devient utilisé en lieu et place du germanium plus tardivement, à partir de 1960 et à l’initiative de fabricants de composants tels que Texas Instruments et Fairchild SemiConductor.

  • Transistor Museum, A Brief History of Early Semiconductors : Lien
  • 1947 : Invention of the Point-Contact Transistor : Lien
  • 1948 : Conception of the Junction Transistor : Lien
  • 1948: The European Transistor Invention : Lien
  • 1951 : First Grown-Junction Transistors Fabricated : Lien
  • Christian Licoppe, 1996, Chapitre 5 – Les premières années des recherches sur les semi-conducteurs et les « transistrons » au CNET (1946-1956) : Lien

3.4.3 Des machines de 1945 à 1948

IBM SSEC

BINAC

C’est cependant de l’autre côté de l’Atlantique, le 21 juin 1948 exactement que les premiers programmes enregistrés en mémoire vive deviennent fonctionnels. L’exploit est réalisé par Frederic C. Williams, Tom Kilburn et Geoff Tootill de l’université de Manchester sur le prototype Small-Scale Experimental Machine (SSEM) surnommé « Manchester Baby« . Un tout nouveau dispositif ultérieurement nommé tube de Williams et dérivé des technologies radar sert de mémoire vive. Le tube et le circuit électronique qui l’accompagne sont soumis pour brevet en 1947. L’accès aux données se fait de manière aléatoire, alors qu’à l’aide de l’autre dispositif alors existant – la mémoire à ligne de délai – l’accès est séquentiel. Trois programmes sont écrits. Le premier écrit par Kilburn contient 17 instructions conçues pour trouver le plus grand diviseur de 218 (262144) soit 131 072. Tous les entiers sont testés par ordre décroissant. La SSEM réalise 3,5 millions d’opérations pour trouver la solution en 52 minutes. Geoff Tootill écrit une version modifiée du même programme le mois suivant. Alan Turing écrit un troisième programme exécuté avec succès à la mi-juillet.

  • Frederic Calland Williams (1911 – 1977) : Lien
  • Tom Kilburn (1921 – 2001) : Lien
  • Geoff Tootill (1922 – 2017) : Lien
  • Hartree, 1949, Calculating Instruments and Machines : Lien
  • Innovative Aspects of the BINAC, the First Electronic Computer Ever Sold : History of Information, Jeremy Norman : Lien
  • Canal computingheritage, 2013, Manchester Baby: world’s first stored program computer, vidéo 7:47, Google : Lien
  • IBM SSEC, 1948 : Lien
  • Small-Scale Experimental Machine (Manchester Baby), 1948 : Lien,
  • BINAC, 1949 : Lien, 12:35 vidéo

4. A Mathematical Theory of Communication, by C.E. Shannon

Longuement mûrie depuis Princeton, la première partie de l’article de Shannon : A Mathematical Theory of Communication est enfin publiée en juillet 1948 dans la revue maison le Bell System Technical Journal. La deuxième partie parait en octobre. Le titre s’inscrit dans la lignée des articles précédents tels que « Mathematical Theory of the Differential Analyzer » ou « Mathematical Theory of Cryptography » publiés précédemment. L’article « A » indique la portée limitée de la théorie. Plus d’une théorie existe en matière de communication et celle-ci ne peut se réduire à des questions de signaux électriques.

4.1 Présentation

Une théorie mathématique de la communication électrique est proposée, cependant le terme « électrique » est absent ce qui laisse planner une certaine ambiguité. La théorie vise à optimiser les codes de transmission de l’information ainsi que le fonctionnement des calculateurs. Il s’agit d’améliorer l’efficacité des signaux échangés, d’optimiser la quantité d’information transmise dans des canaux dont la capacité est limitée et dont les performances sont limitées par le bruit de fond.

Harry Nyquist est cité. Employé également aux Bell Labs, il est l’auteur en 1924 de « Certain factors affecting telegraph speed« . Il s’intéresse aux facteurs susceptible de limiter la vitesse de transmission de l’information qu’il nomme « intelligence ». L’intelligence nommée W est définie par le logarithme du nombre de valeur du code. Ralph Hartley également cité est l’auteur en 1928 de « Transmission of Information« , article lu par Shannon lors de ses études au MIT dans lequel une mesure décimale de l’unité de l’information ultérieurement dénommée le hartley ou encore successivement ban, dit pour decimal digit est proposée.

Parmi ses aspects novateurs, l’article de Shannon définit dès l’introduction le bit pour binary digit ou chiffre binaire. Bit signifie encore « petit morceau » ou bien « particule » en anglais. Le bit est l’unité binaire, élémentaire et atomique de l’information dont la définition relève de la pure et plus élémentaire logique possible.

shannon-bit
Un doigt levé ou baissé, un interrupteur ouvert ou fermé, une pièce de monnaie positionnée coté pile ou face, constituent des exemples simples de l’unité binaire de l’information mémorisée nommée bit pour binary-digit (chiffre binaire), d’après Shannon et JW Tukey.

Après un bref hommage rendu aux logarithmes, cette intéressante fonction qui permet de transformer une addition en multiplication et une soustraction en division, Shannon propose un schéma accompagné d’un modèle mathématique qui symbolise la transmission de l’information quelque soit son type : information discrète (numérique), continue (analogique) ou bien mixte (numérique et analogique). Le cas de l’information discrète avec et sans bruit est développé dans la première partie, aboutissant à la démonstration de multiples théorèmes illustrés d’exemples de transmission de messages écrits en anglais et de propositions relevant de l’étude statistique des langues écrites.

Le calcul de l’entropie de l’information est ensuite proposé. Cet indicateur statistique permet de caractériser plusieurs choses : la quantité maximale d’information qu’un canal peut transmettre en bits par unité de temps, ou bien l’hétérogénéité des composantes d’un message. La formulation retenue – une fonction pondérée du logarithme en base 2 de la probabilité de réception d’un signal – répond à la même équation que l’entropie de Boltzmann établie dans le contexte de la thermodynamique. Une même formule mathématique permet de décrire la dissipation de l’énergie dans un système et la transmission de l’information dans un canal.

De manière simplifiée et quelque peu intuitive, le calcul de l’entropie permet de mesurer le niveau de « désordre » dans un système, le niveau de variation potentielle des signaux constitutifs d’un message, l’hétérogénéité d’un signal, sa redondance ou bien encore les propriétés statistiques d’un alphabet. Elle mesure du côté du récepteur l’incertitude moyenne d’apparition d’un signal. Plus l’entropie d’un signal discret est élevée, plus la quantité d’information susceptible d’être transmise de manière concise est importante. Alors que l’entropie de Boltzmann est formulée en joules (énergie) par degré Kelvin, l’entropie de Shannon est quantifiée en bits.

Précédé d’un chapitre de Warren Weaver et reliant les deux parties initiales des articles de Shannon, le livre « The Mathematical Theory of Communication » parait l’année suivante en 1949. Dans le livre cosigné, l’article « A » qui signifie « Une » a été remplacé par « The » : « La Théorie … ». Mathématicien de formation, Warren Weaver est directeur de 1932 à 1955 de la division Sciences naturelles de la Fondation Rockefeller. Il est notamment considéré comme le créateur du mot « Biologie moléculaire » et s’intéresse à la promotion de la traduction automatique des langues.

Dans son chapitre, Weaver vulgarise les aspects mathématiques de la théorie. Il en souligne l’aspect contre-intuitif. En effet, la théorie ne concerne ni la sémantique, ni le contexte du message, éléments pourtant centraux de la langue naturelle, que celle-ci soit écrite ou parlée. Une traduction de l’introduction de l’article original de Shannon est ici proposée, suivie du plan traduit également en français. Deux figures de l’article original sont ensuite discutées de même que le titre.


4.2 Traduction de l’introduction de l’article

Le récent développement de diverses méthodes de modulation telles que la PCM (modulation d’impulsion codée – la voix numérisée) et la PPM (modulation en position d’impulsions – communication optique) qui échangent de la bande passante contre du rapport signal-bruit a intensifié l’intérêt d’une théorie générale de la communication. Une base d’une telle théorie se trouve dans les articles importants de Nyquist et Hartley à ce sujet. Dans le présent article, nous étendrons la théorie afin d’inclure un certain nombre de nouveaux facteurs, en particulier l’effet du bruit dans le canal, et les économies possibles dues à la structure statistique du message original et dues à la nature de la destination finale de l’information.

Le problème fondamental de la communication est celui de reproduire en un point, soit exactement soit approximativement un message sélectionné en un autre point. Fréquemment, les messages ont une signification; c’est à dire qu’ils se réfèrent à ou sont corrélés avec certains systèmes, avec certaines entités physiques ou conceptuelles. Ces aspects sémantiques de la communication ne relèvent pas du problème de l’ingénierie. L’aspect important est que le message réel est un élément choisi parmi un ensemble de messages possibles. Le système doit être conçu pour fonctionner pour chaque sélection possible, pas seulement celle qui sera effectivement choisie car celle ci est inconnue au moment de l’envoi.

Si le nombre de message dans l’ensemble est fini alors ce nombre ou toute fonction monotone de ce nombre peut être considéré comme une mesure de l’information produite quand un message est choisi parmi un ensemble, tous les choix étant équiprobables. Comme l’a souligné Hartley le choix le plus naturel est la fonction logarithmique. Bien que cette définition doive-t-être généralisée considérablement lorsque l’on considère l’influence des statistiques du message et lorsque nous avons une gamme continue de messages, nous allons utiliser dans tous les cas une mesure essentiellement logarithmique.

La mesure logarithmique est plus commode pour diverses raisons:

  1. Elle est plus utile de manière pratique. Des paramètres d’importance en ingénierie tels que le temps, la bande passante, le nombre de relais, etc., ont tendance à varier linéairement avec le logarithme du nombre de possibilités. Par exemple, l’ajout d’un relais à un groupe double le nombre d’états possibles des relais. On ajoute 1 au logarithme en base 2 de ce chiffre. Un doublement du temps multiplie au carré le nombre des messages possibles, ou double le logarithme, etc.
  2. Elle est plus proche de notre sens intuitif que de la mesure elle-même. C’est étroitement liée à (1) puisque nous mesurons intuitivement les entités en comparaison linéaire avec les standards communs. On ressent, par exemple, que deux cartes perforées doivent avoir deux fois la capacité d’une seule pour le stockage de l’information, et deux canaux identiques deux fois la capacité d’un seul pour transmettre l’information.
  3. Elle est mathématiquement plus appropriée. Un grand nombre d’opérations critiques sont simples en termes de logarithme mais exigeraient autrement un retraitement maladroit en terme de nombre de possibilités.

Le choix d’une base logarithmique correspond au choix d’une unité de mesure de l’information. Si la base 2 est employée, les unités qui en résultent peuvent être appelées digits binaires, ou plus brièvement bits [binary digits], un mot suggéré par JW Tukey. Un dispositif à deux positions stables, comme un relais ou un circuit à bascule, peut stocker un bit d’information. Un nombre N de tels dispositifs peut stocker N bits, puisque le nombre total d’états possibles est 2N et log22N = N. Si la base 10 est utilisée, les unités peuvent être appelées chiffres décimaux. Puisque

log2 M = log10 M / log10 2 = 3.32 log10 M,

un chiffre décimal correspond approximativement à 3 ⅓ bits. Une roue à chiffres sur une machine à calculer de bureau a dix positions stables a donc une capacité de stockage d’un chiffre décimal. Dans les travaux analytiques dans lesquels l’intégration et le calcul différentiel sont impliqués, la base e est parfois utile. Les unités d’information résultantes seront appelées unités naturelles. Un changement de la base a en base b exige simplement une multiplication par logb a.

Par un système de communication, nous entendrons un système du type de celui indiqué schématiquement dans la Fig. 1. Il est constitué essentiellement de 5 parties:

  1. Une source d’information qui produit un message ou une suite de messages destinés à être communiqués au terminal récepteur. Le message peut être de différents types: par exemple (a) Une séquence de lettres comme dans un système de type télégraphe ou téléscripteur; (b) Une simple fonction du temps f(t) comme dans la radio ou la téléphonie; (c) Une fonction du temps et d’autres variables comme avec la télévision noir et blanc – ici le message peut être pensé comme une fonction f(x;y;t) de deux coordonnées spatiales et du temps, l’intensité lumineuse au point (x;y) et au temps t sur la plaque du tube de récupération; (d) Deux ou plusieurs fonctions du temps, disons f(t), g(t), h(t) – c’est le cas dans le système de transmission du son en trois dimensions ou si le système est destiné à desservir plusieurs canaux individuels en multiplex. (e) plusieurs fonctions de plusieurs variables – avec la télévision couleur, le message consiste en trois fonctions f(x,y,t), g(x,y,t), h(x,y,t) définies dans un continuum tridimensionnel – nous pouvons aussi penser à ces trois fonctions comme des composantes d’un champs vecteur défini dans la région – de même, plusieurs sources de télévision en noir et blanc produiraient des « messages » constitués d’un certain nombre de fonctions de trois variables; (f) Diverses combinaisons se produisent également, par exemple pour la télévision avec une voie audio associée.
  2. Un émetteur qui intervient sur le message de manière quelconque pour produire un signal approprié à la transmission sur le canal. Dans la téléphonie cette opération consiste simplement à changer la pression sonore en un courant électrique proportionnel. Dans la télégraphie nous avons une opération d’encodage qui produit une séquence de points, de tirets et d’espaces sur le canal correspondant au message. Dans un système de multiplex PCM les différentes fonctions de la parole doivent être échantillonnées, comprimées, quantifiées et encodées, et finalement entrelacées convenablement pour construire le signal. Systèmes Vocoder, télévision et modulation de fréquence sont d’autres exemples d’opérations complexes appliquées au message pour obtenir le signal.
  3. Le canal est simplement le moyen utilisé pour transmettre le signal de l’émetteur au récepteur. Cela peut être une paire de fils, un câble coaxial, une bande de fréquences radio, un faisceau de lumière, etc.
  4. Le récepteur effectue habituellement l’opération inverse de celle effectuée par l’émetteur, reconstruisant le message à partir du signal.
  5. La destination est la personne (ou une chose) à laquelle le message est destiné.
shannon-model

Nous souhaitons considérer certains problèmes généraux impliquant des systèmes de communication. Pour ce faire, il est d’abord nécessaire de représenter les différents éléments impliqués comme des entités mathématiques, convenablement idéalisées à partir de leurs équivalents physiques. Nous pouvons grossièrement classer les systèmes de communication en trois catégories principales : discret, continu et mixte. Par un système discret, nous entendons celui dans lequel le message et le signal à la fois sont une séquence de symboles discrets. Un cas typique est la télégraphie dans lequel le message est une séquence de lettres et le signal une séquence de points, de tirets et d’espaces. Un système continu est celui dans lequel le message et le signal sont tous deux traités comme des fonctions continues, par exemple, avec la radio ou la télévision. Un système mixte est celui dans lequel des variables discrètes et continues apparaissent, par exemple, la transmission de la parole en PCM.

Nous considérons d’abord le cas discret. Ce cas présente des applications non seulement dans la théorie de la communication, mais aussi dans la théorie des calculateurs, dans la conception des échanges téléphoniques et dans d’autres domaines. De plus, le cas discret constitue une base pour les cas continus et mixtes qui seront traités dans la seconde moitié du papier.

[…]


4.2 Le plan en français

Une Théorie Mathématique de la Communication, Bell System Technical Journal, 1948

Introduction, p379, fig. 1
Partie I : Systèmes discrets sans bruit
  1. Le canal discret sans bruit, p382, théorème 1, fig. 2
  2. La source discrète d’information, p384
  3. Des séries d’approximations de l’anglais, p388
  4. Représentation graphique d’un processus de Markoff, p389
  5. Sources ergodiques et mixtes, p390, fig. 3, 4, 5
  6. Choix, incertitude et entropie, p392, fig. 6, théorème 2, fig. 7
  7. L’entropie d’une source d’information, p396, théorème 3, théorème 4, théorème 5, théorème 6
  8. Représentation des opérations d’encodage et de décodage, p399, théorème 7, théorème 8
  9. Le théorème fondamental pour un canal sans bruit, p401, théorème 9
  10. Discussion, p403
  11. Exemples, p404
Partie II : Le canal discret avec bruit

12. Représentation d’un canal discret avec bruit, p406
13. Équivoque et capacité d’un canal, p407, théorème 10, fig. 8
14. Le théorème fondamental pour un canal discret avec bruit, p410, théorème 11, fig. 9, fig. 10
15. Discussion, p413
16. Exemple d’un canal discret et de sa capacité, p415, fig. 11
17. La capacité du canal dans certains cas spéciaux, p416, fig. 12
18. Un exemple d’encodage efficace, p418

Appendice 1 : La croissance du nombre de blocs de symboles en condition d’état fini, p418
Appendice 2 : Dérivation de H, p419
Appendice 3 : Théorèmes sur les sources ergodiques, p420
Appendice 4 : Maximisation de la fréquence dans un système avec contraintes, p421

(à suivre… numéro d’octobre)

Partie III : Préliminaires mathématiques, p623

18. Groupes et ensembles de fonctions, p623
19. Ensembles de fonctions limitées par la bande, p627
20. Entropie d’une distribution continue, p628
21. Perte d’entropie dans les filtres linéaires, p633, tableau 1
22. Entropie de la somme de deux ensembles, p635

Partie IV : Le canal continu, p637

23. La capacité d’un canal continu, p637
24. La capacité d’un canal avec une limitation de puissance moyenne, p639
25. La capacité du canal avec un pic de limitation de puissance, p642

Partie V : La fréquence pour une source continue, p646

26. Fidélité des fonctions d’évaluation, p646
27. La fréquence de la source en fonction d’une évaluation de la fidélité, p649
28. Le calcul des fréquences, p650

Remerciements, p652
Appendice 5, p652
Appendice 6, p653
Appendice 7, p655

4.3 L’entropie, Figure 7

Dans le cas d’un signal binaire sans bruit, l’entropie présente plusieurs propriétés intéressantes qui, d’après Shannon, justifient son calcul. L’entropie représente la richesse en information d’un message. Soit un message constitué d’une suite de 0 et de 1, c’est lorsque la fréquence des 0 est statistiquement égale à celle des 1 que l’entropie et la quantité d’information susceptible d’être transmise sont maximales. Si un message ne contient que des 0 ou que des 1, son entropie est nulle et il ne transmet aucune information. Par analogie, la colonne d’une table de données qui contiendrait toujours la même information n’apporterait aucune variation dans l’information transmise et serait donc logiquement inutile. Le calcul de l’entropie peut être étendu à des systèmes comportant un plus grand nombre de valeurs discrètes comme dans le cas du morse, de l’alphabet.

shannon-entropy

4.4 Un système de correction, théorème 2, Figure 8

En présence de bruit, Shannon envisage dans son deuxième théorème la présence d’un « observateur » susceptible de corriger les données transmises de manière erronée. Une information supplémentaire correctrice est appliquée par l’observateur en vue de corriger les informations transmises de manière incorrecte.

De manière pratique, sur les réseaux téléphoniques, la voie reste compréhensible en présence de bruit. Sur Internet par exemple, il est possible de s’assurer de l’intégrité des données transmises en calculant la somme de contrôle du fichier réceptionné et en la comparant avec celle d’origine, effectuant ainsi une sorte d’auto-rétroaction. En informatique cette fois-ci, un code correcteur est une technique de codage basée sur la redondance. Elle est destinée à corriger les erreurs de transmission d’un message dans un canal de communication peu fiable.

shannon-correction

5. Sur la théorie

Le problème fondamental de la communication est celui de reproduire en un point, soit exactement soit approximativement un message sélectionné à un autre point.

Shannon

Shannon dans sa phrase d’introduction utilise le mot « point » pour symboliser à la fois l’émetteur et le récepteur. C’est sans doute avec en tête le formalisme d’Euclide que Shannon entreprend une description axiomatique de la communication. En géométrie : Un point est ce dont la partie est nulle. Deux points sont au minimum nécessaires pour élaborer toute théorie de la communication. La localisation de l’information dans l’espace et le temps est envisagée. La théorie de la communication (titre de l’article) est en fait une théorie de la transmission approximative de l’information dans l’espace et le temps. Le cadre se trouve ensuite précisé. Seul les aspects physiques statistiques sont modélisés et en sont exclus les aspects sémantiques. La théorie n’est pas capable de prendre en compte les éléments qui relèvent de la sémantique, de la psychologie, de la sociologie, du contexte. L’émetteur émet un signal qu’il encode. Un canal de capacité limitée transmet le signal de manière bruitée. Le récepteur reçoit le signal et décode.

De nombreux dispositifs techniques sont cités comme le télégraphe ou le téléscripteur et l’on peut évoquer la bande Baudot ou une série de carte perforées comme exemples d’époque de signaux discrets mémorisés. Les messages proposés dans l’article sont des phrases écrites en morse ou en anglais. La structure des langues, les motifs répétés intéressent particulièrement le cryptographe. Ils interviennent à la fois pour favoriser la compréhension et peuvent servir d’accroche pour décoder un message crypté.

De manière générale, le message encode une logique partagée entre l’émetteur et le récepteur. Un message incorrectement encodé ou un récepteur défaillant et l’information ne peut être transmise. Cependant, plusieurs supports peuvent contenir la même information. Des canaux différents peuvent transmettre une même information. Un même message peut être encodé de différentes manières, peut être compressé pour transiter par des canaux de capacité limitée, ou bien corrigé en cas d’erreur de transmission. La bande passante de même que l’encodage influent les débits de transmission. Le mathématicien se place du côté du récepteur en attente d’un message. L’information résout alors une incertitude.

Je sais que j’ai été compris lorsqu’on m’a répondu

Shannon

5.1 Quantifier et échantillonner l’information

Le bit (0 ou 1, oui ou non) reçu est défini comme unité logique atomique de l’information. L’information est quantifiable en bits, comme l’énergie l’est en joule, la masse en kilogramme, la température en degré. Le nombre de bit peut caractériser la capacité d’une mémoire (le support physique), une vitesse de transmission en bit/s (le canal), une logique d’encodage (registre en 32 ou 64 bits d’un calculateur, et en biologie moléculaire 4 bases possibles pour l’ADN, 22 acides aminés dans une protéine). Shannon propose ensuite le « diagramme schématique d’un système général de communication », la fameuse figure 1 reproduite en début d’article.

Toute information analogique peut être mathématiquement et physiquement transformée en information numérique sans perte en respectant une fréquence d’échantillonnage qui est une fonction de l’amplitude du signal. Un autre fameux article de Shannon publié en 1949 « Communication in the presence of noise » apporte une contribution majeure au Théorème d’échantillonnage. La PCM correspond effectivement à une numérisation de la voix. La fréquence d’échantillonnage entre en jeux pour calculer les pertes en cas de numérisation d’un signal analogique. Il est surtout possible de numériser sans perte tout signal.

5.2 Entropie de Boltzmann et de Shannon

Prenez un numéro du New York Times, le livre sur la cybernétique, et un poids égal de papier de brouillon. Ont-ils la même entropie ? Oui, si vous vous en servez pour allumer le feu. Mais pas si vous êtes un lecteur. Il y a de l’entropie dans la disposition des taches d’encre.

Léon Brillouin

Quoiqu’il en soit, l’entropie peut aussi être considérée comme un indicateur statistique parmi d’autres. En génétique, l’entropie de Shannon permet de repérer sur un chromosome les portions d’ADN contenant le plus d’information codante. Plus proche de l’entropie de Boltzmann, les écologues utilisent le calcul de l’entropie pour mesurer la diversité des espèces dans un écosystème. Les sociologues mesurent l’indice de Theil fondé sur l’entropie pour observer la diversité des revenus dans une population par exemple.

Variable d’état classique d’un système thermodynamique, l’entropie se trouve au fondement de la deuxième loi. Elle indique le sens de l’évolution d’un système expérimental clos, fait d’une paroi externe et d’un gaz parfait. Sans apport extérieur, le désordre qu’elle mesure ne peut qu’augmenter. Léon Brillouin tente de démontrer dans son livre publié en 1956 Science and information theory l’équivalence entre l’entropie de Boltzmann et celle de Shannon. Brillouin a notamment travaillé en France sur la physique des solides utilisée dans les transistors et est embauché de 1948 à 1954 chez IBM tout en restant professeur au Collège de France. D’autres auteurs ne partagent pas ses conclusions. Un gaz parfait ne peut que difficilement être comparé à un ruban inscriptible de longueur infinie.

5.3 Entropie et ADN, les cascades de l’information biologique

La fibre chromosomique contient, chiffré dans une sorte de code miniature, tout le devenir d’un organisme, de son développement, de son fonctionnement.

Erwin Schrödinger

Quelques mots supplémentaires doivent être ajoutés sur l’entropie et son usage. Schrödinger, actif églement dans le domaine de la physique quantique publie en 1944 son fameux livre “What is life”. Cette publication jugée philosophique rencontre un certain succès dans les milieux scientifiques. La notion d’entropie négative ou néguentropie, variable d’état caractéristique de la vie y est présentée.

Pour Schrödinger,  l’information génétique se trouverait localisée dans des cristaux présents au niveau des noyaux des cellules eucaryotes. Le physicien autrichien dresse un portrait robot des fonctions que doit remplir la substance biochimique qui code l’information génétique. La vie présente la caractéristique d’échapper sur le long terme à la seconde loi de la thermodynamique, du fait d’une information génétique transmise de génération en génération et fixée sur un support biochimique.

Caractérisé en 1953 à la suite d’une course intense entre britanniques et américains, la structure moléculaire de l’ADN – support de l’information génétique – est mise en évidence. En biologie, l’information se décline, est transmise, est inhibée, amplifiée et transformée à plusieurs niveaux. Calculée en nombre de paires de base, l’information génétique peut aussi être analysée et quantifiée en bits.

L’ADN se trouve à l’origine d’une cascade d’informations de différentes natures. Il se réplique (l’ADN produit de l’ADN) en 2 bits (4 possibilités) dans le noyau cellulaire. Quatre choix de bases nucléiques (A, G, C, T) sont possibles pour la DNA polymerase. La transcription (l’ADN produit de l’ARN) se produit également en 2 bits. Quatre choix de bases nucléiques (A, G, C, U) sont possibles pour la RNA polymerase dans le but de synthétiser une molécule d’ARN.

La traduction (l’ARN produit des protéines) se produit dans le cytoplasme. Cette opération se fait en 6 bits. Une association logique est faite entre 3 bases d’ARN messager et un acide aminé. Ainsi, avec 3 bases, 64 codons sont possibles. 64 codons correspondant à 3 x 2² = 2 puissance 6 choix d’information possibles pour le ribosome. L’ARN codent pour 22 acides aminés, un codon start et un codon stop soit 24 choix possible. Quels que soient les êtres vivants, plusieurs codons codent pour le même acide aminé et le code génétique est alors dit « dégénéré ». L’ADN chromosomique et l’ADN mitochondrial constituent chez l’homme le génome.

La logique de l’information se trouve déployée à plusieurs niveaux de fonctionnement chez les organismes supérieurs dont les mammifères. Au niveau physiologique, une hormone peut être considérée comme un message analogique ciblant des récepteurs cibles et capable de moduler de multiples effecteurs. Pour une hormone, l’appareil cardiovasculaire est le canal.

Von Neumann dans son First Draft of a Report on EDVAC de 1945 effectue brièvement l’analogie entre les circuits électroniques et les neurones. Des tentatives d’associer la théorie de l’information avec le fonctionnement des neurones voient le jour sitôt la théorie émise. Un signal électrique transite depuis les dendrites par l’axone en direction des terminaisons et est transmis au deuxième neurone. Avec des réseaux de neurones disposés en plusieurs couches, le modèle trop basique de la théorie ne semble cependant pas approprié.

5.4 Shannon, le code génétique et le génome

La question peut alors se poser de savoir si Shannon connaissait les implications de sa théorie mathématique dans le domaine de ce qui lie fondamentalement l’homme à la nature, à savoir le code génétique et le génome. La thèse de Shannon concerne la génétique des populations. Cependant la théorie de l’information se rapporte aux outils et techniques de télécommunication essentiellement. Le livre de James Gleick de 2015 « L’information : l’histoire, la théorie, le déluge » propose un intéressant document d’archives confié par Elisabeth Shannon pour publication.

Dans ce manuscrit dont la date peut être estimée à 1949, simple liste écrite avec soin sur une feuille de classeur, Shannon compare les capacités de stockage en bits de différents objets et entités. Il trace un axe vertical nommé « bits storage capacity » (capacité de stockage en bits) échelonné de 10 puissance 0 à 10 puissance 13. En bas positionné sur 10 puissance 0, un relais ou une bascule synchrone (relay, flip flop) – 1bit. Viennent ensuite une roue crantée à 10 chiffres « digit wheel » 3×10 puissance 0 ; vers 10 puissance 3 : une carte perforée « punched card (all configs allowed)« ; vers 10 puissance 4 : frappe d’une page à interligne simple (32 symboles possibles). La constitution génétique de l’homme « genetic constitution of man » se trouve placée face à 10 puissance 5. D’autres items suivent « encyclopedia Britt » vers 10 puissance 9 et le tableau se termine en haut non loin de 10 puissance 15 par la bibliothèque du Congrès « library of congress« .

Pour Shannon, dès 1949, quatre ans avant la découverte de la structure moléculaire de l’ADN, six ans avant la définition du caryotype chez l’homme, nature et culture obéissent à une même logique, possiblement quantifiable en bits. La théorie de l’information concerne également les processus biochimiques génériques du vivant et donc la théorie de l’évolution. Se pourrait-il que certaines des idées de Darwin se retrouvent à la fois dans le vivant et dans les machines ? Comme le remarque Pierre Mounier-Kuhn un théologien pourrait interpréter la théorie de l’information comme une version laïque du processus chrétien par lequel le Verbe est devenu Chair. En matière de religion, Shannon se déclare athée.

Par ailleurs, Mary Elizabeth Moore travaille aux Bell Labs en tant que spécialiste des calculs sur les microondes et les radars et devient assistante de Shannon vers 1948. Ils se marient en 1949 et auront trois enfants.

  • Betty Shannon (1922 – 2017) : Lien
  • Logic, Formal Linguistics and Computing in France: From Non-reception to Progressive Convergence : Lien
shannon
Shannon vers 1952, machine inconnue

(Partie 2 à suivre…)

2 commentaires

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s