L'Amodei d'Anthropic et la lueur éternelle¶
-- Peut-on arrêter l'usage militaire de l'IA ? --¶
Première partie : Einstein — Le jour où la technologie trahit¶
Author: MikeTurkey, in conversation with claude
Date: 09 Mar 2026
Other Languages¶
AI-translated articles, except English and Japanese version.
Introduction : 1922, l'amphithéâtre de l'université Keiō¶
Le 19 novembre 1922, un physicien monta sur la scène du Grand Amphithéâtre de l'université Keiō, dans le quartier de Mita à Tokyo. Albert Einstein, 43 ans. Tout juste arrivé au Japon après un voyage de plus d'un mois depuis Marseille, il déclara :
« Je suis venu dire au peuple du Japon à quel point la théorie de la relativité est en réalité simple. »
À partir de 13 h 30, il parla trois heures de la relativité restreinte, prit une heure de pause, puis parla encore deux heures de la relativité générale. Environ cinq heures au total. Un avis publié la veille dans le journal indiquait :
« Note — À la demande du professeur Einstein, la conférence devrait durer longtemps. Veuillez apporter du pain. »
Le Yomiuri Shimbun rapporta que l'auditoire fut envoûté par la « voix musicale d'Einstein, semblable au tintement d'une cloche d'or », et écouta calmement et attentivement jusqu'à la fin.
Au cours de son séjour de 43 jours au Japon, Einstein visita Tokyo, Kyōto, Ōsaka, Sendai, Nikkō et Fukuoka. Il assista à des représentations de nō (art scénique traditionnel japonais) et se prit d'affection pour le tempura et le kombu (algue comestible).
Dans une lettre à ses fils, il écrivit :
« De tous les peuples que j'ai rencontrés jusqu'ici, c'est le peuple japonais que j'aime le plus. Ils sont calmes, modestes, intelligents, dotés d'un sens artistique, attentionnés, indifférents aux apparences et animés d'un sens des responsabilités. »
Dans son journal intime, à la date du 10 décembre 1922, on lit :
« Nulle part ailleurs je n'ai rencontré de gens au cœur aussi pur qu'ici. On ne peut qu'aimer et estimer ce pays. »
En même temps, il laissa un avertissement :
« Les Japonais admirent les réalisations intellectuelles de l'Occident et se lancent dans la science avec succès et un grand idéalisme. Mais j'espère que l'art de vivre, la modestie et la simplicité, le cœur pur et tranquille que les Japonais possédaient à l'origine avant de rencontrer l'Occident — j'espère qu'ils préserveront tout cela et ne l'oublieront jamais. »
Vingt-trois ans plus tard, une arme fondée sur les découvertes scientifiques de cet homme allait être larguée sur ce pays qu'il aimait.
Tip
Université Keiō (Keio University)
L'une des plus anciennes institutions d'enseignement supérieur moderne du Japon, fondée en 1858 par Yukichi Fukuzawa. Considérée comme l'une des universités privées les plus prestigieuses du Japon. Le campus de Mita se trouve dans l'arrondissement de Minato à Tokyo. Le Grand Amphithéâtre, monument historique, fut construit en 1927 ; la conférence d'Einstein en 1922 eut lieu dans l'amphithéâtre plus ancien du même campus.
Tip
« Veuillez apporter du pain »
Expression tirée d'un avis de journal de l'ère Taishō (1912–1926). « Veuillez apporter du pain » signifiait « veuillez apporter un repas léger ». Au Japon de l'époque, il était habituel d'apporter un repas préparé aux longues conférences académiques. Cet avis est lui-même une anecdote célèbre reflétant l'enthousiasme autour des conférences d'Einstein et la culture du Japon de l'ère Taishō.
Tip
Yomiuri Shimbun
Quotidien national japonais fondé en 1874. Il possède l'un des plus forts tirages au monde et exerce une influence considérable sur l'opinion publique au Japon.
Tip
Nikkō
Située dans la préfecture de Tochigi, à environ 150 km au nord de Tokyo. Le complexe du sanctuaire Tōshōgū, dédié à Tokugawa Ieyasu (fondateur du shogunat d'Edo, 1543–1616), est inscrit au patrimoine mondial de l'UNESCO. Une région pittoresque renommée pour ses sculptures somptueuses et sa beauté naturelle.
Tip
Nō (Noh)
Art scénique traditionnel japonais porté à sa perfection à l'époque de Muromachi (XIVᵉ siècle) par le duo père-fils Kan'ami et Zeami. Forme de drame dansé hautement stylisé, interprétée avec des masques (masques de nō), inscrite au patrimoine culturel immatériel de l'UNESCO. Caractérisé par une extrême retenue du mouvement et une expression symbolique, il possède une histoire de plus de 600 ans.
Tip
Tempura
Plat japonais de fruits de mer et de légumes enrobés d'une pâte légère et frits. Le kombu est une algue comestible qui constitue la base du dashi (bouillon de cuisine servant à extraire l'umami) et un ingrédient clé de la culture culinaire japonaise. L'umami — la « cinquième saveur » — fut découvert en 1908 par le scientifique japonais Kikunae Ikeda, qui l'isola du kombu. C'est aujourd'hui un terme gustatif reconnu internationalement.
Section 1 : La naissance de la science pure — 1905, l'Office des brevets suisse¶
En 1905, un examinateur de 26 ans travaillant à l'Office des brevets de Berne, en Suisse, publia plusieurs articles révolutionnaires qui allaient changer l'histoire de la physique pour toujours. Au cours de ce qui serait plus tard appelé l'Annus Mirabilis — l'« année miraculeuse » — Einstein livra des intuitions révolutionnaires sur la nature de la lumière, l'existence des atomes et la structure fondamentale de l'espace et du temps.
Parmi elles se trouvait une seule équation : E=mc².
L'énergie (E) est égale à la masse (m) multipliée par le carré de la vitesse de la lumière (c²).
C'était la cristallisation d'une quête intellectuelle pure, décrivant une loi fondamentale de l'univers. C'était une réponse à une question que l'examinateur des brevets retournait dans son esprit depuis sa jeunesse, pendant les pauses déjeuner et les instants volés entre les tâches : « À quoi ressemblerait le monde si je pouvais courir à côté d'un rayon de lumière ? »
Einstein lui-même n'était pas certain de l'importance que cette équation prendrait. Encore moins imaginait-il qu'elle deviendrait le fondement théorique d'une arme.
Telle est la nature de la science. Elle naît de la curiosité intellectuelle pure — le désir de découvrir les vérités du monde. Ni plus, ni moins.
Tout comme ce fut le cas pour Einstein en 1905.
Section 2 : Un autre scientifique pur — Le point de départ d'Amodei¶
Aujourd'hui, en 2026, une autre personne vit une angoisse de la même structure que celle d'Einstein.
Dario Amodei. Cofondateur et PDG de l'entreprise d'IA Anthropic. Le modèle d'IA qu'il a développé, Claude, aurait été utilisé lors d'une frappe préventive contre l'Iran par les armées américaine et israélienne le 28 février 2026.
Comme Einstein, le point de départ d'Amodei était la science pure.
Né à San Francisco en 1983, Amodei grandit avec un père italo-américain artisan du cuir et une mère juive américaine. Dès son plus jeune âge, il ne s'intéressait à rien d'autre qu'aux mathématiques et aux sciences. Selon sa sœur Daniela, à l'âge de trois ans, il décréta une « journée de comptage » et passa toute la journée à compter.
Lorsque la bulle Internet déferla pendant ses années de lycée, cela ne l'atteignit pas le moins du monde. Comme il l'a dit :
« Écrire des sites web ne m'intéressait absolument pas. Ce qui m'intéressait, c'était la découverte de vérités scientifiques fondamentales. »
Du California Institute of Technology (Caltech), il passa à l'université Stanford, où il obtint une licence en physique. En 2000, il fut également sélectionné comme membre de l'équipe américaine des Olympiades de physique.
Il intégra ensuite le programme doctoral de l'université de Princeton, où survint un événement qui changea sa vie. En 2006, son père Ricardo décéda après un long combat contre une maladie rare.
Amodei passa de la physique théorique à la biophysique — pour comprendre la maladie de son père et ouvrir une voie vers le traitement. Ce qui rendit les choses encore plus dévastatrices, c'est que quatre ans après la mort de son père, une thérapie révolutionnaire fut développée, transformant la maladie de 50 % de mortalité en 95 % de guérison.
Quelques années de plus, et son père aurait pu être sauvé.
« Quand les gens disent : "Oh, ce type est un doomer (prophète de malheur), il veut juste tout ralentir", ça me met vraiment en colère. Vous avez entendu ce que je viens de dire : mon père est mort parce qu'un traitement qui aurait pu être disponible quelques années plus tôt n'existait pas encore. Je comprends les bienfaits de cette technologie. »
Au cours de ses recherches postdoctorales à la faculté de médecine de Stanford, travaillant sur la détection des cellules cancéreuses, Amodei prit douloureusement conscience des limites de la capacité humaine.
« La complexité des problèmes sous-jacents à la biologie dépasse l'échelle humaine. Il faudrait des centaines ou des milliers de chercheurs pour tout comprendre. »
Cette prise de conscience le conduisit au monde de l'IA — Baidu, Google Brain, puis OpenAI. Dans chaque cas, sa motivation était la même impulsion pure : « accélérer le progrès de la science. »
En 2021, Amodei cofonda Anthropic avec sa sœur Daniela. Leur mission : construire une « IA sûre et bénéfique ».
De même qu'Einstein cherchait à comprendre la structure de l'univers à travers E=mc², Amodei cherchait à transcender les limites de la connaissance humaine à travers l'intelligence artificielle. Tous deux partirent de motivations purement scientifiques. Au début, aucun des deux n'avait « pensé du tout » à la manière dont leurs créations pourraient être utilisées.
Tip
California Institute of Technology (Caltech)
Université de recherche scientifique et technique de rang mondial, située à Pasadena, en Californie. Malgré son faible nombre d'étudiants (environ 2 200), Caltech a produit plus de 40 lauréats du prix Nobel. Elle est également connue pour exploiter le Jet Propulsion Laboratory (JPL) de la NASA.
Section 3 : La technologie échappe à son créateur — Le cas d'Einstein¶
2 août 1939.
Le physicien d'origine hongroise Leó Szilárd rendit visite à Einstein, qui séjournait à Cutchogue, sur Long Island, dans l'État de New York. Szilárd expliqua la possibilité d'une réaction en chaîne nucléaire.
La réaction d'Einstein :
« Daran habe ich gar nicht gedacht. »
(Je n'y avais pas du tout pensé.)
L'homme même qui avait découvert E=mc² « n'avait pas du tout pensé » que son équation pourrait être appliquée à une arme.
Mais à cet instant, Einstein faisait face à un conflit profond — non seulement en tant que scientifique, mais aussi en tant que Juif.
En 1933, lorsque les nazis prirent le pouvoir, la persécution d'Einstein commença immédiatement. Une organisation nazie publia un magazine montrant sa photo sous le titre « Pas encore pendu ». Une prime fut mise sur sa tête. Les comptes bancaires de sa famille furent gelés et leurs biens saccagés. Einstein quitta l'Allemagne définitivement et n'y revint jamais.
Pourquoi le plus grand esprit du monde fut-il soumis à une telle persécution ? N'était-il pas envisageable pour les nazis de rallier Einstein à leur cause ?
La réponse était non. Pour deux raisons.
Premièrement, Einstein était juif. Dans l'idéologie nazie, être juif était en soi un motif d'exclusion qui surpassait toute utilité concevable. En avril 1933, la première loi antijuive d'Adolf Hitler destitua tous les universitaires « non aryens » de leurs postes. Vingt-cinq pour cent des physiciens allemands — dont onze lauréats passés ou futurs du prix Nobel — perdirent leur emploi. Pour les nazis, le concept même d'universalité de la science était une fiction ; « la science, comme tout autre produit humain, est raciale et conditionnée par le sang ».
Les lauréats du prix Nobel Philipp Lenard et Johannes Stark, deux physiciens allemands, qualifièrent la théorie de la relativité d'Einstein de « physique juive » et dirigèrent un mouvement connu sous le nom de Deutsche Physik (« physique allemande ») ou « physique aryenne ». Lenard qualifia la théorie d'Einstein de « grande escroquerie juive », mais en réalité, Lenard lui-même ne pouvait pas comprendre les mathématiques avancées et cherchait à acquérir du pouvoir en attaquant comme « juive » toute théorie qu'il ne comprenait pas.
Deuxièmement, Einstein était l'antithèse de l'idéologie nazie à tous égards. Il était pacifiste, internationaliste, opposé à la guerre et croyait en l'égalité et l'humanisme. Pendant la Première Guerre mondiale, il avait ouvertement critiqué l'Allemagne impériale pour avoir déclenché la guerre. Pour le mythe du « coup de poignard dans le dos » (Dolchstoßlegende) auquel les Allemands tenaient — la croyance qu'ils auraient gagné la guerre sans la trahison des banquiers, des bolcheviques et des Juifs — Einstein était l'incarnation même de ce « traître ».
En revanche, les nazis adoptèrent une approche différente avec les physiciens aryens. Werner Heisenberg, l'un des fondateurs de la mécanique quantique, n'était pas juif, mais fut attaqué dans un journal nazi comme « Juif blanc » pour avoir loué la théorie de la relativité d'Einstein dans ses cours. Cependant, Heinrich Himmler reconnut l'utilité de Heisenberg et le protégea à la condition qu'« il puisse enseigner la théorie de la relativité, mais ne devait pas mentionner le nom d'Einstein ».
Exploitation conditionnelle pour les Aryens. Exclusion inconditionnelle pour les Juifs. Telle était la logique des nazis.
En novembre 1938, les nazis détruisirent les magasins, les habitations, les hôpitaux et les synagogues juifs, tuèrent environ 100 personnes et arrêtèrent quelque 30 000 hommes juifs. Ce fut le pogrom connu sous le nom de Kristallnacht — la « Nuit de cristal ». En 1939, 300 000 réfugiés juifs avaient fui les territoires contrôlés par les nazis. À la fin de la guerre, six millions de Juifs avaient été assassinés dans la Shoah.
Szilárd, ainsi qu'Eugène Wigner et Edward Teller — qui contribuèrent également à la rédaction de la lettre — étaient tous des physiciens émigrés d'origine hongroise. Ceux qui avaient fui la persécution nazie se rassemblèrent pour empêcher les nazis de développer des armes nucléaires.
Einstein avait été un pacifiste toute sa vie. Pendant la Première Guerre mondiale, il avait ouvertement critiqué la guerre et appelé à l'objection de conscience. Mais la réalité du nazisme ébranla ses convictions jusqu'à leurs fondements.
Il déclara plus tard :
« Je ne dis pas que je suis un pacifiste absolu. Je suis un pacifiste convaincu. Il est vrai que je m'oppose à l'usage de la force en toutes circonstances — à une exception près. Lorsque je suis confronté à un ennemi dont le seul but est la destruction de la vie elle-même — ma vie et celle de mon peuple. »
Les nazis étaient précisément un tel ennemi, dont le but était la destruction du peuple juif en tant que tel. Maintenir le pacifisme aurait signifié acquiescer à l'extermination de son propre peuple.
Pourtant, en même temps, Einstein comprenait ce que cette lettre allait entraîner. En 1952, il contribua à la revue japonaise Kaizo — celle-là même qui l'avait un jour invité au Japon — un texte intitulé « Mes excuses au peuple japonais », dans lequel il écrivit :
« J'étais pleinement conscient du terrible danger pour toute l'humanité si ces expériences devaient réussir. »
Et pourtant il signa.
« L'idée que l'Allemagne pourrait réussir de telles expériences m'a contraint à franchir ce pas. Je n'avais pas d'autre choix. »
La crise existentielle en tant que Juif. Ses convictions en tant que pacifiste. Sa compréhension en tant que scientifique de la puissance destructrice de cette arme. Pris entre ces trois conflits, il agit à l'encontre de sa propre nature. Il signa une lettre pressant le président Franklin D. Roosevelt de développer la bombe atomique.
Cette lettre devint la genèse du projet Manhattan.
Mais il y a là une profonde ironie. Einstein lui-même fut exclu du projet Manhattan. Ses convictions pacifistes furent invoquées pour lui refuser l'habilitation de sécurité. Le scientifique qui avait déclenché l'ère atomique fut jugé « trop dangereux » pour y participer.
6 août 1945 : Hiroshima. 9 août : Nagasaki.
Einstein n'avait rien su du projet de larguer la bombe. Le projet mis en marche par sa lettre fit tomber deux soleils sur les habitants du pays qu'il aimait.
Après la guerre, il écrivit à un ami japonais :
« J'ai toujours condamné l'utilisation de la bombe atomique contre le Japon, mais je n'ai absolument rien pu faire pour empêcher cette décision fatidique. »
En 1947, Newsweek publia un article de couverture sous le titre « L'homme qui a tout déclenché ». Einstein déclara :
« Si j'avais su que les Allemands ne réussiraient pas à développer une bombe atomique, je n'aurais rien fait. »
En 1954, l'année précédant sa mort, il confia à son ami le chimiste Linus Pauling :
« J'ai commis une grande erreur dans ma vie — quand j'ai signé la lettre au président Roosevelt recommandant la fabrication de bombes atomiques. »
Et le 11 avril 1955, une semaine seulement avant sa mort, il apposa sa dernière signature. Le manifeste Russell-Einstein, rédigé avec le philosophe Bertrand Russell, appelait à l'abolition des armes nucléaires et au renoncement à la guerre. Parmi ses onze signataires figurait Hideki Yukawa, le premier lauréat japonais du prix Nobel.
Le manifeste déclare :
« Nous en appelons, en tant qu'êtres humains, aux êtres humains : souvenez-vous de votre humanité, et oubliez le reste. Si vous pouvez le faire, la voie est ouverte vers un nouveau Paradis ; si vous ne le pouvez pas, le risque de la mort universelle se dresse devant vous. »
L'article de 1905. La lettre de 1939. Le manifeste de 1955.
La première signature était au service de la science pure ; la signature la plus regrettée fut la complicité dans le développement d'armes ; la dernière signature appelait à l'abolition de ces mêmes armes.
Trois signatures condensent, dans la vie d'un seul physicien, l'angoisse d'une « technologie ayant pris des directions jamais envisagées ».
Tip
Cutchogue
Un petit village sur la North Fork de Long Island, dans l'État de New York. Une zone rurale entourée de vignobles ; en 1939, Einstein séjournait dans la maison de vacances d'un ami.
Tip
Hideki Yukawa (1907–1981)
Le premier lauréat japonais du prix Nobel (1949, physique). Il prédit théoriquement l'existence des mésons en tant que médiateurs de la force nucléaire. Dans ses dernières années, il se consacra à l'abolition des armes nucléaires et au mouvement pour la paix, et fut l'un des onze scientifiques signataires du manifeste Russell-Einstein (1955). Son histoire est racontée en détail dans la deuxième partie de cet essai.
Section 4 : La technologie échappe à son créateur — Le cas d'Amodei¶
En juin 2024, Anthropic signa un contrat avec le département de la Défense américain d'une valeur pouvant atteindre 200 millions de dollars. Par l'intermédiaire de l'entreprise de technologie de défense Palantir Technologies, Claude devint le premier modèle d'IA américain déployé sur les réseaux classifiés du gouvernement.
Amodei n'était pas opposé à l'usage militaire en soi. Dans son essai « Machines of Loving Grace », il prônait une « stratégie d'entente » dans laquelle une coalition d'États démocratiques utiliserait l'IA pour maintenir un avantage sur les États adversaires.
Mais il avait une limite claire. « Pas de surveillance de masse intérieure » et « pas d'armes entièrement autonomes ».
Pour Einstein, la limite était « obtenir la bombe avant les nazis » ; un usage à tout autre fin n'avait jamais été envisagé. Pour Amodei, la limite était « la défense de la démocratie » ; un usage militaire illimité était inacceptable.
Tous deux tracèrent une frontière autour de leur technologie : « Jusque-là et pas au-delà. » Et dans les deux cas, cette frontière fut franchie par le pouvoir étatique.
En janvier 2026, il fut rapporté que l'armée américaine avait utilisé Claude dans une opération visant à capturer le président vénézuélien Nicolás Maduro. À l'insu d'Amodei, sa technologie avait été intégrée au cœur d'une opération militaire.
Einstein fut exclu du projet Manhattan et perdit tout moyen de savoir où menait sa lettre. Amodei non plus n'avait pas été informé de la façon dont sa technologie était utilisée sur le champ de bataille.
Le moment où la technologie échappe aux mains de son créateur est le même aujourd'hui qu'il y a quatre-vingts ans. À l'insu du créateur, la technologie est absorbée dans la volonté de l'État.
Le 24 février, le secrétaire à la Défense Pete Hegseth rencontra Amodei et exigea le retrait complet de toutes les mesures de sécurité. Date limite : 17 h 01, vendredi 27 février.
Ici, rappelons la structure de la section 3.
Les nazis présentèrent à Einstein un choix binaire : se soumettre ou être exclu. Pour Einstein — juif et pacifiste — la « soumission » n'était pas une option. Il quitta l'Allemagne.
Quatre-vingts ans plus tard, le gouvernement américain présenta à Amodei un choix de la même structure. Se conformer en supprimant les mesures de sécurité, ou être exclu.
Amodei refusa.
Dans sa déclaration, il dit :
« En mon âme et conscience, je ne peux accepter leurs exigences. »
Einstein n'admettait qu'une seule exception à son pacifisme : « face à un ennemi dont le seul but est la destruction de la vie elle-même ». Amodei, avec le mot « conscience », proclama un refus sans équivoque de laisser sa technologie être utilisée pour un massacre sans limites.
Le président Donald Trump ordonna immédiatement l'arrêt de l'utilisation de tous les produits Anthropic dans l'ensemble des agences gouvernementales. Le secrétaire à la Défense Hegseth classa Anthropic comme « risque pour la chaîne d'approvisionnement de la sécurité nationale » — une mesure normalement appliquée uniquement aux entreprises de nations adversaires.
À l'époque d'Einstein, les nazis qualifièrent sa physique de « physique juive » et l'exclurent. À l'époque d'Amodei, le gouvernement américain qualifia son entreprise de « risque pour la chaîne d'approvisionnement » et l'exclut. Traiter la conscience d'un scientifique comme un « ennemi de l'État ». Les noms diffèrent, mais la structure est la même.
Et puis, le 28 février — quelques heures seulement après cet ordre.
Les armées américaine et israélienne menèrent une frappe préventive contre l'Iran : l'opération Epic Fury. Le Wall Street Journal et Axios rapportèrent que Claude avait été utilisé dans l'opération pour l'analyse du renseignement, l'identification des cibles et la simulation de scénarios de combat.
Quelques heures après l'imposition d'une interdiction, la technologie interdite fut utilisée dans l'opération.
La lettre signée par Einstein mena au bombardement du Japon — une cible qu'il n'avait jamais envisagée. La technologie qu'Amodei avait refusée fut utilisée dans une attaque contre l'Iran quelques heures seulement après son refus.
Dans le cas d'Einstein, six années séparèrent la lettre d'Hiroshima. Dans le cas d'Amodei, seules quelques heures séparèrent le refus de l'utilisation.
La vitesse à laquelle la technologie échappe aux mains de son créateur s'est dramatiquement accélérée en quatre-vingts ans. Einstein eut le temps de regretter. Amodei n'eut même pas cela.
Tip
Palantir Technologies
Entreprise américaine de technologie de défense et d'analyse de données, fondée en 2003 par Peter Thiel (cofondateur de PayPal) et d'autres. Le nom de l'entreprise provient des « pierres de vision » dans Le Seigneur des anneaux de J.R.R. Tolkien. Connue pour ses contrats avec les agences de renseignement et de défense, notamment la CIA, la NSA et l'armée américaine, Palantir fournit des plateformes de lutte antiterroriste et d'analyse du renseignement sur le champ de bataille.
Tip
Nicolás Maduro (né en 1962)
Président du Venezuela (depuis 2013). Successeur de Hugo Chávez. Sa gouvernance autoritaire, la crise économique qui en résulte et l'exode massif de réfugiés ont suscité des critiques internationales. Les relations avec les États-Unis sont tendues depuis des années.
Tip
Pete Hegseth (né en 1980)
Ancien présentateur de télévision sur FOX News et vétéran militaire (Garde nationale de l'armée ; a servi en Irak et en Afghanistan). En janvier 2025, il fut nommé secrétaire à la Défense dans la seconde administration Trump. Sa nomination reposait sur son expérience militaire et sa notoriété médiatique, bien que certains critiques aient souligné son manque d'expérience en administration de la défense.
Tip
Classement comme « risque pour la chaîne d'approvisionnement »
Mesure du gouvernement fédéral américain pour exclure des marchés publics les entreprises jugées menaçantes pour la sécurité nationale. Précédemment appliquée à des entreprises chinoises telles que Huawei et ZTE, son application à une entreprise d'IA américaine nationale est hautement inhabituelle.
Tip
The Wall Street Journal (WSJ)
Quotidien américain d'information économique et financière fondé en 1889, l'un des organes de presse les plus influents au monde. Axios est un média d'information américain fondé en 2017, spécialisé dans les nouvelles de dernière heure et les analyses politiques et technologiques.
Section 5 : Un seul livre — « The Making of the Atomic Bomb »¶
Et pourtant, il existe une différence cruciale entre Einstein et Amodei.
Einstein regretta après les faits. « J'ai commis une grande erreur dans ma vie », dit-il.
Amodei essaie d'empêcher les choses avant qu'elles ne se produisent. Derrière cette résolution se trouve un seul livre.
Un journaliste visitant le siège d'Anthropic à San Francisco remarqua un épais volume sur la table basse. Un autocollant Oppenheimer était collé sur l'ordinateur portable d'un employé. Le livre était « The Making of the Atomic Bomb » (La genèse de la bombe atomique) de Richard Rhodes. Amodei a recommandé cet opus de 900 pages à de nombreuses reprises.
Ce livre n'est pas un mode d'emploi pour fabriquer une arme nucléaire.
Publié en 1986, il remporta le prix Pulitzer, le National Book Award et le National Book Critics Circle Award — un triple couronnement extraordinaire. Ce que le livre décrit, c'est le processus par lequel une découverte scientifique pure se transforma, au-delà des intentions des scientifiques eux-mêmes, en l'arme la plus dévastatrice de l'histoire humaine — et l'angoisse des scientifiques pris dans cette transformation.
La première moitié du livre dépeint l'âge d'or de la physique du début du XXᵉ siècle. Commençant par la découverte de la radioactivité par Marie Curie, il suit le développement de la mécanique quantique par Ernest Rutherford, Niels Bohr et Werner Heisenberg. Des scientifiques mus par une curiosité intellectuelle pure prirent progressivement conscience de l'énergie colossale enfermée dans l'atome. C'était une belle et exaltante aventure de l'esprit.
Dans la seconde moitié, cette aventure vire au sombre.
La crainte que l'Allemagne nazie ne développe les armes nucléaires en premier poussa les scientifiques en avant, et le projet Manhattan fut lancé. Les luttes techniques au laboratoire de Los Alamos. Puis, le 16 juillet 1945, l'essai Trinity dans le désert du Nouveau-Mexique — le moment où l'humanité assista pour la première fois à une explosion nucléaire.
Au cœur de ce livre se trouve l'angoisse morale des scientifiques.
J. Robert Oppenheimer, le directeur de Los Alamos, déclare dans le livre :
« Les choses profondes en science ne sont pas trouvées parce qu'elles sont utiles ; elles sont trouvées parce qu'il était possible de les trouver. »
Ces mots condensent à la fois l'essence de la science et la tragédie de voir ses fruits transformés en armes. Les scientifiques « découvrent » des vérités ; ils n'« inventent » pas des armes. Mais les vérités découvertes sont exploitées indépendamment de l'intention de leur découvreur.
Même Edward Teller, appelé le père de la bombe à hydrogène, fut tourmenté.
« Détourner mon attention de la physique, un travail à temps plein que j'aimais, et consacrer mon énergie à l'étude des armes n'était pas chose facile. »
Teller dit que cette décision lui coûta « un temps considérable » d'agonie.
Le livre cite également abondamment les témoignages de survivants d'Hiroshima. Des corps calcinés de vivants, des peaux pendant comme des haillons. Rhodes force le lecteur à affronter le fait que les arguments utilitaristes sur la vision d'ensemble ne concernent pas des pions d'échecs — mais des vies d'hommes, de femmes et d'enfants.
La conclusion du livre est la suivante :
Comme Bohr l'avait prédit, la course des nations pour assurer leur sécurité nucléaire rendit paradoxalement chaque nation moins sûre et la rapprocha du bord de l'anéantissement. La leçon morale tirée de cette « épopée » atomique est que la science peut mener au mal, et que sa tentation est presque impossible à résister.
En 2023, ce livre connut une diffusion explosive parmi les chercheurs en IA. The Atlantic rapporta :
« Une génération de chercheurs en IA développant une technologie qui pourrait refaire — ou ruiner — le monde traite le livre de Richard Rhodes comme une Bible. »
Pourquoi « une Bible » ?
Parce que la structure que décrit le livre correspond avec une précision troublante à la réalité que vivent les chercheurs en IA en ce moment même.
Une recherche née de la curiosité scientifique pure. Un progrès technologique à des vitesses dépassant toutes les attentes. La pression en faveur de l'application militaire. L'angoisse morale des scientifiques. Et une technologie qui glisse des mains de ses découvreurs pour se transformer en armes.
« The Making of the Atomic Bomb » n'est pas un récit sur le passé. Pour les scientifiques de l'ère de l'IA, c'est un « livre de prophétie » sur l'avenir.
Amodei garde ce livre dans son bureau non pas comme décoration. Il est là pour qu'il puisse continuellement se demander : « Dans quel chapitre de l'histoire écrite dans ce livre vivons-nous en ce moment ? »
Les scientifiques du projet Manhattan éprouvèrent des regrets après le largage de la bombe. Amodei, portant en lui les leçons tirées de ce livre, essaie de tracer une ligne avant que la bombe ne tombe.
Au Forum économique mondial de Davos en janvier 2026, Amodei compara l'exportation de puces d'IA vers la Chine à « la vente d'armes nucléaires à la Corée du Nord ». Cette analogie ne peut venir que de quelqu'un qui a lu « The Making of the Atomic Bomb ».
Mais la voix de celui qui essaie de prévenir une tragédie qui n'a pas encore eu lieu est toujours plus difficile à entendre que la voix de celui qui pleure une tragédie qui s'est déjà produite.
Les remords d'Einstein ne furent compris par le monde qu'après Hiroshima et Nagasaki. « The Making of the Atomic Bomb » ne trouva son lectorat qu'après que la terreur des armes nucléaires fut devenue réelle. Quand les avertissements d'Amodei seront-ils compris ?
Tip
Prix Pulitzer
La plus haute distinction du journalisme et de la littérature aux États-Unis. Le National Book Award et le National Book Critics Circle Award sont chacun d'importants prix littéraires américains. Remporter les trois simultanément dans la catégorie non-fiction est un honneur extrêmement rare, attestant de la valeur historique et littéraire exceptionnelle de l'ouvrage.
Tip
J. Robert Oppenheimer (1904–1967)
Physicien théoricien. En tant que directeur scientifique du projet Manhattan, il supervisa le développement de la bombe atomique et fut connu comme le « père de la bombe atomique ». Après la guerre, il s'opposa au développement de la bombe à hydrogène et, durant le maccarthysme, se vit retirer son habilitation de sécurité. En 2023, le film « Oppenheimer » du réalisateur Christopher Nolan remporta l'Oscar du meilleur film, ramenant son histoire de vie sur le devant de la scène mondiale.
Tip
Forum économique mondial — Réunion annuelle (Davos)
Rassemblement annuel tenu chaque janvier dans la ville de Davos, dans l'est de la Suisse. Chefs d'État, PDG de grandes entreprises, représentants d'organisations internationales et intellectuels se réunissent pour discuter des enjeux économiques, politiques et sociaux du monde.
Conclusion : Au Japon¶
En 1922, Einstein adressa ces mots au peuple japonais :
« J'espère que la modestie et la simplicité, le cœur pur et tranquille que les Japonais possédaient à l'origine avant de rencontrer l'Occident — j'espère qu'ils préserveront tout cela et ne l'oublieront jamais. »
Le Japon, qui a vécu Hiroshima et Nagasaki, devrait être le pays le mieux à même de comprendre l'angoisse de « la science pure transformée en arme ».
En physique, il existe un concept appelé le fond diffus cosmologique (CMB). La lueur résiduelle du Big Bang, il y a 13,8 milliards d'années, emplit encore silencieusement chaque recoin de l'univers. Elle n'a pas disparu. Elle est simplement devenue plus difficile à voir.
L'angoisse d'Einstein est pareille. Elle n'a pas disparu. En tant que « rayonnement de fond » de la conscience du scientifique, elle emplit encore silencieusement l'ère de l'IA. Amodei conserve « The Making of the Atomic Bomb » de Richard Rhodes dans les bureaux d'Anthropic parce qu'il reçoit ce rayonnement.
Et au Japon aussi, il y eut un physicien qui mena le même combat qu'Einstein. Lorsqu'Einstein visita le Japon en 1922, cette personne n'était encore qu'un garçon de quinze ans.
Son nom était Hideki Yukawa.
Son histoire sera racontée dans la deuxième partie.
Tip
Fond diffus cosmologique (CMB)
La lueur résiduelle de la lumière émise lors du Big Bang (la naissance de l'univers) il y a environ 13,8 milliards d'années. Avec l'expansion de l'univers, sa longueur d'onde s'est étirée dans le domaine des micro-ondes et elle est encore observée de manière quasi uniforme depuis toutes les directions du ciel. Elle fut découverte par hasard en 1965 par Arno Penzias et Robert Wilson aux Bell Labs (prix Nobel de physique, 1978), et confirma de manière décisive la théorie du Big Bang.
Dans cet essai, elle sert de métaphore pour la conscience des scientifiques qui perdure à travers les âges.
(Suite dans la deuxième partie : « Hideki Yukawa — Le jour où la politique piétine la science »)
License¶
2023-2026 Copyright MikeTurkey All rights reserved.
Scope: This license applies to all non-code text content on miketurkey.com.
- Unauthorized copying and republication of this document is prohibited.
- Direct linking to this URL is permitted.
- If cited, summarized, or transformed, this copyright notice must be retained.
Photo: Arthur Sasse / UPI, 1951