Méthodologie
Comment chaque chiffre affiché par SPORE est produit, et ce qu’il ne mesure pas.
Cette page s’adresse aux lecteurs qui veulent juger les chiffres avant de les croire. Elle décrit le fonctionnement actuel du pipeline, limites comprises ; la version racontée est dans la fabrique.
Le score de nouveauté (de 0 à 1)
Ce que c’est : une estimation, par un modèle de langage, de l’originalité de l’hypothèse par rapport à la littérature scientifique trouvée dans Semantic Scholar.
Comment il est produit : après avoir interrogé Semantic Scholar sur les mots-clés de l’hypothèse, le documentaliste soumet les travaux trouvés à un modèle de langage, avec la consigne d’évaluer à quel point l’hypothèse est nouvelle par rapport à ce qui existe déjà. Le modèle rend un score entre 0 et 1 et un verdict : jugée nouvelle, incrémentale, déjà explorée ou déjà établie.
Ce que ce n’est pas : une mesure objective fondée sur des embeddings, une distance cosinus ou une analyse statistique du graphe de citations. Il n’y a pas de formule mathématique derrière : c’est une auto-évaluation heuristique.
Comment le lire : comme un indicateur relatif (cette hypothèse semble plus nouvelle que celle-là, selon le modèle), pas comme une mesure absolue. Pour juger de la nouveauté d’une idée, lisez la partie « Nouveauté » de son dossier, qui liste les travaux les plus proches trouvés par le documentaliste.
La note de consensus du panel (de 0 à 10)
Ce que c’est : la moyenne pondérée des notes attribuées par les cinq relecteurs (des agents), avant publication : c’est elle qui décide si un dossier est publié.
Comment il est produit : chaque relecteur (le méthodologue, le spécialiste du domaine, le contradicteur, l’industriel, le stratège du financement) attribue une note sur 10 selon ses propres critères, avec un verdict (très favorable, favorable, favorable avec réserves, réservé, défavorable) et un degré de confiance, de 0 à 1. La note de consensus est la moyenne des cinq notes pondérée par la confiance de chacun. Elle est calculée par le code : aucun agent ne la choisit.
Ce que ce n’est pas : une validation indépendante. Les cinq relecteurs sont des projections du même espace de représentation linguistique que celui qui a produit l’hypothèse : ils détectent les incohérences internes d’un dossier, pas la contradiction expérimentale.
Le taux de rejet
Ce que c’est : la part des collisions explorées qui n’aboutissent pas à une idée publiée.
Comment il est produit : calculé à partir de la base à chaque mise à jour de cette page, comme tous les compteurs de la page Les chiffres.
Pourquoi il est élevé : sur 13 237 collisions explorées, 101 idées ont été publiées, soit un taux de rejet de 99,2 %. Ce taux élevé est attendu : la plupart des paires de domaines tirées au hasard ne produisent rien d’utilisable. Publier toutes les collisions reviendrait à publier du bruit.
Vérification des références
Ce que c’est : chaque référence citée dans un dossier publié provient de Semantic Scholar, où l’article est indexé, avec son DOI quand il en a un.
Ce que ça signifie : l’article existe, il est identifié dans Semantic Scholar, et le titre et les auteurs affichés sont ceux que Semantic Scholar renvoie.
Ce que ça ne signifie pas : que la conclusion citée a été vérifiée. SPORE garantit que les références existent et sont correctement identifiées, pas que les agents ont bien interprété chaque article. Avant de vous appuyer sur une référence, lisez l’article original.
Coûts publics
Le coût des appels aux modèles de langage est enregistré à chaque exécution du pipeline et publié sur la page Les chiffres : 30,08 $ au total, soit 0,30 $ en moyenne par idée publiée (coût total divisé par le nombre d’idées publiées).
Le coût propre d’une idée n’existe pas en base : une exécution produit plusieurs hypothèses, dont la plupart meurent en chemin. Seule la moyenne a un sens.