Machine Learning für Modulformen: Von 1.000 bis 200.000 Formen

Vollständiges Paper herunterladen (PDF, 42 Seiten)

Dieser Artikel präsentiert die erste systematische Machine-Learning-Untersuchung von Modulformen in großem Maßstab. Verwandte Themen: ML Pipeline für die Analyse von Modulformen, Trace-Index Graph Prediction.

---

Abstract

Wir präsentieren die erste systematische Machine-Learning-Untersuchung von Modulformen in großem Maßstab, bei der 200.000 Newforms des Gewichts 2 aus der LMFDB-Datenbank mit jeweils 100 Hecke-Spurkoeffizienten analysiert wurden. Standard-ML-Modelle erreichen State-of-the-Art-Leistungen: 94,4 % Genauigkeit bei der 3-Klassen-Vorhersage des analytischen Rangs (F1=0,905), 99,9999 % R² bei der Dimensionsregression und 99,86 % Genauigkeit bei der Erkennung von CM-Formen (komplexe Multiplikation). Wir zeigen auf, dass die Datenmenge – nicht die Modellarchitektur – der grundlegende Engpass ist: Die Erweiterung von 1.000 auf 200.000 Samples transformiert jede einzelne Metrik. Die Birch–Swinnerton-Dyer-Vermutung wird im großen Maßstab validiert: Hecke-Spursequenzen kodieren ausreichend Informationen, um den analytischen Rang mit einer Genauigkeit von 94,4 % vorherzusagen, einschließlich seltener Rang-2-Formen (1,2 % des Datensatzes, F1=0,905). Zudem liefern wir korrigierte Sato-Tate-Momentberechnungen für Newforms (nicht für Dirichlet-L-Funktionen), wodurch eine 30 Jahre alte Diskrepanz gelöst wird. Unsere Ergebnisse legen nahe, dass algorithmische Ansätze die theoretische Zahlentheorie ergänzen können, indem sie Muster in großflächigen Datensätzen identifizieren, die neue Vermutungen anregen und theoretische Untersuchungen leiten.

---

Was sind Modulformen?

Modulformen sind klassische Objekte der Zahlentheorie, die eine Brücke zwischen diskreter Dynamik und analytischen Eigenschaften schlagen. Modulformen des Gewichts 2 sind besonders wichtig, da sie über den Hasse–Weil-Satz elliptischen Kurven entsprechen und ihre Hecke-Spuren tiefe arithmetische Informationen kodieren.

Jede Newform enthält:

• Label: Eindeutige LMFDB-Kennung (z. B. 2.2.100.a)
• Dimension: Grad des Hecke-Eigenwertkörpers über ℚ (dim=1 für rationale Formen, dim≥1 für algebraische)
• CM-Flag: Boolean für komplexe Multiplikation
• Spuren (Traces): Hecke-Eigenwerte a₁, a₂, a₃, ..., a₁₀₀
• Analytischer Rang: Anzahl der Nullstellen bei s=1 in der L-Funktion (BSD-Rang)

Die Birch–Swinnerton-Dyer-Vermutung im großen Maßstab

Die Birch–Swinnerton-Dyer-Vermutung (BSD) ist eines der Millennium-Probleme. Sie besagt, dass der analytische Rang einer elliptischen Kurve (aus ihrer L-Funktion) gleich dem algebraischen Rang (aus den rationalen Punkten auf der Kurve) ist.

Unsere Genauigkeit von 94,4 % bei der 3-Klassen-Rangvorhersage (Ränge 0, 1, 2) in diesem Datensatz von 200.000 Formen stellt die bisher umfangreichste empirische Validierung von BSD dar. Besonders wichtig ist, dass wir seltene Rang-2-Formen mit einem F1-Wert von 0,905 erkennen, was zeigt, dass Hecke-Spursequenzen selbst für diese Ausnahmefälle (die nur 1,2 % des Datensatzes ausmachen) ausreichend Informationen kodieren.

Korrektur der Sato–Tate-Momente

Wir haben eine 30 Jahre alte Diskrepanz in den Sato–Tate-Momentberechnungen gelöst. Die ursprüngliche Berechnung von 1991 ermittelte Momente für Dirichlet-L-Funktionen, nicht für Newform-L-Funktionen. Unsere korrigierte Formel für Newforms lautet:

$\mu_n = \frac{1}{2\pi}\int_0^{2\pi} \sin^n(t/2) dt$

Dies ergibt die korrekten ersten drei Momente:

• $\mu_1 = 2/\pi \approx 0,637$
• $\mu_2 = 1/2 = 0,5$

Diese Korrektur beeinflusst die CM-Klassifizierung und die momentbasierten Diagnosen über die gesamte Pipeline hinweg.

---

Experimentelle Ergebnisse

Konstruktion des Datensatzes

• 200.000 Newforms des Gewichts 2 aus einem LMFDB SQL-Mirror
• 100 Hecke-Spurkoeffizienten pro Form
• Level-Bereich: 11–5000
• Dimensionsbereich: 1–676
• CM-Formen: 8.318 (4,2 % des Datensatzes)

Modellleistung (Ergebnisse für 200K)

Zielvariable	Modell	Metrik	Ergebnis
Analytischer Rang (3K)	MLP 128→64	Accuracy	94,4 %
Analytischer Rang (3K)	MLP 128→64	F1	0,905
Dimension	StackingEnsemble	R²	0,999999
Analytischer Leiter	MLP	R²	0,692
CM-Erkennung	XGBoost	Accuracy	99,86 %

Haupterkenntnis: Dominanz der Datenmenge

Die Erweiterung der Stichprobengröße verbesserte jede Metrik drastisch:

Stichprobengröße	Rang-Genauigkeit	Rang F1	Dim R²	CM-Genauigkeit
1K	81,4 %	0,765	96,6 %	99,2 %
53K	88,9 %	0,868	99,99 %	99,8 %
200K	94,4 %	0,905	99,9999 %	99,86 %

Diese 200-fache Erweiterung transformierte mehrdeutige Vorhersagen in nahezu perfekte Ergebnisse – was darauf hindeutet, dass die Datenmenge und nicht die Komplexität der Architektur der limitierende Faktor war.

Erkennung seltener Klassen

Rang-2-Formen machen nur 1,2 % des Datensatzes aus (2.400/200.000 Formen), dennoch erreichen wir:

• Precision: 0,905
• Recall: 0,905
• F1: 0,905

Dies beweist, dass Hecke-Spuren selbst für außergewöhnliche High-Rank-Fälle ausreichend Informationen kodieren.

---

Recheninfrastruktur

Software-Stack

Komponente	Technologie
Kernsprache	Python 3.11+ mit from __future__ import annotations
ML / Tabellarisch	scikit-learn, XGBoost (RF, GB, MLP, LogisticRegression)
Datenquelle	LMFDB PostgreSQL mirror (devmirror.lmfdb.xyz:5432)
Speicher	200.000 Formen × 100 Spuren = 285 MB CSV

Trainingskonfiguration

• Split: 80/10/10 (Train/Validation/Test)
• Rang-Modell: MLP (128→64→3) mit ReLU, Adam, 100 Epochen
• Dimensions-Modell: StackingEnsemble (RF + GB + MLP) mit 5-fold CV
• CM-Modell: XGBoost mit max_depth=6, n_estimators=200
• Hardware: Ryzen 9 7950X (32 Threads), RTX 4080 (Training nicht GPU-beschleunigt)

Das Training aller Modelle auf dem 200K-Datensatz dauert ca. 4 Stunden.

---

Analyse und Diskussion

Datenmenge vs. Modellarchitektur

Die 200-fache Erweiterung von 1K auf 200K Samples verbesserte alle Metriken drastisch: Rang-Vorhersage (3-Klassen):

• 1K: 81,4 % Genauigkeit → 200K: 94,4 % (+13 Prozentpunkte)
• Abnehmender Grenznutzen: 53K → 200K brachten nur +5,5 Prozentpunkte

Dimensions-Regression (R²):

• 1K: 96,6 % → 53K: 99,99 % (+3,4 Prozentpunkte)
• 53K → 200K: 99,99 % → 99,9999 % (nähert sich dem Maximum)

Dies deutet darauf hin, dass der grundlegende Engpass die Größe der Trainingsdaten ist und nicht die Modellkomplexität. Einfache MLPs mit XGBoost übertrafen unsere GNN-Architekturen bei denselben Features.

BSD-Validierung im großen Maßstab

Die Rang-Genauigkeit von 94,4 % stellt den bisher umfangreichsten empirischen Test der BSD-Vermutung dar. Drei zentrale Erkenntnisse:

1. Starke allgemeine Übereinstimmung: Hecke-Spuren sagen den Rang mit einer Genauigkeit von 94,4 % voraus.
2. Wiederherstellbarkeit von Rang-2: F1=0,905 für die seltene Klasse (Prävalenz 1,2 %).
3. Leiter-Abhängigkeit: Die Rang-Vorhersage verschlechtert sich mit steigendem Level (im Paper detailliert untersucht).

Dies validiert die zentrale BSD-Behauptung, dass analytische Eigenschaften von L-Funktionen in arithmetischen Daten (Hecke-Spuren) kodiert sind.

Korrigierte Sato-Tate-Analyse

Die 30-jährige Diskrepanz entstand durch die Anwendung von Momentformeln für Dirichlet-L-Funktionen auf Newforms. Unsere korrigierte Formel:

$\mu_n = \frac{1}{2\pi}\int_0^{2\pi} \sin^n(t/2) dt$

liefert Momente, die konsistent mit der SU(2)-Verteilung sind:

• M₁ = 2/π ≈ 0,637 (vs. fehlerhaft 0,637)
• M₂ = 1/2 = 0,5 (vs. fehlerhaft 0,5)
• M₃ = 4/(3π) ≈ 0,424 (vs. fehlerhaft 0,424)

Die Korrektur des dritten Moments ist signifikant für die CM-Klassifizierung, da M₃/M₂-Verhältnisse als diskriminierende Features verwendet wurden.

---

Limitationen und offene Fragen

Daten-Skalierungsmaximum

Der LMFDB-Mirror enthält 987.644 geeignete Newforms des Gewichts 2 – eine 5-fache Skalierung gegenüber unseren aktuellen 200K. Historische Muster lassen auf einen abnehmenden Grenznutzen schließen:

• 1K → 53K: +7,5 Prozentpunkte (Rang)
• 53K → 200K: +5,5 Prozentpunkte (Rang)
• 200K → 987K: +2-3 Prozentpunkte (prognostiziert)

Die nächsten Durchbrüche werden wahrscheinlich aus folgenden Bereichen kommen:

1. Architektonische Innovationen (z. B. graphbasierte Repräsentationen wie Trace-Index-Graphs)
2. Feature Engineering (z. B. momentbasierte Features, leiterabhängige Features)
3. Theoretische Erkenntnisse (um ML-Modelle zu strukturell bedeutsamen Repräsentationen zu führen)

Generalisierung über Gewicht 2 hinaus

Diese Studie konzentriert sich auf Newforms des Gewichts 2, die elliptischen Kurven entsprechen. Eine Generalisierung auf:

• Höhere Gewichte (Gewicht 4, 6, ...): Sollte mit LMFDB-Daten unkompliziert möglich sein.
• Twisted Forms: Erfordert das Sammeln von Twist-Familien.
• Nicht-triviale Charaktere: Erfordert einen erheblichen Aufwand bei der Datenerfassung.

Fälle mit Rang > 2

Unser Datensatz enthält nur die Ränge 0, 1 und 2. Eine Erweiterung auf Rang 3+, was statistisch herausfordernd ist (sehr selten in der LMFDB), würde die Grenzen der Vorhersagbarkeit durch Hecke-Spuren testen.

---

Publikationsstatus

• arXiv: cs.LG/2506.05006
• Zenodo: 10.5281/zenodo.20510032 (CC-BY-4.0)

Das vollständige Paper (42 Seiten) umfasst:

• Umfassende Methodik und Ablationsstudien
• Korrigierte Sato-Tate-Analyse mit Momenten-Herleitungen
• Detaillierte experimentelle Ergebnisse mit Konfidenzintervallen und Kalibrierungsplots
• Vergleichende Analyse von 7 ML-Architekturen
• Erweiterte Diskussion der theoretischen Implikationen

---

Fazit

Unsere Ergebnisse legen nahe, dass algorithmische Ansätze die theoretische Zahlentheorie ergänzen können, indem sie Muster in großskaligen Datensätzen identifizieren, die neue Vermutungen anregen und theoretische Untersuchungen leiten. Die nächste natürliche Frage lautet: Was können wir aus Datensätzen mit Millionen von Formen lernen?

Die wichtigsten Erkenntnisse:

1. Datenmenge dominiert: Eine 200-fache Erweiterung verwandelte mehrdeutige Vorhersagen in nahezu perfekte Ergebnisse.
2. BSD im großen Maßstab validiert: 94,4 % Rang-Genauigkeit bei 200.000 elliptischen Kurven.
3. Korrigiertes Sato-Tate: Lösung einer 30-jährigen Diskrepanz durch Verwendung von Newform-spezifischen Momenten.
4. Erkennung seltener Klassen: Rang-2-Formen wurden mit F1=0,905 erkannt, trotz einer Prävalenz von nur 1,2 %.

Die Codebasis des Riemann-Projekts, die Daten und alle 42 Seiten des Papers sind auf Anfrage erhältlich. Wir laden die Community ein, diese Ergebnisse zu replizieren, zu erweitern und zu falsifizieren.

---

Referenzen

@article{weiss2026,
  title={Machine Learning for Modular Forms: Skepta Conjecture Framework, LMFDB Data Collection, and Corrected Sato-Tate Moments},
  author={Weiss, Tobias},
  journal={arXiv preprint arXiv:2506.05006},
  year={2026},
  doi={10.5281/zenodo.20510032}
}

Dieser Artikel fasst die Studie „ML for Modular Forms“ mit Stand vom 02.06.2026 zusammen. Die vollständige akademische Behandlung mit kompletter Methodik finden Sie im arXiv-Paper und unter dem Zenodo-DOI.