ayaka

Laufende Forschung

Hime

Eine Übersetzungspipeline für literarisches Japanisch ins Englische. Mehrere kleine, feinabgestimmte Modelle je Absatz statt eines großen Modells im Rechenzentrum — auf einer einzelnen Consumer-GPU, vollständig offline, EPUB rein und EPUB raus.

Die Pipeline

Jeder Absatz durchläuft vier Stufen. Das Interessante daran ist nicht die Kette, sondern dass der Retrieval-Zufluss an jeder Stufe anliegt, nicht nur an der ersten. Je Absatz werden Glossareinträge und frühere Passagen herangezogen — das hält Namen, Anreden und Register über hunderte Seiten hinweg stabil.

Vierstufige Übersetzungspipeline. Jeder Absatz wird entworfen, zusammengeführt, überarbeitet und geprüft, wobei Glossar und frühere Passagen an jeder Stufe einfließen statt nur an der ersten. EPUB rein EPUB raus Entwurf erster Durchgang je Absatz Zusammenführung Kandidaten abgleichen Überarbeitung Register und Rhythmus Prüfung gegen das Original Retrieval je Absatz Glossareinträge und frühere Passagen, an jeder Stufe Vierstufige Übersetzungspipeline. Jeder Absatz wird entworfen, zusammengeführt, überarbeitet und geprüft, wobei Glossar und frühere Passagen an jeder Stufe einfließen statt nur an der ersten. EPUB rein Entwurf erster Durchgang je Absatz Zusammenführung Kandidaten abgleichen Überarbeitung Register und Rhythmus Prüfung gegen das Original EPUB raus Retrieval je Absatz

Wo es gerade steht

Die feinabgestimmten Modelle schlagen ihr eigenes Basismodell noch nicht zuverlässig. Das jüngste überwachte Fine-Tuning fiel gegenüber dem vorherigen ab. Die Diagnose: Die Decke sitzt im Basismodell und in den Trainingsdaten, nicht im Adapter. Deshalb ist der nächste Schritt fortgesetztes Pretraining und kein weiteres Fine-Tuning.

Das offen zu sagen kostet nichts. Eine Pipeline, die ausschließlich Verbesserungen meldet, wäre weniger glaubwürdig, nicht mehr.

Aufbau

  • eine Consumer-GPU
  • feinabgestimmte Adapter
  • Retrieval als Kontext
  • vollständig offline

Der Teil, der funktioniert

Ein Ergebnis wurde zurückgezogen, nachdem die Prüfumgebung ihr eigenes Leck fand.

Ausgereift ist an diesem Projekt die Prüfinfrastruktur: eine entleckte Judge-Umgebung mit 5 Integritätsschranken und eine Sonde über 41 linguistische Achsen, bewertet von einem Feld an Leserpersonas.

Ein früheres positives Ergebnis ließ sich auf ein Leck im Antwortschlüssel zurückführen und wurde zurückgezogen. Das steht hier, statt stillschweigend zu verschwinden — denn ein Messaufbau, der eigene Fehler nicht fängt, ist keiner.

Das Repository ist privat, deshalb steht hier kein Link darauf. Ein Link, der 404 liefert, ist schlechter als keiner.