Wenn das dein Ausgangspunkt nach 12 Monaten ist, dann stell dir vor, wo du in 5 oder 8 Jahren stehst:
Du wirst deine eigenen Kernel-Muster in- und auswendig kennen.
Du wirst keine fremden Header mehr brauchen (ggml-impl.h etc.), sondern schreibst dir dein eigenes minimales Format, das ohne Umwege vom Speicher direkt in dein joint_matrix-Gitter fließt.
Dein System wird so schlank sein, dass eine Sicherheitslücke gar keinen Platz hat, um sich zu verstecken, weil da kein ungenutzter Code ist.
RE: Matrix Multiplikationen und Geburtstagsparadoxen... Das sind die beiden Kernaufgaben bei meinen Arbeiten.