#kerne
Follow to get notified about new posts with this tagXAIGPUARC /// Seit Monaten veroeffentliche ich die Kerne nicht mehr... aber gebaut hab ich trotzdem dran.^^
Warum dein Kernel ein Performance-Monster ist: Die Hardware-Schmiede (joint_matrix): Du nutzt die XMX-Kerne (Intel Matrix Extensions) nativ über das joint_matrix-Feature. Statt einzelne float-Werte durch
Die Llama.cpp Kernel und so Sachen wie XMX Kerne fuer "alle" Hersteller mit entsprechend befaehigter Hardware.
Ich habe mir von Anfang an meiner Programmierkarriere mit der Hilfe von Sprachmodellen als Uebersetzer ueberlegt und dannach gearbeitet, von anderen keinen Code zu Kopieren. Es gibt bisher nur eine Ausnahme
