#gefunden
Follow to get notified about new posts with this tag
Gestern habe ich durch Zufall doch noch eine SYCL KI gefunden. Alibaba Cloud wieder mal^^... Das laueft natuerlich auch auf Intel Gut mit 7 Token auf dem Laptop 45 Watt
Die KI ist Groß, ein Nachdenkfaehiges recht modernes LLM und heißt "Orchestrator-8B-f16_q8_0.gguf". Sie benoetigt eine B580 oder eine A730m als Minimum, weil ihre Speicheranforderungen leider