LLMs und Embedding-Modelle, selbstgebaut
Die ganze Welt redet über lokale Modelle, und tatsächlich ist es beeindruckend, dass man heute GPT-4o-ebenbürtige Modelle selbst lokal betreiben kann. Glücklicherweise sind die ganzen Optimierungen, die dafür notwendig waren, auch für das Training nutzbar.Der Talk zeigt, wie man spezialisierte LLMs für eigene Aufgaben und Embeddings für eigene Daten selbst trainiert. Am praktischen Beispiel, direkt im Talk, das man selbst direkt auf Colab weiterverwenden kann.
Speaker
Johann-Peter Hartmann ist einer der wenigen Überlebenden der Versuchsreihe "Wie lange überlebt eigentlich ein Hacker, wenn man ihn kontinuierlich mit Managementaufgaben bewirft?" Dazu musste er Firmen gründen und führen, investieren und dabei viele Fehler machen. Trotz der daraus resultierenden Herausforderungen für geistige Gesundheit sind die Grundfunktionen und Restkompetenz eines Hackers erhalten geblieben und dominieren den Blick auf Themen wie AI, Architektur, Leadership, Agile, DevOps und natürlich Security.