Worüber niemand bei LLMs spricht

Trotz ihrer wachsenden Beliebtheit verbergen Large Language Models (LLMs) oftmals unterschätzte Details. In diesem Vortrag werfen wir Licht auf diese Aspekte, basierend auf unseren ersten Praxiserfahrungen in der Produkt- und Anwendungsentwicklung.

• Zunächst erklären wir die grundlegende Funktion eines LLM, und gehen auf gängige Missverständnisse und wichtige Limitationen ein.
• Im zweiten Teil besprechen wir die begrenzte Wissenskapazität von LLMs und zeigen Lösungen, wie man das Wissen von LLMs dynamisch und kontextspezifisch erweitert.
• Der dritte Teil konzentriert sich auf das User Experience Design. Auch wenn ChatGPT diesen Eindruck erweckt hat, handelt es sich bei der UX von LLMs nicht einfach um ein Chat-Interface. Datenschutz ist ein weiterer wichtiger Punkt in der Arbeit mit LLMs.
• Wir zeigen Sandboxing von LLMs in der Cloud und betrachten Alternativen für lokales Hosting.
• Im letzten Teil gehen wir auf die tiefgreifenden Veränderungen im Entwicklungsprozess ein, die LLMs mit sich bringen. Da LLMs nicht deterministisch sind, müssen wir unsere herkömmlichen Entwicklungsansätze überdenken und anpassen.

All diese Erkenntnisse präsentieren wir am Beispiel einer Produktentwicklung und eines firmeninternen Auskunftssystem für unsere Mitarbeiter:innen. Nutzen Sie diese Gelegenheit und profitieren Sie von von unseren zusammengefassten Erfahrungen in einem kompakten Vortrag mit anschließender Q&A.

Aufzeichnung vom letzten TechTalk Breakfast