Wie lassen sich leistungsfähige Sprachmodelle lokal auf der eigenen Infrastruktur betreiben und welche technischen, strategischen und organisatorischen Fragen sind dabei zu beachten?
Am 01. Oktober von 15:00 bis 17:00 Uhr geht unsere KAIROS-Veranstaltungsreihe in die dritte Runde. Im Mittelpunkt stehen dieses Mal die Grundlagen und Anforderungen lokal gehosteter KI-Systeme sowie der Einsatz von Open-Source-Large-Language-Models. Der KAIROS-Chatbot dient dabei als durchgängiges Praxisbeispiel, anhand dessen wir technische Zusammenhänge, Datenflüsse und zentrale Entscheidungen anschaulich erläutern.
Wir laden Sie herzlich ein zu unserer Veranstaltung KAIROS Deep Dive: Lokale Hardware & Open-Source-LLMs.
Freuen Sie sich auf folgende Themen:
- Was sind lokale KI-Anwendungen und souveräne KI? Bedeutung von Datensouveränität, Transparenz, Sicherheit, Datenschutz, EU-AI Act und technischer Kontrolle durch lokale KI-Anwendungen
- Begriffe und Mythen: Was unterscheidet ein Large Language Model von einem Chatbot und welche verbreiteten Annahmen über generative KI stimmen tatsächlich?
- Architektur und Datenflüsse: Wie sind lokale KI-Lösungen grundsätzlich aufgebaut und wie lassen sie sich modular, skalierbar und erweiterbar gestalten?
- Kontrolle über die eigenen Daten: Am Beispiel des KAIROS-Chatbots zeigen wir, wie Nutzende nachvollziehbar steuern können, welche Daten die eigene Infrastruktur verlassen und welche nicht.
- Einbindung von Fachwissen: Wie können Wissensbasen, Ontologien und Retrieval-Augmented Generation (RAG) genutzt werden, um Sprachmodelle um unternehmensspezifisches Wissen zu ergänzen?
- Von der Idee zur Anwendung: Welche Hardware wird benötigt, was können lokale Modelle leisten und welche Herausforderungen entstehen bei der Entwicklung von lokalen KI-Anwendungen?
Zum Abschluss steht noch Zeit für Ihre Fragen zur Verfügung. Wir werden zudem einen Ausblick geben, wie es beim Projekt KAIROS for Clusters weitergeht, inklusive eines möglichen Testing der KAIROS-Plattform für Unternehmen.
Die Veranstaltung auf einen Blick
- Datum: 01. Oktober
- Uhrzeit: 15:00–17:00 Uhr
- Format: Online über Microsoft Teams
- Vorkenntnisse: Nicht erforderlich
Alle weiteren Informationen sowie die Anmeldung finden Sie auf der Eveeno-Eventseite.