Private AI – die Macht der eigenen Modelle

Unser letztes Meetup am 24. Juni in der Factory300 war eine zukunftsweisende Veranstaltung rund um das Thema „Private AI“. IKT-Geschäftsführer Markus Hein betonte in seiner Eröffnung die Notwendigkeit digitaler Souveränität gegenüber großen Cloudanbietern. In spannenden Vorträgen wurde die Kontrolle über eigene KI-Modelle als Schlüssel zu technischer, rechtlicher und ethischer Unabhängigkeit hervorgehoben.

Besonderes Augenmerk galt der praktischen Umsetzung mit lokalen Modellen wie LLaMA oder Pixtral und der Integration in bestehende Infrastrukturen. Zahlreiche Use Cases – von der Dokumentenanalyse über interne Chatbots bis hin zur IT-gestützten Entscheidungsfindung – verdeutlichten das enorme Potenzial für Verwaltungen. Mit dem Transkriptionstool „Transkripo“ wurde eine Lösung präsentiert, die nicht nur DSGVO-konform arbeitet, sondern durch hohe Erkennungsgenauigkeit und intuitive Bedienung überzeugt.

Ein Highlight war die Vorstellung des multimodalen Modells Pixtral, das Text und Bild gleichzeitig verarbeiten kann – ideal für automatisierte Prozesse im Rechnungswesen und Vertragsmanagement. Die Veranstaltung endete mit einer klaren Botschaft: Der Eigenbetrieb von KI ist kein Rückschritt, sondern ein strategischer Fortschritt.