Künstliche Intelligenz entfaltet ihren Wert nicht durch ein leistungsfähiges Sprachmodell allein. Entscheidend ist die Verbindung mit Fachlogik, Daten, bestehenden Systemen und einer Architektur, die im Betrieb trägt.
EicDevCon entwickelt KI-gestützte Anwendungen von der ersten fachlichen Idee bis zum einsatzfähigen Softwaresystem. Klassische Verfahren, Machine Learning, Natural Language Processing und Large Language Models lassen sich dabei kombinieren, sodass für jede Aufgabe das technisch passende Verfahren zum Einsatz kommt.
Von der fachlichen Anforderung zur KI-Anwendung
Am Anfang steht nicht das Modell, sondern das Problem. Welche Arbeitsschritte lassen sich unterstützen oder automatisieren? Welche Informationen müssen erkannt werden? Welche Entscheidungen brauchen Kontext – und an welchen Stellen ist eine deterministische Verarbeitung wichtiger als eine generative Antwort?
Auf dieser Grundlage entsteht die Architektur. Sie kann Texterkennung, Dokumentklassifikation, Information Extraction, regelbasierte Verarbeitung, Machine Learning sowie lokale oder cloudbasierte Sprachmodelle miteinander verbinden.
Der Entwicklungsweg lässt sich aus einer Hand umsetzen:
- Analyse des fachlichen Prozesses und der Anforderungen
- Konzeption der Software- und KI-Architektur
- Aufbereitung strukturierter und unstrukturierter Daten
- Texterkennung und Dokumentenanalyse
- Sprachverarbeitung und Entity Recognition
- Entwicklung und Training von Klassifikationsmodellen
- Einbindung von Large Language Models
- Backend, Schnittstellen und Benutzeroberflächen
- Integration in vorhandene Fachverfahren und Geschäftsprozesse
- Betrieb lokaler, cloudbasierter oder hybrider KI-Infrastrukturen
Hybrid AI statt „LLM für alles"
Nicht jede Aufgabe braucht ein Large Language Model. Eindeutige Daten lassen sich mit Regeln oder klassischen Algorithmen oft schneller und reproduzierbarer verarbeiten. Dokumenttypen erkennen spezialisierte Klassifikatoren, während Sprachverarbeitung gezielt Entitäten und fachliche Informationen extrahiert.
Sprachmodelle kommen dort hinzu, wo semantisches Verständnis, komplexere Zusammenhänge oder flexible Interpretation gefragt sind.
So entstehen hybride Systeme, in denen regelbasierte Verfahren, klassische Modelle und generative KI jeweils das tun, wofür sie geeignet sind.
Local AI, Cloud AI oder hybride Architektur
Für KI-Anwendungen gibt es nicht nur ein Betriebsmodell. Abhängig von Datenschutz, Infrastruktur, Kosten und Leistungsanforderungen können Modelle lokal oder über externe Dienste betrieben werden.
Lokale Sprachmodelle lassen sich beispielsweise mit Ollama oder LM Studio innerhalb einer kontrollierten Infrastruktur betreiben. Alternativ werden externe Schnittstellen eingebunden. Auch die Kombination ist möglich: Sensible Daten bleiben in der eigenen Umgebung, andere Aufgaben laufen über externe Modelle.
Hinweis
Betriebsmodelle
Lokal – Modelle in eigener Infrastruktur, etwa über Ollama oder LM Studio. Cloud – externe Schnittstellen, wo deren Fähigkeiten einen Vorteil bringen. Hybrid – Aufgabenverteilung abhängig von Daten und Anforderung.
Gerade bei vertraulichen Dokumenten eröffnet die lokale Verarbeitung zusätzliche architektonische Möglichkeiten.
Document Intelligence
Ein Schwerpunkt liegt auf der automatisierten Verarbeitung von Dokumenten und unstrukturierten Informationen. Solche Systeme können PDF-Dokumente und Scans erfassen, Inhalte über Texterkennung auslesen, Dokumenttypen klassifizieren, Organisationen und Aktenzeichen erkennen, Inhalte semantisch analysieren, strukturierte Daten erzeugen, Dokumente nach fachlichen Regeln weiterleiten und Ergebnisse über Schnittstellen an Fachverfahren übergeben.
So lassen sich bislang manuell geprägte Dokumentenprozesse schrittweise digitalisieren.
KI als Bestandteil solider Softwarearchitektur
Eine KI-Komponente ersetzt keine klassische Softwareentwicklung. Authentifizierung, Berechtigungen, Schnittstellen, Datenhaltung, Protokollierung, Fehlerbehandlung, Benutzeroberflächen und Integrationen bleiben wesentliche Bestandteile einer produktiven Anwendung.
KI-Engineering steht deshalb neben Software Engineering, Systemintegration und dem Betrieb der Infrastruktur. Das Ziel ist keine isolierte Demonstration, sondern Software, die sich in reale Prozesse einfügt.
Praxisbeispiel
Für einen Anwendungsfall in der Schuldnerberatung entstand eine kundenspezifische Fachanwendung zur automatisierten Analyse und Klassifikation eingehender Gläubigerdokumente. Sie verbindet Texterkennung, regelbasierte Verfahren, Sprachverarbeitung, Machine Learning und Sprachmodelle in einer gemeinsamen Verarbeitungskette; neben externen Diensten lassen sich Modelle lokal über Ollama oder LM Studio betreiben.
Die Case Study beschreibt Architektur und Verarbeitungskette im Detail: KI-gestützte Dokumentenanalyse und Prozesssteuerung.