Künstliche Intelligenz : Drei Jahre neuronales Netz, zwei Tage mit LLM: Semperit zieht die Konsequenzen

Andreas Raml erlebt gerade eine jener seltenen Phasen, in denen sich die Richtung einer ganzen IT-Strategie umkehrt. Jahrelang galt bei Semperit wie bei zahllosen Industriekonzernen Cloud first. Anwendungen, Server und Rechenleistung sollten möglichst nicht mehr im eigenen Haus betrieben werden. Nun kauft der Wiener Gummi- und Kautschukkonzern wieder NVIDIA-Hardware, lädt Modelle herunter, kapselt sie vom Internet ab und beginnt, das wertvollste industrielle Know-how des Unternehmens lokal mit Large Language Models zu bearbeiten.

Nie mehr die wichtigsten News aus Österreichs Industrie verpassen? Abonnieren Sie unser Daily Briefing: Was in der Industrie wichtig wird. Täglich um 7 Uhr in ihrer Inbox. Hier geht’s zur Anmeldung!

Der Grund ist eine Mischung aus Kosten und technologischer Geschwindigkeit. „Immer mehr Dinge werden tokenbasiert und damit kostenbasiert“, sagt Raml, Director Group IT bei Semperit. Microsoft Copilot sei im Konzern durchaus nützlich. Wo KI wirklich leistungsfähig werde, beginne aber eine andere Kostenwelt. Beim Coding nennt er Claude Code von Anthropic als Beispiel. 

Humanoide Roboter: Nvidia wird zum Schlüssel für Semperits ehrgeizige Roboterpläne

„Kostet einfach heute schon Geld mit all den Vorteilen“, sagt er. Die Konsequenz sei, sich neben den kommerziellen Plattformen mit herunterladbaren Modellen und eigener Infrastruktur zu beschäftigen. „Wir hatten die letzten Jahre immer diese Cloud-first-Strategie, eigentlich alles loszukriegen. Und jetzt fangen wir an, die Dinge wieder aufzubauen“, so Raml.

Wie ernst Raml die neue Richtung meint, zeigt das derzeit vielleicht interessanteste KI-Experiment im Konzern. Es liegt nicht im Marketing und nicht bei PowerPoint. Es liegt in der Chemie. Semperit besitzt über Jahrzehnte angesammeltes Wissen darüber, wie Kautschukmischungen für industrielle Produkte zusammengesetzt werden müssen. Über die Jahre seien so „mehrere 10.000 Rezepturen“ samt Prüfergebnissen zusammengekommen, sagt Raml. Genau dieser Datensatz ist industrielles Kernwissen. "Das ist unsere Kernkompetenz und damit etwas, das ich keinesfalls in einem OpenAI-Universum sehen möchte“, sagt Raml. 

Die R&D-Spezialisten versuchten deshalb zunächst, mit klassischen neuronalen Netzen aus diesem Datenschatz Vorhersagen abzuleiten. Das Ziel war, aus historischen Mischungen vorherzusagen, wie sich eine Rezepturänderung auf spätere Messwerte auswirkt. Dann schlug Raml vor, ein Large Language Model auf das Problem anzusetzen. „Was wir drei Jahre lang mit einem neuronalen Netz versucht haben hinzubekommen, konnten wir innerhalb von zwei Tagen über ein LLM in der gleichen Qualität erreichen“, sagt er. Nun gehe es um das Feintuning.

Für dieses Experiment wanderte der Datenschatz nicht in eine öffentliche Cloud. Semperit setzt auf eine lokal abgeschottete Umgebung. Kein zusätzliches Rechenzentrum, kein mit Dutzenden GPUs vollgestellter Raum. Die kleine Versuchsinfrastruktur sitzt in einem 19-Zoll-Schrank. „Reingeschraubt und fertig“, sagt Raml. Die Umgebung ist für sensible Anwendungen vom Internet getrennt. Nur wenige Personen erhalten Zugang. Für die mehreren 10.000 Compound-Rezepturen ist genau diese Abschottung entscheidend.

Raml bestätigt, dass Semperit ein aktuelles OpenAI-Modell im Einsatz hat. Zusätzlich testet das Unternehmen Mistral. Claude von Anthropic befindet sich ebenfalls „im Anlauf“. Von Mistral ist Raml bislang nicht vollständig überzeugt. „Vielleicht liegt es auch an unserem Anwendungsfall“, schränkt er ein. Das Urteil ist für ihn ohnehin vorläufig. In einer Modellwelt, die sich im Wochenrhythmus verändert, "kann ein zunächst hinter den Erwartungen zurückbleibendes Modell wenige Releases später völlig anders aussehen", sagt Raml.

Aufmerksam beobachtet Semperit chinesische Modelle. Ramls Begründung ist technisch und geopolitisch zugleich. US-Exportbeschränkungen haben chinesischen Entwicklern den Zugang zu den leistungsfähigsten NVIDIA-Beschleunigern erschwert. Dadurch seien sie gezwungen gewesen, stärker auf Effizienz zu optimieren. Die Chinesen müssen einfach sehr effizient sein. "Deshalb sind diese Modelle super interessant“, sagt er. 

Semperit will möglichst viele dieser Optionen ausprobieren. Skepsis und Vorsicht bleibt: "Weil ich nicht weiß, ob ein Modell nicht im Hintergrund trotzdem Verbindungen aufbaut und ein Datenabfluss stattfindet, muss ich achtsam sein“, sagt Raml. 

Microsoft verdient pro Credit

Dass bei Semperit so intensiv nach Alternativen gesucht wird, hat viel mit dem Wandel der Abrechnung zu tun. Raml beobachtet, wie KI-Produkte von klassischen Benutzerlizenzen in Richtung verbrauchsabhängiger Modelle wandern. Microsoft hat diesen Schritt längst institutionalisiert. In Copilot Studio werden Agenten inzwischen über sogenannte Copilot Credits abgerechnet. 

Eine klassische Antwort kostet einen Credit, eine generative Antwort zwei, eine Agentenaktion fünf und Tenant-Graph-Grounding zehn Credits. Premium-AI-Tools mit Reasoning werden zusätzlich nach Tokenverbrauch berechnet. Microsoft nennt dafür zehn Copilot Credits je 1.000 Tokens. Für Coding verschärft sich die Rechnung, weil ein Agent nicht nur einen Prompt beantwortet. Er liest Dateien, durchsucht Codebasen, generiert Programmteile, startet Tests, interpretiert Fehler und korrigiert erneut. Anthropic bietet Claude Code deshalb sowohl über Abonnements als auch nutzungsabhängig an. Max-Tarife liegen derzeit bei 100 beziehungsweise 200 Dollar pro Person und Monat.

Raml jedenfalls glaubt nicht daran, dass Unternehmen die Produktivitätsgewinne aus standardisierter KI langfristig vollständig behalten werden. Angenommen, KI macht eine Tätigkeit so effizient, dass ein Unternehmen theoretisch eine Stelle mit 80.000 Euro Vollkosten einsparen könnte. Dann werde der Anbieter der KI versuchen, einen beträchtlichen Teil dieses ökonomischen Wertes abzuschöpfen. „Dann wird das KI-Modell, das die Person ersetzt, "irgendwann 70.000 Euro kosten“, sagt Raml. Gerade so viel, "dass der Nutzer noch einen kleinen Gewinn hat.“

Der ERP-Berater verschwindet

Besonders drastisch wird Ramls Prognose beim klassischen IT-Beratungsgeschäft. Die Zukunft eines ERP- oder Standardsoftwareprojekts stellt er sich nicht mehr zwangsläufig als Zusammenarbeit zwischen Business-Key-User, internem IT-Team und externen Consultants vor. 

„Ich glaube, dass wir den klassischen Berater, der heute eine Standardsoftware customizt und entsprechend ins Business einführt, in der IT-Zukunft gar nicht mehr sehen werden.“ Stattdessen könne ein Business-Key-User künftig einem Agenten erklären: „Pass auf, ich möchte meinen Prozess ändern.“ Der Agent übersetze diese fachliche Anforderung in Konfiguration, Workflow und technische Umsetzung. Die Folge: „Den klassischen Berater, den wir heute aus der IT kennen, gibt es womöglich in zwei Jahren nicht mehr“, sagt Raml.