Goldman Sachs' sichere KI-Plattform: LLM-Bereitstellung hinter Firewall

Goldman Sachs hat erfolgreich eine interne künstliche Intelligenz-Plattform, die GS KI-Plattform, implementiert, was einen bedeutenden Schritt in der Annahme fortschrittlicher Technologie durch den Finanzriesen darstellt. Die Initiative, angetrieben vom Wunsch, die Produktivität im gesamten Unternehmen zu steigern, priorisiert strenge Sicherheits-, Compliance- und Governance-Kontrollen und setzt damit einen Präzedenzfall für andere stark regulierte Branchen.

Im Kern arbeitet die GS KI-Plattform vollständig hinter der robusten Firewall von Goldman Sachs und hostet eine Suite von großen Sprachmodellen, darunter OpenAIs GPT-4, Googles Gemini, Metas Llama und Anthropics Claude, neben proprietären internen Modellen. Mitarbeiter greifen auf diese Funktionen über eine einfache Chat-Oberfläche zu, ähnlich wie öffentliche KI-Tools, wodurch sie neue Gespräche initiieren und die neuesten Modelle nutzen können. Die flexible Architektur der Plattform unterstützt die Mehrmodell-Orchestrierung, indem sie Aufgaben – wie Code-Anfragen oder Dokumentenzusammenfassungen – intelligent an das am besten geeignete Modell weiterleitet, ohne dass Benutzer neu trainiert werden müssen. Dieser Ansatz gewährleistet qualitativ hochwertige Ergebnisse bei verschiedenen Anwendungsfällen und ermöglicht einen nahtlosen Modellwechsel.

Ein Eckpfeiler des Plattformdesigns ist sein strenges Sicherheits- und Compliance-Framework. Alle KI-Interaktionen durchlaufen ein sicheres Compliance-Gateway, das Prompt-Filterung, Datenanonymisierung und Richtlinienprüfungen anwendet. Dies verhindert die Übertragung sensibler Informationen an die Modelle und stellt sicher, dass die Ausgaben den Firmen- und Regulierungsvorschriften entsprechen. Daten, die zu Modell-APIs übertragen werden, sind verschlüsselt, und sensible Prompts oder Antworten werden innerhalb des Systems maskiert. Die Plattform führt eine umfassende Audit-Spur aller KI-Interaktionen, die Compliance-Teams detaillierte Aufzeichnungen über ausgetauschte Informationen, verwendete Modelle und Benutzeridentitäten liefert. Der Zugriff auf bestimmte Modelle und Datenbanken wird basierend auf Mitarbeiterrolle, Abteilung und Anwendungsfall akribisch kontrolliert, während die Token-Level-Filterung jeden Prompt analysiert, um sensible Daten wie Kundennamen oder Kontonummern vor der Verarbeitung zu entfernen oder zu ersetzen, wodurch Datenlecks verhindert und unzulässige Inhalte blockiert werden.

Eine der frühesten und wirkungsvollsten Anwendungen der Plattform war die Unterstützung von Softwareentwicklern. Goldman Sachs hat KI-Code-Assistenten direkt in populäre integrierte Entwicklungsumgebungen (IDEs) wie VS Code und JetBrains integriert. Diese KI-Tools bieten Echtzeit-Code-Vorschläge, -Vervollständigungen, -Erklärungen und können sogar Fehlerbehebungen vorschlagen, Code zwischen Sprachen übersetzen oder Boilerplate-Code und Testfälle generieren. Um die Sicherheit zu gewährleisten, wird der gesamte KI-generierte Code in einer Sandbox ausgeführt und den standardmäßigen Code-Review-Prozessen und automatisierten Testpipelines des Unternehmens unterzogen, bevor er bereitgestellt wird, wodurch menschliche Aufsicht und Qualitätskontrolle sichergestellt werden. Das Unternehmen bietet intern auch die Code-Modelle von Microsoft und Google an, was Redundanz schafft und Leistungsvergleiche ermöglicht.

Über Standardlösungen hinaus hat Goldman Sachs Modelle für interne Anwendungsfälle umfassend angepasst und feinabgestimmt. Ein entscheidender Aspekt ist die Speisung der KI-Modelle mit Goldmans riesigem Repository proprietärer Daten, einschließlich Finanztexten, Code-Repositories und Forschungsarchiven. Dies verankert das Wissen der KI im spezifischen Kontext des Unternehmens. Open-Source- und interne Modelle werden auf diesen Daten trainiert, um sicherzustellen, dass die Ausgaben mit internen Standards, Abkürzungen und dem historischen Kontext übereinstimmen. Das System nutzt auch Retrieval-Augmented Generation (RAG), wodurch die KI relevante interne Dokumente in Echtzeit abrufen kann, um Anfragen mit präzisen, quellengestützten Informationen zu beantworten. Darüber hinaus werden spezialisierte Varianten wie ein „Banker Copilot“ oder „Research Assistant“ auf abteilungsspezifische Bedürfnisse zugeschnitten, und eine Strategie für Modelle unterschiedlicher Größe reserviert größere, komplexere Modelle für wirklich herausfordernde Probleme, während kleinere, schnellere Modelle für einfachere Aufgaben verwendet werden.

Die organisatorischen Auswirkungen der GS KI-Plattform waren erheblich. Entwickler berichten von über 20% schnelleren Codierungszyklen und einer 15%igen Reduzierung von Fehlern nach der Veröffentlichung. Die für Aufgaben wie die Erstellung von IPO-Dokumenten benötigte Zeit wurde drastisch von Wochen auf Minuten reduziert, wobei die KI etwa 95% der Arbeit erledigt. Dokumentenübersetzungen und regulatorische Vergleiche, einst stundenlange Unternehmungen, dauern jetzt nur noch Sekunden. Seit ihrer breiten Veröffentlichung an über 46.500 Mitarbeiter im Juni 2025 hat die Plattform eine Akzeptanzrate von über 50% erreicht, mit dem Ziel von 100% Nutzung bis 2026. Dieser Erfolg wird auf ein robustes Änderungsmanagement zurückgeführt, einschließlich „KI-Champions“ in jeder Geschäftseinheit, Schulungsworkshops und klarer Botschaften der Führungsebene – einschließlich CEO David Solomon und CIO Marco Argenti –, dass KI Arbeitsplätze erweitert und nicht ersetzt. Neue Mitarbeiter nutzen KI auch als Tutor, um ihre Einarbeitung in komplexe Codebasen und interne Prozesse zu beschleunigen.

Mit Blick auf die Zukunft pilotiert Goldman Sachs Devin, einen autonomen KI-Softwareentwickler, der von Cognition entwickelt wurde. Im Gegensatz zu bestehenden KI-Assistenten, die Schritt-für-Schritt-Anweisungen erfordern, kann Devin ein übergeordnetes Ziel annehmen, einen Plan entwickeln, Code schreiben, testen und eine Lösung zur Überprüfung präsentieren. Dieser Pilot konzentriert sich auf die Automatisierung weniger attraktiver Aufgaben wie die Aktualisierung von Legacy-Code oder die Migration von Systemen, um Rückstände abzubauen und die Bereitstellung zu beschleunigen, indem die Leistung im Vergleich zu aktuellen KI-Tools potenziell verdrei- oder vervierfacht wird. Die Erprobung ist auch ein kritischer Test für Devins Fähigkeit, innerhalb des strengen Compliance-Frameworks von Goldman zu operieren, mit dem Potenzial für eine zukünftige Integration in die GS KI-Plattform, die es Mitarbeitern ermöglicht, komplexe Aufgaben zur autonomen Erledigung zu delegieren.

Die KI-Strategie von Goldman Sachs bietet eine überzeugende Fallstudie für Chief Information Officers in regulierten Branchen. Sie zeigt, dass mit einer durchdachten Architektur und robusten Kontrollen selbst sensible Sektoren wie das Finanzwesen generative KI effektiv nutzen können, um Routinearbeiten zu automatisieren, Erkenntnisse zu gewinnen und die Entscheidungsfindung zu verbessern, ohne Sicherheit oder Compliance zu beeinträchtigen. Der „Behind-the-Firewall“-Ansatz des Unternehmens hat es seiner gesamten Belegschaft ermöglicht, auf fortschrittliche KI-Modelle zuzugreifen, was eine kollaborative Denkweise fördert, in der KI als leistungsstarker Partner angesehen wird, der bereit ist, die Arbeitsprozesse in der Bank neu zu definieren.