Der Aufbau einer Bereitstellungspipeline für generative künstliche Intelligenz (KI)-Anwendungen im großen Maßstab ist eine beachtliche Herausforderung aufgrund der Komplexität und der spezifischen Anforderungen dieser Systeme. Generative KI-Modelle entwickeln sich ständig weiter, mit häufigen neuen Versionen und Updates. Dies macht das Management und die Bereitstellung dieser Updates über eine groß angelegte Bereitstellungspipeline unter Berücksichtigung von Konsistenz und Minimierung von Ausfallzeiten zu einer bedeutenden Aufgabe. Generative KI-Anwendungen erfordern eine kontinuierliche Aufnahme, Vorverarbeitung und Formatierung großer Datenmengen aus verschiedenen Quellen. Der Aufbau robuster Datenpipelines, die diese Arbeitslast zuverlässig und effizient im großen Maßstab bewältigen können, ist eine erhebliche Herausforderung. Die Überwachung der Leistung, der Voreingenommenheit und der ethischen Implikationen von generativen KI-Modellen in Produktionsumgebungen ist eine wichtige Aufgabe.
Um dies im großen Maßstab zu erreichen, sind erhebliche Investitionen in Ressourcen, Know-how und die interdisziplinäre Zusammenarbeit zwischen verschiedenen Personen wie Datenwissenschaftlern oder Machine-Learning (ML)-Entwicklern, die sich auf die Entwicklung von ML-Modellen konzentrieren, und Maschinenlernbetriebsingenieuren (MLOps), die sich auf die einzigartigen Aspekte von KI/ML-Projekten konzentrieren und die Lieferzeiten verbessern, Fehler reduzieren sowie die Datenwissenschaft effizienter gestalten können, erforderlich. In diesem Beitrag wird gezeigt, wie man Python-Code, der ein generatives KI-Modell in Amazon Bedrock lokal optimiert, in einen wiederverwendbaren Workflow unter Verwendung von Amazon SageMaker Pipelines Decorators umwandeln kann. Man kann Amazon SageMaker Model Building Pipelines nutzen, um die Zusammenarbeit zwischen mehreren KI/ML-Teams zu fördern.
Mit SageMaker Pipelines können die verschiedenen Schritte des ML-Lebenszyklus definiert und orchestriert werden, wie beispielsweise die Datenvorverarbeitung, das Modelltraining, die Evaluierung und die Bereitstellung. Dies optimiert den Prozess und gewährleistet eine Konsistenz in den verschiedenen Phasen der Pipeline. SageMaker Pipelines können auch die Modellversionierung und Verfolgung der Abstammung bewältigen. Es hält automatisch Modelldaten, Hyperparameter und Metadaten fest, was Ihnen ermöglicht, Modellversionen zu reproduzieren und zu überprüfen.
Die Verwendung von SageMaker Pipelines Decorators hilft dabei, lokalen ML-Code, der als Python-Programm geschrieben ist, in einen oder mehrere Pipeline-Schritte umzuwandeln. Da auf Amazon Bedrock als API zugegriffen werden kann, können Entwickler, die Amazon SageMaker nicht kennen, eine Amazon Bedrock-Anwendung implementieren oder Amazon Bedrock durch das Schreiben eines regulären Python-Programms optimieren. Man kann seine ML-Funktion wie für jedes beliebige ML-Projekt schreiben. Nachdem sie lokal getestet wurde oder als Trainingsjob, kann ein Data Scientist oder Praktiker, der Experte für SageMaker ist, die Funktion in einen SageMaker-Pipeline-Schritt umwandeln, indem er ein @step-Decorator hinzufügt.