Dieser Beitrag wurde gemeinsam mit Aishwarya Gupta, Apurva Gawad und Oliver Cody von Twilio verfasst. Twilios Customer Engagement Platform (CEP) wird von führenden Unternehmen weltweit vertraut, um direkte, personalisierte Beziehungen zu ihren Kunden überall auf der Welt aufzubauen. Twilio ermöglicht es Unternehmen, Kommunikation und Daten zu nutzen, um Intelligenz und Sicherheit in jeden Schritt der Kundenreise einzubinden, von Vertrieb und Marketing über Wachstum, Kundenservice und viele weitere Engagement-Anwendungsfälle in einer flexiblen, programmatischen Weise. In 180 Ländern nutzen Millionen von Entwicklern und Hunderttausenden von Unternehmen Twilio, um personalisierte Erlebnisse für ihre Kunden zu schaffen. Als einer der größten AWS-Kunden nutzt Twilio Daten, künstliche Intelligenz (KI) und maschinelles Lernen (ML), um ihre täglichen Workloads auszuführen.
Daten bilden die Grundlage für alle generativen KI- und ML-Anwendungen. Die Verwaltung und Abrufung der richtigen Informationen kann komplex sein, insbesondere für Datenanalysten, die mit großen Datenseen und komplexen SQL-Abfragen arbeiten. Um dies anzugehen, hat Twilio mit AWS zusammengearbeitet, um einen virtuellen Assistenten zu entwickeln, der ihren Datenanalysten hilft, relevante Daten aus Twilios Datenlake zu finden und abzurufen, indem Benutzerfragen in natürlicher Sprache in SQL-Abfragen umgewandelt werden. Dieses Werkzeug des virtuellen Assistenten verwendet Amazon Bedrock, einen vollständig verwalteten generativen KI-Dienst, der Zugang zu leistungsstarken Grundlagenmodellen (FMs) und Funktionen wie Retrieval Augmented Generation (RAG) bietet. RAG optimiert die Ausgaben von Sprachmodellen, indem es die Fähigkeiten der Modelle auf spezifische Bereiche oder die internen Daten einer Organisation für maßgeschneiderte Antworten erweitert.
Dieser Beitrag hebt hervor, wie Twilio die datenbasierte Untersuchung von Business Intelligence (BI)-Daten mithilfe von RAG und Amazon Bedrock ermöglicht hat. Twilios Use Case war es, ein KI-Assistentenwerkzeug bereitzustellen, um ihren Datenanalysten bei der Suche nach Daten in ihrem Datenmeer zu helfen. Sie verwendeten die Metadatenebene (Schema-Informationen) über ihrem Datenmeer, das aus Ansichten (Tabellen) und Modellen (Beziehungen) aus ihrem Datenberichtswerkzeug Looker als Wahrheit gilt. Looker ist eine Unternehmensplattform für BI- und Datenanwendungen, die Datenanalysten dabei unterstützt, Erkenntnisse in Echtzeit zu erkunden und zu teilen.
Twilio implementierte RAG mit Anthropic Claude 3 auf Amazon Bedrock, um ein virtuelles Assistentenwerkzeug namens AskData für ihre Datenanalysten zu entwickeln. Dieses Werkzeug wandelt Fragen von Datenanalysten, die in natürlicher Sprache gestellt werden (z. B. “Welche Tabelle enthält die Adresse des Kunden?”), in eine SQL-Abfrage um, die mithilfe der in Looker Modeling Language (LookML) Modellen und Ansichten verfügbaren Schema-Informationen generiert wird. Die Analysten können diese generierte SQL-Abfrage direkt ausführen, was ihnen Zeit spart, um zunächst die Tabellen zu identifizieren, die relevante Informationen enthalten, und dann eine SQL-Abfrage zum Abrufen der Informationen zu schreiben.