Die von Google-Forschern im Jahr 2017 angekündigte Machine-Learning-Architektur “Transformer” spielt eine wichtige Rolle bei der Entwicklung von groß angelegten Sprachmodellen wie GPT-4 und Llama. Google behauptet, dass Transformer dazu verwendet werden kann, “ein genaueres Musikempfehlungssystem basierend auf dem Nutzerverhalten zu erstellen”. Dieser Mechanismus wird nicht nur für die Textgenerierung, sondern auch für KI für verschiedene andere Zwecke angewendet.
Musik-Abonnementdienste wie YouTube Music und Apple Music enthalten eine Vielzahl von Songs, aber es ist schwierig für einen einzelnen Benutzer, eine große Anzahl von Liedern zu hören und herauszufinden, welche seinem Geschmack entsprechen. Deshalb ist ein Musikempfehlungssystem, das den Geschmack des Benutzers trifft, wichtig. Wenn es gelingt, Lieder zu empfehlen, die Benutzer mögen, werden sie Musik über längere Zeiträume hören und die Plattform mehr nutzen.
Im Allgemeinen legen Empfehlungssysteme für Musik-Abonnementdienste neben den Trends in den Liedern, die der Benutzer in der Vergangenheit gehört hat, auch Wert auf die Aktionen des Benutzers in Bezug auf empfohlene Lieder. Benutzer, die ein empfohlenes Lied überspringen, werden wahrscheinlich nicht sehr ähnliche Lieder mögen. Wenn sie jedoch das Lied hören, es zu ihren Favoriten hinzufügen oder andere Lieder desselben Künstlers hören, werden sie wahrscheinlich ähnliche Lieder mögen.
Google behauptet, dass Transformer gut geeignet ist, um diese vielfältigen Eingabedaten zu verarbeiten. Transformer kann auch bei mehrdeutigem Eingabetext gut in Übersetzungs- und Klassifizierungsaufgaben abschneiden. Durch die Anwendung auf ein Musikempfehlungssystem kann es die Bedeutung von Aktionen entsprechend der Situation ermitteln und die Gewichtungen anpassen. Google verwendet Transformer bereits in seinem YouTube Music Empfehlungssystem und hat festgestellt, dass dies die Leistung des Rankings deutlich verbessert.
Google plant, diese Technik auf andere Empfehlungssysteme anzuwenden, wie Suchmodelle, und andere Faktoren in sein Musikempfehlungssystem einzubeziehen, um die Leistung zu verbessern.