New Relic führt GPT-Observability-Lösung ein

MLOps-Lösung zur Überwachung von OpenAI GPT

30. März 2023, 12:00 Uhr | Anna Molder
© LANline

Der Observability-Anbieter New Relic führte die OpenAI-GPT-Observability-Applikation ein und damit die erste MLOps-Lösung, die Entwicklerteams die Überwachung von OpenAI GPT ermöglichen soll. Der Anbieter unterstütze alle aktuellen OpenAI-GPT-Versionen, einschließlich der kürzlich veröffentlichten GPT-4.

Mit zwei Codezeilen sollen Entwicklungsteams OpenAI-Completion Queries überwachen und gleichzeitig Leistungs- und Kostenmetriken in Echtzeit in einer einzigen Ansicht verfolgen können. Diese Integration helfe Unternehmen dabei, die Leistung neuer KI-Techniken besser für sich nutzbar zu machen, um Entwicklung und die Erreichung von Geschäftszielen zu beschleunigen. IT-Teams können den OpenAI-Schnellstart von Instant Observability kostenlos und mit minimalem Setup-Aufwand nutzen, indem sie sich für ein dauerhaft kostenloses New-Relic-eigenes Konto anmelden, so die weiteren Angaben.

Unternehmen auf der ganzen Welt setzen GPT ein, um Helpdesk-Tickets und Live-Chat-Protokolle zu überwachen, Inhalte und Bilder zu entwickeln oder semantische Suchen zu beschleunigen. Das New-Relic-eigene Monitoring für OpenAI sei schnell, einfach zu bedienen und liefere Echtzeit-Metriken, die den Teams helfen sollen, die Nutzung zu optimieren, Kosten zu reduzieren und bessere Ergebnisse zu erzielen.

Der Zugang zu Instant Observability ist laut dem Anbieter der erste seiner Art und ohne zusätzliche Kosten für alle Nutzenden der hauseigenen Plattform enthalten. Mit zwei Zeilen Code könne die Anwenderschaft das Monitor-Modul aus der nr_openai_monitor-Library importieren und automatisch ein Dashboard generieren, das eine Vielzahl von GPT-Leistungsmetriken anzeigt.

Die Nutzung des Davinci-Modells von OpenAI kann Kosten verursachen, die sich schnell summieren können und den Betrieb so im großen Maßstab erschweren. New Relic biete Entwicklungsteams einen Echtzeit-Kostenüberblick ihrer GPT-Nutzung. Außerdem will der Anbieter den Entwicklungsteams einen Einblick in die durchschnittliche Response-Zeit und andere wichtige Leistungsmetriken rundum GPT-Anfragen geben, sodass die IT-Teams die Nutzung optimieren und bestmögliche Antwortzeiten sicherstellen können. Darüber hinaus wolle man mit der Lösung wertvolle Informationen über die Nutzung, die Geschwindigkeit und die Effektivität von GPT bieten, um den Entwicklungsteams zu helfen, bessere Ergebnisse mit ihren ML-Modellen zu erzielen.

Die OpenAI-GPT-Integration sei für Nutzende der anbietereigenen Plattform ohne zusätzliche Kosten enthalten.

Anbieter zum Thema

zu Matchmaker+

Lesen Sie mehr zum Thema


Jetzt kostenfreie Newsletter bestellen!

Weitere Artikel zu New Relic

Weitere Artikel zu Monitoring

Weitere Artikel zu Schleuniger AG

Weitere Artikel zu Swissphone Telecommunications

Matchmaker+