Die Technik zum Video-Encoding bei Netflix hält dem Wachstum des Streaming-Anbieters nicht mehr stand.
Die Videodateien, die der Streaming-Anbieter Netflix von Studios und anderen Herstellern bekommt, werden zum Ausspielen über die Plattform in unzähligen verschiedenen optimierten Formaten, Auflösungen und Qualitätsstufen kodiert. Seit der Einführung der dazu aktuell genutzten Plattform Reloaded vor sieben Jahren seien die Aufgaben aber um das Zehnfache gewachsen, was einige Probleme mit sich bringe, schreibt Netflix. Wie die Zuständigen nun im Engineering-Blog von Netflix schreiben, hat das Team die Plattform unter dem Namen Cosmos deshalb nun komplett neu erstellt.
Die bisherige Architektur sei einzig auf die Aufgabe der Audio- und Videoverarbeitung bedacht gewesen und darauf, möglichst gut zu skalieren. Die dafür genutzte monolithische Architektur habe aber das Einführen neuer Funktionen immer stärker behindert. Auch sei das zuständige Team inzwischen deutlich angewachsen und nicht mehr alle Beteiligten hätten einen Überblick darüber gehabt, wie neue Funktionen überhaupt ausgerollt werden konnten. Das habe vor allem an der Verbindung von Infrastruktur-Code mit der eigentlichen Anwendungslogik gelegen.
Mit Comos hat das Team eigenen Angaben zufolge nun also einen Neuanfang gewagt und sich dabei an modernen Microservices-Architekturen orientiert. Zusätzlich zu der eigentlichen Encoding-Aufgabe sollte der neue Dienst dabei modular aufgebaut sein, ein deutlich besseres Monitoring, eigene Werkzeuge und vor allem eine Continuous-Delivery-Pipeline bieten. Letztere soll dafür sorgen, dass ein Code-Beitrag ohne zusätzliche Eingriffe direkt in die Produktionsumgebung ausgerollt werden kann.
Wie das Team selbst schreibt, handele es sich bei den Cosmos-Diensten aber um keine Microservices. Zwar würden die Anwendungsdaten und ihre Abhängigkeiten ebenso von anderen Systemen getrennt und die Dienste kommunizierten über klar festgelegte APIs. Für das eigentliche Encoding kämen jedoch sehr große und extrem rechenintensive Arbeiten hinzu. Jede dieser Aufgaben habe eigene Abhängigkeiten, lade diese dann als Docker-Container, die je nach Umfang der Encoding-Aufgabe auch mehrere Tausend verschiedene Container umfassen könne. Ebenso könne solch ein Durchlauf mehrere Stunden oder gar Tage dauern, bis er abgeschlossen sei.
Die Arbeiten an Comos hätten bereits im Jahr 2018 begonnen und die neue Architektur werde bereits seit 2019 teilweise produktiv genutzt. Doch erst im laufenden Jahr 2021 soll die Mehrheit der Arbeiten auf die neue Technik umgestellt werden.
Quelle: golem
Die Videodateien, die der Streaming-Anbieter Netflix von Studios und anderen Herstellern bekommt, werden zum Ausspielen über die Plattform in unzähligen verschiedenen optimierten Formaten, Auflösungen und Qualitätsstufen kodiert. Seit der Einführung der dazu aktuell genutzten Plattform Reloaded vor sieben Jahren seien die Aufgaben aber um das Zehnfache gewachsen, was einige Probleme mit sich bringe, schreibt Netflix. Wie die Zuständigen nun im Engineering-Blog von Netflix schreiben, hat das Team die Plattform unter dem Namen Cosmos deshalb nun komplett neu erstellt.
Die bisherige Architektur sei einzig auf die Aufgabe der Audio- und Videoverarbeitung bedacht gewesen und darauf, möglichst gut zu skalieren. Die dafür genutzte monolithische Architektur habe aber das Einführen neuer Funktionen immer stärker behindert. Auch sei das zuständige Team inzwischen deutlich angewachsen und nicht mehr alle Beteiligten hätten einen Überblick darüber gehabt, wie neue Funktionen überhaupt ausgerollt werden konnten. Das habe vor allem an der Verbindung von Infrastruktur-Code mit der eigentlichen Anwendungslogik gelegen.
Mit Comos hat das Team eigenen Angaben zufolge nun also einen Neuanfang gewagt und sich dabei an modernen Microservices-Architekturen orientiert. Zusätzlich zu der eigentlichen Encoding-Aufgabe sollte der neue Dienst dabei modular aufgebaut sein, ein deutlich besseres Monitoring, eigene Werkzeuge und vor allem eine Continuous-Delivery-Pipeline bieten. Letztere soll dafür sorgen, dass ein Code-Beitrag ohne zusätzliche Eingriffe direkt in die Produktionsumgebung ausgerollt werden kann.
Wie das Team selbst schreibt, handele es sich bei den Cosmos-Diensten aber um keine Microservices. Zwar würden die Anwendungsdaten und ihre Abhängigkeiten ebenso von anderen Systemen getrennt und die Dienste kommunizierten über klar festgelegte APIs. Für das eigentliche Encoding kämen jedoch sehr große und extrem rechenintensive Arbeiten hinzu. Jede dieser Aufgaben habe eigene Abhängigkeiten, lade diese dann als Docker-Container, die je nach Umfang der Encoding-Aufgabe auch mehrere Tausend verschiedene Container umfassen könne. Ebenso könne solch ein Durchlauf mehrere Stunden oder gar Tage dauern, bis er abgeschlossen sei.
Die Arbeiten an Comos hätten bereits im Jahr 2018 begonnen und die neue Architektur werde bereits seit 2019 teilweise produktiv genutzt. Doch erst im laufenden Jahr 2021 soll die Mehrheit der Arbeiten auf die neue Technik umgestellt werden.
Quelle: golem
