Digital Eliteboard - Das Digitale Technik Forum

Registriere dich noch heute kostenloses um Mitglied zu werden! Sobald du angemeldet bist, kannst du auf unserer Seite aktiv teilnehmen, indem du deine eigenen Themen und Beiträge erstellst und dich über deinen eigenen Posteingang mit anderen Mitgliedern unterhalten kannst! Zudem bekommst du Zutritt zu Bereiche, welche für Gäste verwehrt bleiben

Fast ein Tutorial : Kodi in der Cloud

kiliantv

Best Member
Boardveteran
Registriert
27. Januar 2008
Beiträge
22.779
Reaktionspunkte
17.378
Punkte
1.093
Ort
von weit weit weg
Fast ein Tutorial : Kodi in der Cloud

Kodi_Cloud.jpg


In diesem Beitrag möchte ich euch zeigen wie ihr eure Kodi Medien in die Cloud auslagern könnt und somit jede Menge Speicherplatz spart. Vorweg sollte gesagt sein dass ich das Ganze selbst erst seit etwa 6 Monaten nutze und derzeit noch keine wirkliche Langzeit Erfahrungen vorliegen.

Vorwort
Ich werde euch das hier nun nicht Step by Step erklären. Das Problem ist, es ist einfach nicht ratsam für Leute die keine oder nur wenig Erfahrungen mit Linux haben. Die Umsetzung selbst ist wirklich sehr leicht und ich könnte euch quasi jeden Befehl hier aufführen so dass ihr es via Copy & Paste nutzen könnt, aber wer es nicht schafft sein System wirklich abzusichern oder mit den einfachsten Befehlen nicht klar kommt wird nicht lange Spaß daran haben und schnell verzweifeln. Technisch und wenn man ein paar Euro mehr in die Hand nimmt lässt es sich auch mit Windows umsetzen, doch ist die Performance des Servers unters Windows deutlich schlechter als unter Debian oder Ubuntu da wir alle Daten nur verschlüsselt in die Cloud laden.

Ich hätte das Ganze wirklich gern auf dem SHIELD TV direkt umgesetzt, aber davon ab das Android eben nur auf Linux basiert und kein offenes System ist, unterstützt meinen Informationen nach der Tegra X1 keinen AES Support.

Aufmerksam bin ich auf das Thema etwa im August 2016 bei
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
und habe seit dem auch sehr viel rumprobiert, und bin jetzt zu der für mich besten Lösung gekommen.

Voraussetzungen
Stabile Bandbreite
Bevor ihr weiter lest, das wichtigste bei dem kompletten Projekt ist eure Bandbreite. Mit einer 2000er Leitung werdet ihr nicht glücklich werden, nicht nur das ihr dann für den Upload eine Woche oder länger braucht bis ihr mal 1-2 Filme in der Cloud habt, auch für den Download benötigt ihr Bandbreite, ich habe erst heute wieder festgestellt das 10k Download zu wenig sind für diese Umsetzung, also 16k+ sollten schon das Minimum sein. Hinzu kommt, wie bereits erwähnt, dass ihr auch Bandbreite zum Uploaden braucht. Ich habe bei meiner 50k Leitung 10 Mbit und habe für 3TB Daten fast 2 Monate gebraucht, denn auch wenn auf dem Papier 3TB bei 10 Mbit etwa 27 Tage, 18 Stunden und 40 Minuten brauchen, habt ihr in der Regel nie die kompletten 10 Mbit Upload, und selbst wenn kommt es auch immer wieder vor das eine Datei nicht vollständig hochgeladen wird. Hinzu kommt noch der Fakt das man auch nebenbei gern was im Internet macht und Up/Download an anderen Systemen nutzt. Desweiteren empfehle ich persönlich Filme und Serien in h.265 zu kodieren. Das spart eine Menge an Speicherplatz, und ist schon lange nicht mehr so eine schlechte Qualität wie es immer wieder behauptet wird. Damit macht man aus einem 30GB Bluray Rip, je nach Audio und Bildqualität schonmal einen 5-10 GB Film.

Hardware
System mit mindestens 2 Cores und
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
Support. Den AES Support brauchen wir zwingend da wir unsere Medien alle mit ENCFS verschlüsseln werden. Ich habe es mit einem
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
und einem
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
versucht. Beide Systeme sind aber auf dauer etwas zu schwach auf der Brust wenn es ums Verschlüsseln/Entschlüsseln der Dateien geht. Die z83 würde es im Prinzip mit dem Intel z8300 zwar hinbekommen, da Beelink es mit der Kühlung nicht so wirklich hinbekommen hat, wird die CPU zu schnell zu heiß und taktet dann auf eine Geschwindigkeit runter die es unmöglich macht ordentlich eine Datei an den SHIELD TV oder andere Geräte im Netzwerk zu streamen.

Ich empfehle an dieser Stelle also eine etwas potentere Hardware, ein kleiner
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
als Basis oder ein „Mini Rechner“ mit relativ wenig Leistungsaufnahme sollte das locker wuppen können.

Im Nerdsforum wird zwar erwähnt das jemand das mit einem Raspberry Pi 3 umgesetzt hat, meiner Erfahrung nach reicht das aber nicht aus, vor allem wenn man dann noch ein System wie Emby oder Plex auf dem Server nutzt.

Software
Linux

  • System dass das Fuse Modul im Kernel unterstützt. (Getestet mit Debian 8 und Ubuntu 12.04/14.04)
  • ENCFS (Zum verschlüsseln und entschlüsseln der Files)
  • Du musst dich Anmelden oder Registrieren um diesen link zusehen!
    (Zum mounten und für den Upload in den Cloudsspeicher)
  • UnionFS (Um Mountpoints und lokale Verzeichnisse zusammen zu fügen)
Windows

Optionale Software

  • Du musst dich Anmelden oder Registrieren um diesen link zusehen!
    (Ein Medienserver System das super mit Kodi funktioniert) mein persönlicher Favorit
  • Du musst dich Anmelden oder Registrieren um diesen link zusehen!
    (Ebenfalls ein Medienserver System und vielen bereits vom SHIELD TV bekannt)
  • Du musst dich Anmelden oder Registrieren um diesen link zusehen!
    (Filme und Serien als Sicherheitskopie von Bluray/DVD, oder vorhandene Files in h.265 kodieren)
  • Du musst dich Anmelden oder Registrieren um diesen link zusehen!
    (zum richtigen benennen der Files für Kodi, Emby oder Plex)
Warum eigentlich verschlüsseln?
Eigentlich ist die Frage leicht zu beantworten, ich werde aber etwas ausführlicher darauf eingehen. Jeder Cloud-Anbieter hat andere AGB, in der Regel räumen sich die Anbieter aber ein die hochgeladenen Daten verändern zu dürfen , dies tun sie in der Regel auch um Platz zu sparen. Dabei kann es also auch passieren das die Sicherheitskopie unseres Films massiv an Qualität verliert weil eventuell zum Platz sparen andere Formate verwendet werden. Ein gutes Beispiel hierfür ist Youtube oder Facebook. Nach dem Upload werden hier Videos umgewandelt um sie für das Streaming zu optimieren. Hinzu kommt noch dass ein Angebot wie das von Amazon, das mit unbegrenztem Speicher wirbt von so vielen Kunden genutzt wird, Programme im Hintergrund laufen die Versuchen Duplikate in verschiedenen Clouds zu finden und diese dann nur auf einem Speicher bereitzustellen.

Was aber das Wichtigste ist, das Urheberrecht. Ob nun von der eigenen DVD/Bluray erstellt oder nicht, Amazon zb. erlaubt keine Kopien von Filmen in ihrem Cloudspeicher. Auch wenn es nicht wortwörtlich so in den AGB steht, gibt es jede Menge Berichte von Usern deren Cloud Drive gebannt wurde nachdem sie in der Betaphase der Plex Cloud-Anbindung Filme unverschlüsselt in den Cloudspeicher geladen haben.

Außerdem, geht niemanden etwas an was sich in unserer Cloud befindet.

Welche Cloud?
Getestet habe ich 2 Cloud-Systeme mit denen es wirklich gut funktioniert. Wie schon erwähnt ist die eigene Bandbreite extrem wichtig denn auch die schnellste Cloud kann euch die Dateien nicht schneller liefern als eure Leitung es hergibt. Meiner Meinung nach ist die optimalste Lösung mit beiden Clouds zu arbeiten, darauf gehe ich aber später noch einmal genauer ein.

Amazon Drive
Mit dem Amazon Drive habe ich begonnen. Zu Anfang habe ich meine Filme und meine Serien als in h.264 in voller Größe hochgeladen. Dabei handelte es sich um Files zwischen 10 und 40 GB. Erwähnen sollte man auch, der Amazon Drive erlaubt eine maximale Filegröße von 50GB. Genutzt habe ich dafür damals noch das Tool
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
. Leider ist acd_cli sehr instabil, so schwanken die Upload und Download raten enorm und bei großen Files gab es immer wieder Schwierigkeiten mit Buffering. Nun nutze ich rclone womit ich wirklich stabile Ergebnisse erziele. Für 4k Filme reicht es Aufgrund des 50GB File-Limits nicht aus, aber für die normale Bluray Sammlung ist Amazon super geeignet. Die Geschwindigkeit von Amazon Drive liegt allerdings ein ganzes Stück hinter dem Google Drive und schwankt auch mit rclone noch immer etwas.

Amazon wirbt mit „unbegrenztem Speicher“ wobei es wohl ein Softcap von etwa 100TB gibt. Da es aber auch User gibt die Berichten dass sie mehr als 400TB in der Cloud haben, lässt sich dieses Cap wohl mit guten Begründungen mit einem Anruf bei Amazon erhöhen.

Vorteile

  • Nur 70 Euro im Jahr
  • 3 Monate kostenlos zum testen
Nachteile

  • Geschwindkeit
  • Maximal 50 GB pro File
  • manchmal instabil
Du musst dich Anmelden oder Registrieren um diesen link zusehen!

Google Drive ist wohl jedem bekannt der ein Android Gerät besitzt. Mit dem Google Konto gibt es 15GB Speicher kostenlos dazu. Mit diesen 15 GB bekommen wir natürlich keine Filmsammlung gestemmt, aber dazu komme ich jetzt. Google bietet für Firmen die so genannte
Du musst dich Anmelden oder Registrieren um diesen link zusehen!
an, in der G-Suite bekommt man für 8-40 Euro im Monat 1TB bis unbegrenzten Speicher im Google Drive. Bei G-Suite bekommt man pro User Account 1 TB Speicher für 8 Euro im Monat. Ab 5 Usern erhält man unbegrenzten Speicher für jeden User. Neben den offiziellen Google Angeboten findet man auf Ebay auch Angebote die einem 100TB Speicher für einmalig 10-15 Euro als „lifetime“ anbieten. Bei diesen Angeboten handelt es sich in der Regel um Accounts von irgendwelchen Schulen in Amerika, man sollte auch beachten dass der Administrator dieses Angebots immer vollen Einblick in die Daten im Drive hat. Auch kann es vorkommen dass der Account einfach so vom Anbieter gelöscht wird und somit alle Daten verschwunden sind.

Google Drive hat noch ein weiteres kleines Manko. Es gibt in vielen Foren Berichte darüber das es bei größeren Datenbanken mit rclone in Verbindung mit Plex immer wieder zu 24 Stunden Banns kommt, weil rclone zuviele Aufrufe über die Drive API generiert. Ich habe dieses Problem mit Emby bisher noch nicht gehabt, allerdings reduziere ich auch die Menge an einzelnen Files in der Cloud so gut wie irgendwie möglich in dem ich NFO-Dateien und Fanarts, Cover usw. alle lokale behalte.

Im Google Drive gibt es auch eine File-Begrenzung, allerdings liegt dieser bei 5TB Pro Datei. Somit ist bei einer guten Internetverbindung auch ein 4k Film in der Cloud kein Problem mehr.

Vorteile

  • wirklich unbegrenzter Speicher
  • mehr Geschwindigkeit
  • sehr große Files möglich
Nachteil

  • 8-40 Euro im Monat für eine sichere Lösung mit unbegrenztem Speicher
  • eventuelles erreichen des täglichen Maximums für API-Hits mit rclone
Wie funktioniert es denn nun?
Kommen wir zu den Details. Ich werde auf Windows nicht näher eingehen weil ich die Umsetzung mit Windows wirklich unbefriedigend finde, ich werde allerdings in der Erklärung an den passenden Stellen die Windows alternative erwähnen.

Bevor ihr jetzt losstürmt und euch die Hardware für euren Server bestellt solltet ihr euch Gedanken darüber machen ob ihr im Umgang mit Linux erfahren genug seit um zu wissen wie ihr mit Benutzerrechten umgeht, wie ihr eure System absichert, wie ihr Freigaben für Netzwerkgeräte einrichtet und was zu tun ist wenn mal etwas nicht so funktioniert wie es soll.

Wir legen uns auf unserem Server je 2 Verzeichnisse für unsere Mountpoints an, einmal für lokale Files und einmal für das jeweilige Cloud-System.

Beispiel:

local-files (Hier kopieren wir die Datein herein die verschlüsselt werden sollen)
.local-files (Hier liegen die Datein aus local-files verschlüsselt)
.amazon (Hier landen die verschlüsselten Datein aus dem Amazon Drive)
amazon (Hier werden die Datein aus .amazon entschlüsselt)

Wichtig ist, die Verzeichnisse müssen leer sein, Dateien werden also erst herein kopiert wenn alles eingerichtet ist.

ENCFS
Nun werden diese Verzeichnisse mit ENCFS gemountet. ENCFS erstellt einen Key der immer benötigt wird wenn man auf diese Dateien zugreifen möchte. Gesichert wird das Ganze mit einem Passwort. Wenn man diesen Schlüssel verliert, oder das Passwort vergisst gibt es keine Möglichkeit mehr die Dateien wiederherzustellen. Auf Windows passiert das Ganze mit encfsmp. Das Verzeichnis mit dem vorangehenden Punkt wird also zum Verzeichnis mit verschlüsselten Inhalten, das ohne Punkt für unverschlüsselte.

Verschlüsseln
Wenn ich also nun ein Verzeichnis mit einem Film in den Ordner local-files kopiere, wird dieser verschlüsselt im Verzeichnis .local-files angezeigt, man erkennt nicht mehr welche Art von Datei es ist und bekommt nur irgendwelche kryptischen Zeichen als Dateinamen angezeigt. Das kopieren in dieses Verzeichnis dauert je nach Hardware des Servers und Größe des Files einige Zeit.

So kann zb. aus Avatar.2009.Bluray.mkv eine Datei werden die xhk3hj4klp7vf3hljmnksl oder was auch immer heißt. Die Datei nun mit einem Player zu öffnen reicht nicht aus um sie abzuspielen.

Filme Kodi/Emby/Plex fit machen
Ich erstelle meine Ripps mit DVDFab in h.265 und nutze dann Filebot um die Datein passend für Kodi/Emby/Plex zu benennen, die richtige Ordnerstuktur einzuhalten und die richtige Bezeichnungen für die Scraper zu erhalten.

Filme auf den Server bringen
Ich kopiere also von meinem Windows Rechner mit dem ich meine Filme über SMB in das Verzeichnis local-files. Alternativ kann man auch Netdrive nutzen, man mountet über ssh einfach das Verzeichnis des Servers als Netzlaufwerk.

Upload in die Cloud
Mit rclone lade ich dann den Inhalt des Verzeichnisses .local-files in die jeweilige Cloud. Wichtig ist hier das ich den copy und nicht den sync Befehl nutze. Wenn ich den sync Befehl nutze werden alle Dateien die sich nicht in .local-files befinden auf dem Server nach dem Upload gelöscht um das Verzeichnis 1zu1 zu synchronisieren. Mit dem Befehl copy werden nur die Dateien hochgeladen.

Entschlüsseln
Wenn ich jetzt mit rclone und ENCFS das Verzeichnis .amazon mounte, finde ich im Verzeichnis amazon alle Inhalte die verschlüsselt in der Cloud vorliegen. Dieses Verzeichnis kann ich nun direkt als Quelle in Kodi einbinden oder für ein System wie Plex oder Emby nutzen.

Nutzung mit Plex und Emby
Um die Dateien wie Cover, Fanarts und NFO Dateien nicht in die Cloud zu kopieren mounte ich meine entschlüsselten Cloud Freigaben mit Read-Only und einem weiteren Verzeichnis das Read und Write-Rechte hat in ein separates Verzeichnis mit unionFS. Das heißt, ich habe ein Verzeichnis metadata und das amazon Verzeichnis welches komplett im Verzeichnis sorted landet. Alle Dateien die von Emby/Plex in dieses Verzeichnis geschrieben werden landen dann im Verzeichnis metadata. Damit reduziere ich die Zugriffe auf die jeweiligen Cloudspeicher und erhöhe auch gleichzeitig die Zugriffsgeschwindigkeit weil nicht jede Datei erst runtergeladen werden muss. Für Windows habe ich leider keine ähnliche Lösung gefunden.

Ein Cloud zu Cloud Backup
Um meine Daten zu sichern synchronisiere ich meine Daten zwischen 2 Clouds. Dafür nutze ich dann die sync Funktion von rclone. Damit synchronisiere ich dann Cloud A in Cloud B so das ich immer ein Backup meiner Files habe. Natürlich wäre dies auch eine gute Möglichkeit für User die nur Backups ihrer Medien in der Cloud haben wollen.

Quelle: project-shield
 
Hallo, das ist wirklich sehr interessant und ich bin auch dran so etwas in der Art umzusetzen. Allerdings würde ich das gerne alles von meinem Synology NAS erledigen lassen.

Hast du an diese Möglichkeit schon mal gedacht? Ich denke dass Synology praktisch schon alles an Bord hat. Danke


Gesendet von iPhone mit Tapatalk
 
Könnte auch gehen hab es aber nur Lokal auf den firetv Boxen.

Gesendet von meinem Telekom Puls mit Tapatalk
 
Zurück
Oben