{"id":13551625,"url":"https://github.com/rix1337/FeedCrawler","last_synced_at":"2025-04-03T02:31:16.943Z","repository":{"id":37847628,"uuid":"53872599","full_name":"rix1337/FeedCrawler","owner":"rix1337","description":"FeedCrawler automatisiert bequem das Hinzufügen von Links für den JDownloader.","archived":false,"fork":false,"pushed_at":"2024-10-03T11:28:58.000Z","size":5858,"stargazers_count":77,"open_issues_count":1,"forks_count":15,"subscribers_count":15,"default_branch":"main","last_synced_at":"2024-10-03T11:38:57.639Z","etag":null,"topics":["automation","download","feedcrawler","jdownloader","rsscrawler"],"latest_commit_sha":null,"homepage":"","language":"Python","has_issues":true,"has_wiki":null,"has_pages":null,"mirror_url":null,"source_name":null,"license":"mit","status":null,"scm":"git","pull_requests_enabled":true,"icon_url":"https://github.com/rix1337.png","metadata":{"files":{"readme":"README.md","changelog":null,"contributing":null,"funding":".github/FUNDING.yml","license":"LICENSE.md","code_of_conduct":null,"threat_model":null,"audit":null,"citation":null,"codeowners":null,"security":null,"support":null,"governance":null,"roadmap":null,"authors":null,"dei":null,"publiccode":null,"codemeta":null},"funding":{"github":"rix1337"}},"created_at":"2016-03-14T16:27:34.000Z","updated_at":"2024-10-03T11:25:52.000Z","dependencies_parsed_at":"2023-12-19T15:04:45.563Z","dependency_job_id":"980bebcd-069b-47f0-ad8c-479256f8679f","html_url":"https://github.com/rix1337/FeedCrawler","commit_stats":{"total_commits":1245,"total_committers":10,"mean_commits":124.5,"dds":0.1951807228915663,"last_synced_commit":"a67e6be6022f088ba2fe1871393d7a1feb54e3bf"},"previous_names":[],"tags_count":447,"template":false,"template_full_name":null,"repository_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/rix1337%2FFeedCrawler","tags_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/rix1337%2FFeedCrawler/tags","releases_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/rix1337%2FFeedCrawler/releases","manifests_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/rix1337%2FFeedCrawler/manifests","owner_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/owners/rix1337","download_url":"https://codeload.github.com/rix1337/FeedCrawler/tar.gz/refs/heads/main","host":{"name":"GitHub","url":"https://github.com","kind":"github","repositories_count":222911629,"owners_count":17056713,"icon_url":"https://github.com/github.png","version":null,"created_at":"2022-05-30T11:31:42.601Z","updated_at":"2022-07-04T15:15:14.044Z","host_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub","repositories_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories","repository_names_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repository_names","owners_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/owners"}},"keywords":["automation","download","feedcrawler","jdownloader","rsscrawler"],"created_at":"2024-08-01T12:01:51.418Z","updated_at":"2025-04-03T02:31:16.903Z","avatar_url":"https://github.com/rix1337.png","language":"Python","funding_links":["https://github.com/sponsors/rix1337"],"categories":["Python"],"sub_categories":[],"readme":"\u003e ## Important Notice / Wichtiger Hinweis\n\u003e \n\u003e **English:**  \n\u003e This project is now a public archive and is no longer under active development.  \n\u003e It is recommended to switch to the much more streamlined [Quasarr](https://github.com/rix1337/Quasarr). 😃🚀\n\u003e \n\u003e **Deutsch:**  \n\u003e Dieses Projekt ist nun ein öffentliches Archiv und wird nicht mehr aktiv weiterentwickelt.  \n\u003e Es empfiehlt sich, zum wesentlich schlankeren [Quasarr](https://github.com/rix1337/Quasarr) zu wechseln. 😃🚀\n\n\n\n# FeedCrawler\n\n\u003cimg src=\"https://raw.githubusercontent.com/rix1337/FeedCrawler/main/FeedCrawler.png\" data-canonical-src=\"https://raw.githubusercontent.com/rix1337/FeedCrawler/main/FeedCrawler.png\" width=\"64\" height=\"64\" /\u003e\n\nFeedCrawler automatisiert bequem das Hinzufügen von Links für den JDownloader.\n\n[![GitHub Workflow Status](https://img.shields.io/github/actions/workflow/status/rix1337/FeedCrawler/CreateRelease.yml?branch=main)](https://github.com/rix1337/FeedCrawler/actions/workflows/CreateRelease.yml)\n[![GitHub stars](https://img.shields.io/github/stars/rix1337/FeedCrawler?style=flat)](https://github.com/rix1337/FeedCrawler/stargazers)\n[![GitHub all releases](https://img.shields.io/github/downloads/rix1337/feedcrawler/total?label=github%20downloads)](https://github.com/rix1337/FeedCrawler/releases)\n\n[![PyPI](https://img.shields.io/pypi/v/feedcrawler?label=pypi%20package)](https://pypi.org/project/feedcrawler/)\n[![PyPI - Downloads](https://img.shields.io/pypi/dm/feedcrawler?label=pypi%20downloads)](https://pypi.org/project/feedcrawler/#files)\n\n[![Docker Image Version (latest semver)](https://img.shields.io/docker/v/rix1337/docker-feedcrawler?label=docker%20image\u0026sort=semver)](https://hub.docker.com/r/rix1337/docker-feedcrawler/tags)\n[![Docker Pulls](https://img.shields.io/docker/pulls/rix1337/docker-feedcrawler)](https://hub.docker.com/r/rix1337/docker-feedcrawler/)\n\n[![GitHub license](https://img.shields.io/github/license/rix1337/FeedCrawler.svg)](https://github.com/rix1337/FeedCrawler/blob/main/LICENSE.md)\n[![Python 3 Backend](https://img.shields.io/badge/backend-python%203-blue.svg)](https://github.com/rix1337/FeedCrawler/tree/main/feedcrawler)\n[![Vue.js 3 Frontend](https://img.shields.io/badge/frontend-vue.js%203-brightgreen.svg)](https://github.com/rix1337/FeedCrawler/tree/main/feedcrawler/web_interface/vuejs_frontend)\n[![GitHub last commit](https://img.shields.io/github/last-commit/rix1337/FeedCrawler)](https://github.com/rix1337/FeedCrawler/commits/main)\n[![GitHub commit activity](https://img.shields.io/github/commit-activity/y/rix1337/feedcrawler)](https://github.com/rix1337/FeedCrawler/graphs/commit-activity)\n[![Lines of code](https://img.shields.io/endpoint?url=https://ghloc.vercel.app/api/rix1337/FeedCrawler/badge?filter=.py$,.vue$,js$,scss$,yml$\u0026style=flat\u0026logoColor=white\u0026label=Lines%20of%20Code)](https://github.com/rix1337/FeedCrawler/pulse)\n\n[![GitHub Sponsorship](https://img.shields.io/badge/support-me-red.svg)](https://github.com/users/rix1337/sponsorship)\n[![Discord](https://img.shields.io/discord/1075348594225315891)](https://discord.gg/eM4zA2wWQb)\n[![GitHub issues](https://img.shields.io/github/issues/rix1337/FeedCrawler.svg)](https://github.com/rix1337/FeedCrawler/issues)\n\n***\n\n## Installation\n\n## Manuelle Installation\n\n### Voraussetzungen\n\n* [Python 3.8](https://www.python.org/downloads/) oder neuer (nur\n  5 [externe Abhängigkeiten](https://github.com/rix1337/FeedCrawler/blob/main/requirements.txt)!)\n* [JDownloader 2](http://www.jdownloader.org/jdownloader2) mit\n  aktivem [My JDownloader-Konto](https://my.jdownloader.org)\n* _optional: [FlareSolverr 3](https://github.com/FlareSolverr/FlareSolverr) um Cloudflare-Blockaden zu umgehen_\n\n### Installation / Update durch [pip](https://pip.pypa.io/en/stable/installation/)\n\n```pip install -U feedcrawler```\n\n### Lokaler Build\n\nBenötigt [Node.js](https://nodejs.org/en/download/), [npm](https://docs.npmjs.com/downloading-and-installing-node-js-and-npm)\nund [pip](https://pip.pypa.io/en/stable/installation/):\n\n1. Frontend-Pfad aufrufen: `cd feedcrawler/web_interface/vuejs_frontend`\n2. Dependencies installieren: `npm ci`\n3. [Vue.js 3](https://vuejs.org/) Frontend kompilieren: `npm run build`\n4. Zurück in das Hauptverzeichnis wechseln: `cd ../../..`\n5. FeedCrawler auf Basis der _setup.py_ installieren: `pip install .`\n\n### Start\n\n```feedcrawler``` in der Konsole (Python muss im System-PATH hinterlegt sein)\n\n### [Docker Image](https://hub.docker.com/r/rix1337/docker-feedcrawler/)\n\n```\ndocker run -d \\\n  --name=\"FeedCrawler\" \\\n  -p port:9090 \\\n  -v /path/to/config/:/config:rw \\\n  -e DELAY=30 \\\n  -e LOGLEVEL=[INFO/DEBUG] \\\n  --log-opt max-size=50m \\\n  rix1337/docker-feedcrawler\n  ```\n\n* Der Betrieb als Docker-Container empfiehlt sich als Standardinstallation - vor allem für NAS-Systeme, Homeserver und\n  sonstige Geräte die dauerhaft und möglichst wartungsfrei (headless) betrieben werden sollen.\n* Bei jedem Release wird ein getaggtes Image erstellt. Damit kann man auf der Wunschversion verbleiben oder im Falle\n  eines Bugs zu einer stabilen Version zurück kehren.\n* Um immer auf dem aktuellen Stand zu sein, einfach das mit `latest` getaggte Image nutzen.\n* Für UNRAID-Server kann das Image direkt über die Community Applications bezogen und der Container so eingerichtet\n  werden.\n\n##### Spezifische Version nutzen\n\nDas Image `rix1377/docker-feedcrawler` wird standardmäßig auf das `:latest`-Tag aufgelöst. Dieses wird mit jedem Release\nauf die neue Version aktualisiert. Mit jedem Release wird ebenfalls eine getaggte Version des Images erzeugt. Auf\nletztere kann man wechseln, um beispielsweise bei Fehlern in der neuen Version auf einen funktionierenden Stand zurück\nzu kehren.\n\nBeispiel:\n\n`docker pull rix1337/docker-feedcrawler:13.3.7`\n\n### Windows Build\n\n* Jedem [Release](https://github.com/rix1337/FeedCrawler/releases) wird eine selbstständig unter Windows lauffähige\n  Version des FeedCrawlers beigefügt.\n* Hierfür müssen weder Python, noch die Zusatzpakete installiert werden.\n* Einfach die jeweilige Exe herunterladen und ausführen bzw. bei Updates die Exe ersetzen.\n\n## Hostnamen\n\nFeedCrawler kann zum Durchsuchen beliebiger Webseiten verwendet werden.\nWelche das sind, entscheiden Anwender selbständig bei der Einrichtung. Es gilt dabei:\n\n* Welche Hostname aufgerufen werden entscheidet allein der Anwender.\n* Ist nicht mindestens ein Hostname gesetzt, wird der FeedCrawler nicht starten.\n* Passen Hostnamen nicht zum jeweiligen Suchmuster des FeedCrawlers, sind Fehlermeldungen möglich.\n\n## Startparameter\n\n| Parameter                    | Erläuterung                                                        |\n|------------------------------|--------------------------------------------------------------------|\n| ```--log-level=\u003cLOGLEVEL\u003e``` | Legt fest, wie genau geloggt wird (`INFO` oder `DEBUG`)            |\n| ```--port=\u003cPORT\u003e```          | Legt den Port des Webservers fest                                  |\n| ```--delay=\u003cSEKUNDEN\u003e```     | Verzögere Suchlauf nach Start um ganze Zahl in Sekunden (optional) |\n\n## Sicherheitshinweis\n\nDer Webserver sollte nie ohne Absicherung im Internet freigegeben werden. Dazu lassen sich im Webinterface Nutzername\nund Passwort festlegen.\n\nEs empfiehlt sich, zusätzlich einen Reverse-Proxy mit HTTPs-Zertifikat,\nbspw. [kostenlos von letsencrypt](https://letsencrypt.org/), zu verwenden.\n\n## Credits\n\n* [mmarquezs](https://github.com/mmarquezs/) (My-JDownloader-API für Python)\n","project_url":"https://awesome.ecosyste.ms/api/v1/projects/github.com%2Frix1337%2FFeedCrawler","html_url":"https://awesome.ecosyste.ms/projects/github.com%2Frix1337%2FFeedCrawler","lists_url":"https://awesome.ecosyste.ms/api/v1/projects/github.com%2Frix1337%2FFeedCrawler/lists"}