KI-Server-Monitoring für Unternehmen
Ein Portal für alles, was Ihre KI-Infrastruktur ausmacht: GPU-Knoten mit jeder Karte einzeln, Inferenz-Endpunkte, nächtliche Jobs, Domains und Zertifikate, Statusseiten für Ihre Fachbereiche. Betrieben in Deutschland, ohne offene Ports auf Ihren Servern.
PeakNode überwacht KI-Infrastruktur in vier Ebenen: die Hardware (GPU-Knoten mit Auslastung, Speicher, Temperatur, Leistung und Gesundheit je Karte), die Dienste (Inferenz-Endpunkte mit Prüfung auf das geladene Modell), die Abläufe (Heartbeats für Trainings- und Batch-Jobs) und die Kommunikation (Statusseiten für Teams und Kunden). Alles läuft über einen Agenten, der nur von innen nach außen sendet, und ein Portal, das von der Nelpx GmbH in Deutschland betrieben wird.
- Datenfluss: Messwerte als JSON über TLS, ein Token je Gerät, keine Befehle zurück zum Server.
- Zugriff: Zwei-Faktor-Authentifizierung, Teams mit Lese- und Schreibrechten je Bereich, Protokoll der Kontoaktivitäten.
- Datenhaltung: Vorhaltezeit je Tarif, danach werden Messwerte gelöscht. Alternativ die komplette Plattform On-Premise.
| Knoten | GPUs | Auslastung | Speicher | Heißeste GPU | Leistung |
|---|---|---|---|---|---|
| HGX-Knoten, 8× NVIDIA H100 80GB HBM3 | 8 (5 im Leerlauf) | Ø 37,5 % | 10,9 / 637,2 GiB | 56 °C | 2.442,1 / 5.600 W |
| Workstation, RTX PRO 6000 Blackwell Server Edition | 1 | 100 % | 0,5 / 95,6 GiB | 53 °C | 360,8 / 600 W |
| B300 SXM6 AC mit MIG (1× 1g.34gb) | 1 | - (MIG) | 0,1 / 30,5 GiB | 29 °C | 250,5 / 1.100 W |
| Flotte | 10 (5 im Leerlauf) | Ø 44,4 % | 11,5 / 763,3 GiB | 56 °C | 3.053,4 W |
Was eine IT-Abteilung von PeakNode bekommt
Die Fragen sind immer dieselben: Läuft alles? Wer nutzt was? Was kostet es? Wo brennt es gerade? Jede dieser Fragen hat im Portal eine Seite.
GPU-Knoten mit jeder Karte
Vom einzelnen DGX Spark bis zum 8-GPU-HGX-Knoten: Auslastung, Speicher, Temperatur, Leistung je Karte, Leerlauf-Erkennung, fehlende Karte, Xid-Ereignisse und Drosselgrund. Energie in kWh und Euro mit Ihrem Strompreis.
Dienste und Endpunkte
Uptime-Monitore prüfen Inferenz-Endpunkte, interne Portale und APIs auf Statuscode, Antwortzeit und Inhalt der Antwort. Domain-Ablauf, Zertifikate und DNS-Einträge werden mitüberwacht.
Jobs und Abläufe
Trainingsläufe, Backups, Index-Jobs und Evaluierungen melden sich per Heartbeat. Bleibt die Meldung im erwarteten Intervall aus, erfahren Sie es, nicht erst der Fachbereich am Montag.
Teams und Rechte
Mitarbeitende und Dienstleister erhalten Zugriff mit Rechten je Bereich: nur lesen, oder anlegen, ändern und löschen für Kanäle, Vorfälle, Projekte oder Domains. Projekte gruppieren Monitore nach Abteilung oder Standort.
Berichte, Export, API
E-Mail-Berichte je Monitor, Export der Messwerte als CSV oder JSON, eine REST-API für Ihre eigenen Auswertungen und Webhooks für Ticket-Systeme und Chat.
Statusseiten für Fachbereiche
Eine Statusseite je Plattform oder Kunde: Verfügbarkeit der letzten 90 Tage, Vorfälle der letzten 30 Tage, eigene Domain, Passwortschutz, Ihr Logo. Ohne Fremd-JavaScript.
Wo Ihre Daten liegen und wer sie sieht
Die Fragen, die Ihre Sicherheitsabteilung stellen wird, beantwortet die Tabelle. Details zur Härtung stehen auf der Seite Sicherheit und Zuverlässigkeit.
| Frage | Antwort | Beleg |
|---|---|---|
| Wer betreibt PeakNode? | Die Nelpx GmbH, Heininger Str. 9, 71554 Weissach im Tal. | Impressum |
| Wo läuft das Portal? | Auf einem Server bei IONOS in Deutschland (Region Berlin). Datenbank und Portal liegen auf demselben Server. | Serverstandort laut Netzregistrierung des Hosters |
| Was sendet der Agent? | Messwerte als JSON: Auslastungen, Speicher, Temperaturen, Leistungen, Prozessnamen mit PID und GPU-Speicher, Hostname, Betriebssystem, Treiberversion, Xid-Zeilen aus dem Kernel-Log. Keine Dateiinhalte, keine Modelldaten. | Agent-Skript im Klartext, vor der Installation lesbar |
| Kann das Portal auf meine Server zugreifen? | Nein. Die Verbindung geht nur vom Agenten zum Portal, es gibt keinen Rückkanal. Eingehende Firewall-Freigaben sind nicht nötig. | Sicherheit |
| Wie ist das Konto geschützt? | Zwei-Faktor-Authentifizierung per Authenticator-App, Sperre nach Fehlversuchen, HttpOnly- und Secure-Cookies, Protokoll der Kontoaktivitäten. | Sicherheit |
| Wie lange werden Messwerte gespeichert? | Für die Vorhaltezeit des Tarifs, danach werden sie gelöscht. Konto und Einstellungen bleiben, bis Sie das Konto löschen. | Tarifübersicht unten, Datenschutzerklärung |
| Geht es ganz ohne Cloud? | Ja. Die komplette Plattform gibt es als Installationspaket für Ihr Rechenzentrum, ohne Telemetrie und ohne Online-Lizenzprüfung. | On-Premise |
Fragen zur Auftragsverarbeitung und zu Verträgen beantworten wir über das Kontaktformular.
Ein typisches Unternehmens-Setup im Portal
So verteilen sich die Funktionen auf eine KI-Umgebung mittlerer Größe. Die Zahlen sind ein Beispiel für die Planung, keine Grenzen.
| Bestandteil | Funktion in PeakNode | Beispiel |
|---|---|---|
| GPU-Knoten (HGX, PCIe-Server, Workstations, DGX Spark) | Server-Monitor je Knoten mit Agent | 2 HGX-Knoten, 4 Workstations, 6 DGX Spark = 12 Server-Monitore |
| Inferenz-Endpunkte und interne Portale | Uptime-Monitor je Endpunkt, Prüfung auf Modellname | 3 vLLM-Endpunkte, 2 Ollama, 1 internes Chat-Portal = 6 Uptime-Monitore |
| Trainings-, Backup- und Index-Jobs | Heartbeat je Job | 5 nächtliche Jobs = 5 Heartbeats |
| Domains und Zertifikate der KI-Dienste | Domain-Namen und DNS-Monitore | 4 Domains |
| Fachbereiche und Kunden | Statusseite je Zielgruppe, eigene Domain, Passwortschutz | 1 interne Statusseite, 1 für Kunden |
| IT-Team und Dienstleister | Team mit Rechten je Bereich, Projekte je Standort | 1 Team mit 4 Mitgliedern, 2 Projekte |
Einführung in drei Schritten
Vom Konto bis zur ersten Statusseite an einem Vormittag. Der Agent ist eine Zeile je Knoten.
Konto, Team, Kanäle
Konto anlegen, Zwei-Faktor-Authentifizierung einschalten, Teammitglieder mit Rechten einladen, Benachrichtigungskanäle anlegen (Microsoft Teams, Slack, E-Mail, Webhook an das Ticket-System).
Knoten und Dienste anbinden
Je GPU-Knoten einen Server-Monitor anlegen und den Install-Befehl ausführen. Je Endpunkt einen Uptime-Monitor mit erwartetem Modellnamen. Je Job einen Heartbeat.
curl -fsSL "https://peaknode.de/server-monitor-code// ?os=linux" -o peaknode.sh chmod 700 peaknode.sh && (crontab -l; echo "* * * * * /bin/bash $PWD/peaknode.sh") | crontab -
Alarme und Statusseite
Schwellwerte je Knoten (Temperatur, Speicher, Festplatte, Leerlauf), Strompreis hinterlegen, Statusseite mit den Monitoren und Heartbeats für den Fachbereich veröffentlichen.
Häufige Fragen
Tarife für Unternehmen
Kostenlos starten, dann nach Zahl der Knoten wachsen. Alle Tarife enthalten Uptime-Monitore, Heartbeats, Statusseiten und die Benachrichtigungskanäle. Für größere Umgebungen oder eigene Datenhaltung: On-Premise.
- Server-Monitore (Knoten)3
- Uptime-Monitore5
- Heartbeats5
- Statusseiten1
- Eigene Domains für Statusseiten0
- Teammitglieder0
- Vorhaltezeit der Messwerte14 Tage
- API-Zugangnein
- Server-Monitore (Knoten)10
- Uptime-Monitore50
- Heartbeats50
- Statusseiten5
- Eigene Domains für Statusseiten1
- Teammitglieder5
- Vorhaltezeit der Messwerte365 Tage
- API-Zugangja
- Server-Monitore (Knoten)50
- Uptime-Monitore250
- Heartbeats250
- Statusseiten25
- Eigene Domains für Statusseiten5
- Teammitgliederunbegrenzt
- Vorhaltezeit der Messwerte365 Tage
- API-Zugangja
Alle Details, Zahlungsintervalle und der On-Premise-Betrieb stehen unter Tarife.
PeakNode für Ihren Anwendungsfall
Die erste Umgebung an einem Vormittag im Portal
Konto anlegen, Team einladen, Knoten mit einer Zeile anbinden.
Jetzt starten