Senior Software Engineer – Sichere KI-Infrastruktur

Hallo, wir sind Edgeless Systems

Wir sind ein schnell wachsendes Cybersecurity-Startup. Werde Teil unseres Teams und entwickle mit uns die nächste Generation sicherer KI- und Cloud-Software. Erkunde zukunftsweisende Technologien wie Confidential Computing und wachse gemeinsam mit einem erstklassigen Team.

Unser Produkt

Privatemode AI ist unsere sichere Alternative zu ChatGPT. Es ermöglicht KI-Workflows mit sensiblen Daten, indem alle Daten – selbst während der Verarbeitung – mit Confidential Computing verschlüsselt bleiben. Du kannst Privatemode über eine benutzerfreundliche App oder eine vollständig OpenAI-kompatible API nutzen.

Überzeug dich selbst: Ein Großteil unseres Codes ist auf GitHub verfügbar.

Unser Tech-Stack

• API: Go, Kubernetes
• RAG: Python, Qdrant
• Model Hosting: Python, vLLM
• Skalierung: Pipeline-/Tensor-Parallelismus, optimiert für Nvidia H100 und B200
• Portal und App: TypeScript, React, Electron

Deine Aufgaben

Als Teil unseres Teams arbeitest du an der Privatemode-Plattform – von Frontend über Backend bis hin zum Model Hosting. Zu deinen Aufgaben gehören:

• Erweiterung unserer OpenAI-kompatiblen API und vertraulichen Verarbeitungs-Stacks
• Entwicklung von RAG-Funktionalitäten, Embedding-Pipelines und Agent-Logik
• Hosting und Performance-Optimierung moderner Open-Source-LLMs
• Skalierung von Modellen durch Parallelisierung und effiziente GPU-Orchestrierung
• CI/CD-Automatisierung und Dokumentation
• Prototyping und Umsetzung neuer Ideen

Als Senior Software Engineer unterstützt du zudem weniger erfahrene Teammitglieder in ihrer Weiterentwicklung.

Dein Profil

Wir suchen Teammitglieder, die …

• herausragende technische Fähigkeiten besitzen
• Erfahrung in einem relevanten Teil unseres Tech-Stacks mitbringen
• begeistert sind von den Herausforderungen eines schnelllebigen, innovativen Startup-Umfelds
• Erfahrung in professionellen agilen Software-Entwicklungspraktiken haben
• intrinsisch motiviert sind, qualitativ hochwertige Arbeit zu liefern

Warum wir?

• Wettbewerbsfähige Vergütung (Gehalt und Aktienoptionen)
• Möglichkeit, in einem exzellenten Team zu lernen und zu wachsen
• Flexible Arbeitsmodelle – remote oder in unseren Büros in Bochum und Berlin
• Spannende Aufgaben in einem dynamischen Umfeld