KI-Engineer*in (all genders) – LLM-Infrastruktur und KI-Plattform (Informationselektroniker/in (mit Schwerpunkten))

**Willkommen am Fraunhofer-Institut für Integrierte Schaltungen IIS! **

Als größtes Institut der Fraunhofer-Gesellschaft forschen wir seit mehr als 30 Jahren in vielfältigen Themen rund um Künstliche Intelligenz, Mikroelektronik, Sensorik und Datenerfassung sowie Signalverarbeitung und -übertragung.

Talente aus unterschiedlichen Ingenieur- und Naturwissenschaften finden bei uns zahlreiche Forschungsfelder unter

einem Dach. Einige Aushängeschilder, die unsere Innovationskraft widerspiegeln: Neuromorphes Computing, 5G/6G-Mobilfunktechnologien, Generative KI in der Sprach- und Signalverarbeitung sowie Röntgenbildgebung in der Elektromobilität. Und wir machen noch so viel mehr!** **

Welche zukunftsfähigen Lösungen finden Sie mit uns?

Hier sorgen Sie für Veränderung

Die Abteilung** IT-Services **stellteine leistungsfähige und sichere IT-Infrastruktur für die Forschungs- und Verwaltungsbereiche des Instituts bereit. Im Zuge der zunehmenden Nutzung Künstlicher Intelligenz bauen sie ihre zentralen KI-Services kontinuierlich aus und schaffen die technischen Voraussetzungen für einen sicheren und effizienten Einsatz moderner KI-Technologien am Fraunhofer IIS.

• KI-Infrastruktur betreiben und weiterentwickeln: Sie betreiben das IIS-zentrale LLM-Gateway, provisionieren LLM-Endpunkte in Cloud-Umgebungen wie AWS Bedrock und Azure sowie lokal und stellen den zuverlässigen

Betrieb lokaler RAG-Systeme sicher.

• KI-Services sicher bereitstellen: Sie wählen geeignete LLM-Endpunkte aus und ordnen diese in Abstimmung mit dem Informationssicherheitsbeauftragten (ISB) der jeweils freigegebenen Informationsklassifizierung zu. Dabei setzen Sie geeignete Verfahren für Zugriffskontrolle und Authentifizierung, insbesondere SSO, um und berücksichtigen Anforderungen aus Datenschutz und Informationssicherheit.
• Betrieb überwachen und Ressourcen steuern: Sie etablieren Monitoring und Observability für die bereitgestellten KI-Services, verantworten Logging, Verfügbarkeit und Incident-Handling und behalten die Kosten sowie die Token-Nutzung im Blick.
• Qualität und Sicherheit gewährleisten: Sie evaluieren und benchmarken LLMs, führen systematische Tests durch und stellen die Qualität der eingesetzten RAG-Systeme sicher. Dabei entwickeln Sie geeignete Schutzmaßnahmen gegen Prompt-Injection und weitere LLM-spezifische Risiken.
• KI-Technologien kontinuierlich weiterentwickeln: Sie etablieren LLMOps-Prozesse für automatisierte Deployments, CI/CD sowie die Versionierung von Prompts und Konfigurationen. Darüber hinaus entwickeln Sie Best Practices, beispielsweise für Prompt Engineering, und stellen Coding-Agent-Tools und deren Konfigurationen bereit.
• Innovative KI-Lösungen erschließen: Sie arbeiten bei Bedarf mit Fine-Tuning, Embeddings und Vektordatenbanken und beobachten aktuelle Entwicklungen im Bereich der LLM-Technologien, um deren Potenziale für dasFraunhofer IIS zu bewerten.
• Forschung mit KI unterstützen: Sie behalten die KI-Use-Cases am Fraunhofer IIS im Blick und beraten Forschungsgruppen bei der Bewertung ihrer Use-Cases, der technischen Machbarkeit und der Auswahl geeigneter Lösungen.
• Wissen und Kompetenzen aufbauen: Sie unterstützen den institutsweiten Wissenstransfer durch Workshops, Onboarding und Dokumentation und fördern damit die sichere und effiziente Nutzung von KI-Technologien.
• KI strategisch weiterdenken: Sie beobachten den Markt sowie die Entwicklung neuer Modelle und Technologien und unterstützen bei Lizenz- und Vertragsthemen. Perspektivisch wirken Sie am Aufbau einer institutsweiten KI-Agentenplattform mit und übernehmen deren technischen Betrieb.

Hiermit bringen Sie Sich ein

• Ein abgeschlossenes Studium der Informatik oder einer vergleichbaren Fachrichtung.
• **Praktische Erfahrung **im Umgang mit Large Language Models (LLMs) und modernen KI-Technologien.
• Sehr gute Programmierkenntnisse, idealerweise in Python, sowie Erfahrung in der Nutzung und Anbindung von APIs und im technischen Debugging.
• **Erfahrung **mit Docker und Kubernetes sowie mit Cloud-Plattformen wie AWS und/oder Azure.
• Kenntnisse in RAG-Architekturen und im Umgang mit Vektordatenbanken, beispielsweise FAISS, Qdrant oder Weaviate, sind von Vorteil.
• Erfahrung mit API- und Gateway-Technologien, beispielsweise REST, LiteLLM oder Kong, ist wünschenswert.
• Ein ausgeprägtes Bewusstsein für Informationssicherheit und Datenschutz sowie die Bereitschaft, diese Anforderungen bei der Entwicklung und dem Betrieb von KI-Lösungen konsequent zu berücksichtigen.
• Ausgeprägte Kommunikations- und Beratungskompetenz sowie Freude an der Zusammenarbeit mit Forschungsgruppen und dem Informationssicherheitsbeauftragten (ISB).
• Eine** selbstständige, strukturierte und lösungsorientierte Arbeitsweise**, Eigeninitiative und die Bereitschaft, Verantwortung für neue Themenfelder zu übernehmen.
• **Offenheit **für neue Technologien und die Fähigkeit, sich flexibel auf die dynamische Entwicklung im Bereich Künstliche Intelligenz und Large Language Models einzustellen.
• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift.

Die Position ist auch fürBerufsanfänger*innenmit entsprechenden Vorkenntnissen und Erfahrungen aus Praktika, Studien- oder Abschlussarbeiten geeignet.

Was wir für Sie bereithalten

• **Spannende Tätigkeit:**attraktives Arbeitsumfeld bei einem Weltmarktführer in einer hochinnovativen Schlüsselbranche.
• Praxisbezogene Projekte bieten unseren Mitarbeitenden Gestaltungsfreiraum: Sie motivieren dazu,Innovationen aktiv voranzutreiben und eigene Ideen einzubringen.
• Engagierte Teams fördern Kreativität und Eigenverantwortung: Hier haben Sie die Freiheit, Ihre Ideen zu entwickeln und aktiv mitzugestalten.
• Persönlicher Kontakt ist uns wichtig: Durchstrukturiertes Onboardingerweitern Sie Ihr Netzwerk und kommen gut an unserem Institut an.
• Ihre Bedürfnisse nehmen wir ernst: Die bestmöglicheVereinbarkeit Ihres Berufs- und Privatlebensunterstützen wir durch zeitliche Flexibilität und hybrides Arbeiten.
• Wir schaffen