Backend AI Architect

Role: Backend AI Architect

Location: Reston, VA (100% Onsite)

Type: Contract

Experience Required: 12–14 Years

Core Tech: .NET Core/C#, Distributed Systems, AWS, Kafka, LLM/GenAI, RAG, Redis, CI/CD

Job Description: In this role, you will act as a senior technical leader, architecting enterprise-scale backend platforms that integrate cutting-edge Generative AI capabilities. You will move beyond standard service design to build Inference-aware architectures, focusing on Retrieval Augmented Generation (RAG), cost optimization, and agent-based workflows. This position requires a veteran who can champion Developer Experience (DevEx) while partnering with Data Science and SRE teams to operationalize models with strict SLAs and secure-by-default design patterns.

Key Responsibilities:

• Architecture Leadership: Architect and design secure, highly available backend platforms using .NET and distributed system fundamentals (caching, resilience patterns, fault tolerance).
• AI Platform Strategy: Define and implement AI-augmented backend architectures, including inference routing, batching, and model serving strategies.
• Intelligent Workflows: Design and oversee complex service flows, including RAG (Retrieval Augmented Generation) and autonomous AI Agent architectures.
• Operational Excellence: Promote an "observability-first" design using logs, metrics, and traces, while tuning performance for high-throughput Kafka and SQL/NoSQL environments.
• Security & Governance: Lead threat modeling and identity encryption initiatives, ensuring AI components comply with enterprise safety and responsible AI principles.
• Developer Experience (DevEx): Champion local development tooling and CI/CD quality gates, utilizing AI-assisted insights to improve developer productivity.
• Stakeholder Management: Effectively communicate technical strategy and vision at the executive, product, and engineering levels within a matrixed environment.
• Mentorship: Guide and mentor multi-vendor engineering teams in implementing robust API contracts and runtime platform standards.

Must-Have Technical Skills:

• Technical Depth: 12–14 years of experience with a mandatory focus on the .NET/C# ecosystem for enterprise-scale backends.
• Distributed Systems: Expert knowledge of Microservices, Event-Driven Architecture (Kafka), and API design.
• AI/ML Integration: Hands-on experience developing with LLMs and GenAI services, including prompt engineering and RAG.
• Cloud & Platform: Proficiency in AWS, API Gateways, Service Mesh, and Infrastructure as Code.
• Reliability Engineering: Strong background in observability, incident response, and performance tuning.

Desired Soft Skills:

• Matrix Leadership: Proven experience leading large, multi-vendor teams and managing diverse stakeholders.
• Strategic Vision: Ability to balance long-term platform health with the need for rapid AI innovation.
• Analytical Problem Solving: Exceptional skill in translating complex business requirements into resilient technical solutions.

Please let me know a convenient time for a quick call to discuss your background and this onsite Backend AI Architect project in Reston further.